أخبار عاجلة

أخبار التكنولوجيا : روبوت دردشة X الذكى ينشر معلومات مضللة بين الناخبين الأمريكيين

أخبار التكنولوجيا : روبوت دردشة X الذكى ينشر معلومات مضللة بين الناخبين الأمريكيين
أخبار التكنولوجيا : روبوت دردشة X الذكى ينشر معلومات مضللة بين الناخبين الأمريكيين

الجمعة 13 سبتمبر 2024 10:53 مساءً

نيوز أون لاين - بعد وقت قصير من إعلان جو بايدن أنه أنهى محاولته لإعادة انتخابه، بدأت المعلومات المضللة تنتشر عبر الإنترنت حول ما إذا كان مرشح جديد يمكن أن يحل محل الرئيس، وانتشرت لقطات الشاشة التي ادعت أنه لا يمكن إضافة مرشح جديد إلى بطاقات الاقتراع في تسع ولايات بسرعة عبر تويتر، الذي أصبح الآن X، وحصد ملايين المشاهدات.

وبدأ مكتب وزير خارجية ولاية مينيسوتا في تلقي طلبات للتحقق من صحة هذه المنشورات، والتي كانت خاطئة تمامًا - لم تمر مواعيد الاقتراع، مما أعطى كامالا هاريس متسعًا من الوقت لإضافة اسمها إلى بطاقات الاقتراع.

وبحسب صحيفة theguardian ، فإن مصدر المعلومات المضللة: روبوت الدردشة التابع لشركة تويتر، جروك، فعندما سأل المستخدمون أداة الذكاء الاصطناعي عما إذا كان المرشح الجديد لا يزال لديه الوقت لإضافته إلى بطاقات الاقتراع، أعطى جروك الإجابة غير الصحيحة.

كان العثور على المصدر - والعمل على تصحيحه - بمثابة حالة اختبار لكيفية تفاعل مسؤولي الانتخابات وشركات الذكاء الاصطناعي خلال الانتخابات الرئاسية لعام 2024 في الولايات المتحدة وسط مخاوف من أن الذكاء الاصطناعي قد يضلل الناخبين أو يصرف انتباههم.

كما أظهر الدور الذي يمكن أن يلعبه Grok، على وجه التحديد، في الانتخابات، باعتباره روبوت محادثة مع عدد أقل من الحواجز الواقية لمنع توليد المزيد من المحتوى التحريضي، واتصلت مجموعة من وزراء الخارجية والمنظمة التي تمثلهم، الرابطة الوطنية لوزراء الخارجية، بـ Grok و X للإشارة إلى المعلومات المضللة.

لكن الشركة لم تعمل على تصحيحها على الفور، بل قدمت ما يعادل هز الكتف، كما قال ستيف سيمون، وزير خارجية ولاية مينيسوتا. وقال: "أعتقد أنه من العدل أن نقول إن هذا صدمنا جميعًا، باعتباره استجابة خاطئة حقًا".

لحسن الحظ، كانت هذه الإجابة الخاطئة منخفضة المخاطر نسبيًا: لم تكن لتمنع الناس من الإدلاء بأصواتهم. لكن الوزراء اتخذوا موقفًا قويًا بسرعة بسبب ما قد يأتي بعد ذلك.

وقال سيمون: "في أذهاننا، فكرنا، حسنًا، ماذا لو ارتكب جروك خطأً في المرة القادمة، وكانت المخاطر أعلى؟" ، "ماذا لو كانت الإجابة الخاطئة في المرة القادمة هي، هل يمكنني التصويت، أين أصوت ... ما هي الساعات، أو هل يمكنني التصويت غيابيًا؟ لذلك كان هذا مثيرًا للقلق بالنسبة لنا."

وكان الأمر المقلق بشكل خاص هو حقيقة أن منصة التواصل الاجتماعي نفسها كانت تنشر معلومات كاذبة، بدلاً من قيام المستخدمين بنشر معلومات مضللة باستخدام المنصة، وأعلن السكرتيرون عن جهودهم علنًا، ووقع خمسة من السكرتيرات التسعة في المجموعة على رسالة عامة إلى المنصة ومالكها، إيلون ماسك.

وقد دعت الرسالة شركة X إلى جعل روبوت الدردشة الخاص بها يتخذ موقفًا مشابهًا لأدوات روبوت الدردشة الأخرى، مثل ChatGPT، وتوجيه المستخدمين الذين يطرحون أسئلة تتعلق بالانتخابات على Grok إلى موقع معلومات تصويت غير حزبي موثوق به، CanIVote.

وقد نجح الجهد، حيث يوجه Grok الآن المستخدمين إلى موقع ويب مختلف، vote-gov، عند سؤالهم عن الانتخابات، وكتب ويفريدو فرنانديز، رئيس شؤون الحكومة العالمية في X، إلى السكرتيرات، وفقًا لنسخة من الرسالة حصلت عليها صحيفة الجارديان: "نتطلع إلى الحفاظ على خطوط الاتصال المفتوحة في موسم الانتخابات هذا ونكون على استعداد للرد على أي مخاوف إضافية قد تكون لديكم".

لقد كان انتصارًا للسكرتيرات ولإعاقة المعلومات المضللة عن الانتخابات - ودرسًا في كيفية الاستجابة عندما تفشل الأدوات القائمة على الذكاء الاصطناعي، وقال سيمون إن كشف المعلومات المضللة في وقت مبكر وفي كثير من الأحيان يمكن أن يساعد في تضخيم الرسالة، وإعطائها المزيد من المصداقية وإجبار الاستجابة.

في حين كان "مخيبا للآمال بشدة" في الاستجابة الأولية للشركة، قال سايمون: "أريد أن أشيد وأشكر أيضًا، وهذا مستحق هنا. هذه شركة كبيرة، ذات انتشار عالمي، وقد قررت القيام بالشيء الصحيح والمسؤول، وأنا أشيد بهم لذلك. آمل فقط أن يستمروا في ذلك. سنستمر في المراقبة ".

وصف ماسك جروك بأنه روبوت محادثة "مضاد للاستيقاظ" يقدم إجابات "حارة" غالبًا ما تكون محملة بالسخرية. قال لوكاس هانسن، المؤسس المشارك لـ CivAI، وهي منظمة غير ربحية تحذر من مخاطر الذكاء الاصطناعي، إن ماسك "ضد السيطرة المركزية إلى أي درجة يمكنه القيام بذلك".
هذا الاعتقاد الفلسفي يضع جروك في وضع غير مؤاتٍ لمنع المعلومات المضللة، كما تفعل ميزة أخرى للأداة: جروك يجلب التغريدات الأولى لإبلاغ ردوده، مما قد يؤثر على دقتها، كما قال هانسن.

يتطلب تطبيق Grok اشتراكًا مدفوعًا، لكنه يحمل إمكانية الاستخدام على نطاق واسع لأنه مدمج في منصة وسائط اجتماعية، كما قال هانسن. وبينما قد يعطي إجابات غير صحيحة في الدردشة، فإن الصور التي ينشئها يمكن أن تزيد أيضًا من تأجيج الانقسامات الحزبية.

اشترك فى النشرة البريدية لتحصل على اهم الاخبار بمجرد نشرها

تابعنا على مواقع التواصل الاجتماعى

التالى أخبار التكنولوجيا : إنتل تواجه قيودًا على بيع حصص فى وحدة تصنيع الرقائق