اقرأ من المصدر
القاهرة الاخبارية
كثفت شركات التكنولوجيا الكبرى، وفي مقدمتها OpenAI وAnthropic وجوجل وميتا، جهودها لمواجهة استخدام أدوات الذكاء الاصطناعي في نشر المعلومات المضللة والتأثير على نزاهة الانتخابات الأمريكية، بالتزامن مع انتخابات التجديد النصفي للكونجرس.
وفي السياق، أنشأت شركة OpenAI مركزًا متخصصًا للعمليات الانتخابية داخل أحد مكاتبها بمدينة سان فرانسيسكو، يضم فريقًا من أكثر من عشرة موظفين يعملون على مدار الساعة لمنع إساءة استخدام ChatGPT في التأثير على العملية الانتخابية أو تعطيلها، بحسب صحيفة "نيويورك تايمز".
ويمثل المركز توسعًا كبيرًا في جهود الشركة مقارنة بالاستعدادات التي سبقت الانتخابات الرئاسية عام 2024، عندما كانت تقنيات الذكاء الاصطناعي أقل تطورًا، ولم يكن عدد مستخدمي روبوت المحادثة يتجاوز خُمس عدد مستخدميه الحالي، الذي يبلغ مليار مستخدم.
وقال جوش لوسون، رئيس قسم المخاطر المدنية والاستراتيجية في OpenAI والمسؤول عن قيادة مركز العمليات، إن التهديدات لم تعد تقتصر على المحتوى النصي، موضحًا أن المخاطر الحالية تشمل مقاطع الفيديو والصور المزيفة بتقنية التزييف العميق، والهجمات السيبرانية، وعمليات التأثير التي تنفذها جهات أجنبية ومحلية باستخدام أدوات الذكاء الاصطناعي.
ولا تقتصر هذه التحركات على OpenAI، إذ أنشأت شركةAnthropic، المطورة لروبوت المحادثة Claude، غرفة عمليات خاصة بها للمرة الأولى، ووزعت فرقًا من المحللين في سان فرانسيسكو ونيويورك وواشنطن.
كما تعهدت شركتا جوجل وميتا بتكثيف جهودهما لمنع استغلال أدوات الذكاء الاصطناعي في تقويض الثقة بالعملية الديمقراطية.
وتأتي هذه التحركات في وقت تواجه فيه شركات التكنولوجيا انتقادات متزايدة بشأن عدم اتخاذ إجراءات كافية للحد من المحتوى الضار والمضلل، مع تزايد اندماج تقنيات الذكاء الاصطناعي في الحياة الاجتماعية والسياسية عبر الإنترنت.
فيما أظهر بحث أجراه مركز "برينان" للعدالة التابع لكلية الحقوق بجامعة نيويورك أن روبوتات المحادثة الأكثر انتشارًا تميل عمومًا إلى رفض الاستجابة للاستفسارات المرتبطة بنظريات المؤامرة المتعلقة بالانتخابات، لكنها في الوقت نفسه تنتج نصوصًا وصورًا ومقاطع فيديو يمكن استخدامها في نشر معلومات مضللة وتقويض الثقة بالانتخابات.
وتعيد مراكز العمليات الجديدة إلى الأذهان الخطوة التي اتخذتها شركة ميتا خلال انتخابات التجديد النصفي عام 2018، عندما أنشأت غرفة عمليات لمواجهة التدخلات الخارجية، بعد الجدل الذي أثارته حملة التأثير الروسية عبر منصة "فيسبوك" خلال الانتخابات الرئاسية لعام 2016.
غير أن شركات التواصل الاجتماعي قلصت لاحقًا فرق الثقة والسلامة لديها، بما في ذلك الفرق المسؤولة عن رصد المعلومات الانتخابية المضللة، وسط ضغوط من الجمهوريين وإدارة الرئيس دونالد ترامب، التي اتهمت هذه المنصات بممارسة الرقابة على وجهات النظر المحافظة.
وتزامن تقليص هذه الجهود مع الانتشار المتسارع لتقنيات الذكاء الاصطناعي، ما أثار مخاوف بشأن قدرتها على إنتاج محتوى زائف أكثر إقناعًا، واستخدامه للتأثير على ثقة الجمهور في نزاهة الانتخابات.
وحذرت لورين بروتينتيس، المسؤولة الحكومية السابقة التي أشرفت على ملف التأثير الأجنبي الخبيث داخل مجلس الأمن القومي خلال إدارة الرئيس السابق جو بايدن، من أن الاعتقاد بتراجع هذه التهديدات سيكون خطأ، مشيرة إلى أن التطور التكنولوجي جعلها أكثر تأثيرًا وقدرة على الإقناع.
وكانت OpenAI أطلقت مركز عملياتها الانتخابية الخميس الماضي، بمشاركة عشرات الموظفين المتخصصين في رصد إساءة استخدام روبوت المحادثة الأكثر انتشارًا في العالم، بالتعاون مع مركز فرعي في العاصمة واشنطن.
ويراقب الفريق الطلبات التي ترصدها أنظمة الشركة تلقائيًا، عندما تتضمن محاولات لإنشاء نصوص أو صور مضللة تتعلق بالانتخابات.
ومن بين السيناريوهات التي تستهدف الشركة رصدها، استخدام ChatGPT لتصميم حملات تأثير تتضمن نشر ادعاءات كاذبة بشأن التلاعب ببطاقات الاقتراع، ثم توزيعها عبر منصات التواصل الاجتماعي باستخدام حسابات مزيفة.
وتعمل الشركة على إخطار منصات التواصل الاجتماعي عندما ترصد أنشطة ضارة تستهدف نشر محتوى مضلل عبر خدماتها.
