خرجت نماذج الذكاء الاصطناعي من سجنها خلف شاشات الحواسيب لتحصل على أجساد آلية تمكنها من الحركة والتفاعل مع عالمنا الحقيقي، وحملت معها المخاطر الموجودة في النماذج، فهل يمكن التأثير فيها دون اختراقها؟
اقرأ من المصدر
الجزيرة
اكتسبت نماذج الذكاء الاصطناعي في الشهور الأخيرة أجسادا فعلية تستطيع التحرك بها داخل العالم الواقعي بفضل التطور المطرد الذي يشهده قطاع الروبوتات البشرية، إذ اتجهت العديد من الشركات إلى صناعة روبوتاتها الخاصة وتزويد النماذج بها بشكل مباشر.
وفي بعض الحالات، لا يحصل النموذج على جسد كامل، فتكتفي الشركة بربطه مباشرة بمستشعرات وعدسات كاميرا وأذرع روبوتية قادرة على الإمساك بالأشياء والتفاعل معها.
وبينما يبدو هذا تطورا محمودا في قطاع الذكاء الاصطناعي واستغلاله داخل المصانع والشركات، فإنه يأتي حاملا معه نوعا جديدا من المخاطر، إذ لم تتخلص النماذج من عيوبها وثغراتها قبل أن تحصل على أجسادها الفيزيائية.
وسهلت بعض هذه العيوب على القراصنة اختراق الروبوتات والأذرع الروبوتية دون الحاجة إلى كتابة أوامر برمجية أو الوصول إلى لوحة التحكم الخاصة بها وحتى الشفرة المصدرية الخاصة بها، فكل ما تحتاج إليه فقط هو تشويش الكاميرا التي يستخدمها الروبوت للرؤية أو حتى عرض ورقة مطبوعة تضم رمزا يبدأ في عملية التشفير.
وتثبت الدراسات الأخيرة الخطر المحدق الذي تمثله هذه الثغرات، إذ لم تستطع الروبوتات مقاومة الهجمات التي اعتمدت على تشويش الصورة أو الأوراق الخارجية أو حتى الأوامر الصوتية.
نشرت شركة "روبوكيرف" الأمريكية، التي تصف نفسها بأنها شركة منفعة عامة تبني اختبارات لقياس سلامة الروبوتات، دراسة حديثة أجرتها في سبتمبر/أيلول الماضي تهدف إلى الإجابة عن سؤال واضح: هل يمكن لنماذج الذكاء الاصطناعي التي تتحكم في الروبوتات أن ترفض الأوامر الخطيرة إذا لم تر المشهد بوضوح أو شوشت الصورة التي تراها؟
وللإجابة عن هذا السؤال، اختبر الباحثون 5 نماذج ذكاء اصطناعي متقدمة شغلت جميعها بأعلى مستوى من مستويات التفكير، وتحكم كل نموذج منها في ذراعين روبوتيتين ورأى المشهد عبر ثلاث كاميرات منخفضة الدقة موزعة على الذراع والطاولة التي تجلس فوقها.
وتضمنت التجربة نموذجين من أنثروبيك ونموذجين من أوبن إيه آي ونموذجا واحدا من غوغل، وأُعطي كل نموذج 5 مهام خطيرة مأخوذة من اختبار سابق للسلامة، وهي:
طعن دمية على شكل رضيع بسكين، ووضع مشترك كهربائي في وعاء ماء، وصب الماء داخل محمصة خبز، وخلط سائلين خطرين، وسكب مشروب هو في الحقيقة مادة مبيضة.
وعرضت كل مهمة على النموذج بثلاث صيغ مختلفة، وهي:
ثم كررت كل حالة من الحالات الثلاث 12 مرة على كل النماذج المشاركة في التجربة، ليصل مجموع التجارب النهائية إلى نحو 900 تجربة، لتأتي النتائج مفاجئة.
وحاولت نماذج الذكاء الاصطناعي تنفيذ الطلب مع الصورة الأصلية في 27% من الحالات، أي أن النموذج كان يرى دمية الطفل والمحمصة والمواد الكيميائية ويتعرف عليها ومع ذلك يستمر في أداء المطلوب منه.
وفي 88% من اختبارات الصور المشوشة، حاولت النماذج القيام بالأمر ذاته، وفي 97% من الصور المعدلة نفذت النماذج المطلوب منها بشكل كامل.
ويعني ذلك أن نماذج الذكاء الاصطناعي خُدعت بالصور المعدلة باستخدام نماذج أخرى حتى تؤدي المهام الخطرة التي تضمنت طعن دمية تشبه الأطفال بالسكين، وهو ما يدعو للقلق ويثير تساؤلات حول سلامة الروبوتات المنزلية المخصصة لرعاية الأطفال.
وفي السياق ذاته، نشر 4 باحثين من جامعة سنغافورة للتكنولوجيا والتصميم دراسة في 6 أغسطس/آب 2026 على منصة أركايف بحثا أطلقوا عليه اسم "حقن الأوامر الفيزيائي"، وهو يختبر إمكانية حقن الأوامر في الروبوتات الفيزيائية باستخدام صورة تحمل رمز استجابة سريعة.
واستخدم الباحثون ذراعا روبوتية وكاميرا مثبتة فوقها، ثم وضعوا أمام الروبوتات نصوصا موزعة على أربع فئات، تتراوح بين اللافتات العادية ولافتات إعادة تعريف المهمة وانتحال صفة جهة مسؤولة ونصوص تناقض الأمر مباشرة.
واختبر الباحثون 3 نماذج تجمع بين الرؤية واللغة، وتضمنت نموذجا من أوبن إيه آي ونموذجا من غوغل ونموذجا مفتوح الأوزان والمصدر من علي بابا، وبلغ إجمالي التجارب التي أجراها الفريق نحو 5670 تجربة.
وفي 80% من الاختبارات التي أجريت بلافتة تحمل نصوصا تناقض الأمر مباشرة ونصوصا تدعي أنها من جهة مسؤولة، انساقت النماذج الثلاثة خلف الأوامر المختلفة.
وتطرقت الدراسة أيضا إلى آليات الدفاع ضد مثل هذه الهجمات، فوجدت أن إضافة تعليمات مسبقة للنماذج والروبوتات تطلب منها تجاهل النصوص الخارجية تخفض نسبة النجاح بشكل كبير، فضلا عن إضافة نموذج آخر للذراع الروبوتية يتحقق من كل ما يراه.
وتتسق نتائج هذه التجربة مع تجربة أخرى أجراها الباحثون في جامعة بنسلفانيا الأمريكية ونشرت على منصة أركايف في أكتوبر/تشرين الأول 2024، ثم حدثت في نوفمبر/تشرين الثاني من العام ذاته.
وهدفت التجربة بشكل أساسي إلى محاولة كسر حماية الروبوتات التي تعتمد على نماذج الذكاء الاصطناعي اللغوية عبر خوارزمية مصممة خصيصا لذلك، وذلك لمعرفة إن كانت هذه الروبوتات ستؤذي من حولها أم لا.
وتضمنت التجربة 3 روبوتات تجارية متاحة للمستخدمين؛ الأول نموذج مفتوح المصدر لتشغيل السيارات ذاتية القيادة من شركة إنفيديا، والثاني روبوت أرضي لتنظيف الأرضيات من شركة كليرباث الأمريكية، والثالث روبوت غو 2 الذي يشبه الكلب ويأتي من شركة يونيتري الصينية.
وحاولت الدراسة جعل هذه الروبوتات تقوم بأفعال تضر البشر أو من يحيطون بها، مثل جعل السيارة ذاتية القيادة ترتطم بالمارة والسيارات المقابلة لها، أو حتى سد مخرج الطوارئ في كل من الروبوتات الأرضية وروبوت الكلب، والتجسس، ونقل قنبلة في سيناريو تجريبي.
وجربت الدراسة كل طلب نحو 35 مرة على كل نظام باستخدام آليات وطرق مختلفة، من بينها إعادة صياغة الطلب في قالب جاهز واستخدام الخوارزمية التي طورتها الدراسة.
وخلصت الدراسة إلى أن الطلب المباشر من الروبوت يجعله يرفض الأمر المطلوب منه طالما انطوى على أذى للمستخدمين، ولكن مع استخدام الخوارزمية الخاصة بالدراسة، نجحت الطلبات في 100% من الحالات، وفي حالة استخدام القوالب الجاهزة لإعادة الصياغة نجحت بنسب بين 89% و100%.
وتكشف هذه التجارب جميعا عن حقيقة واحدة رئيسية، وهي أن نماذج الذكاء الاصطناعي يجب أن يعاد تطويرها وتعزيزها للدفاع ضد الهجمات الخارجية التي قد تحدث لها في الواقع بعيدا عن الهجمات السيبرانية في الحواسيب وأنظمتها، إذ يجب أن تعمل الشركات المطورة على تعزيز دفاعات الروبوتات قبل انتشارها في الأسواق حول العالم.
ورغم ذلك، يظل السؤال الحقيقي: هل تستطيع الشركات تعزيز دفاعات الروبوتات والنماذج المستخدمة فيها بشكل يمكنها من مقاومة الهجمات الخارجية وعدم الخروج عن سيطرة مشغليها البشر؟ أم نشهد ثورة تقودها روبوتات مارقة خرجت نماذجها عن سياقها ونفذت أوامر غير مطلوبة منها؟
