أنثروبيك تحذر من مرحلة جديدة في تطور الذكاء الاصطناعي

تتسارع وتيرة تطور الذكاء الاصطناعي مع اتساع الدور الذي تؤديه النماذج في كتابة البرمجيات وإجراء التجارب وتحليل النتائج، لكن التحول الأكثر أهمية قد يتمثل في انتقال هذه الأنظمة من مساعدة البشر على تطوير الذكاء الاصطناعي إلى المشاركة في تصميم وتطوير أجيال جديدة منه.

وفي هذا السياق، حذرت شركة أنثروبيك، المطورة لنماذج كلود (Claude)، من اقترابها من مرحلة متقدمة في استخدام الذكاء الاصطناعي لتسريع تطوير أنظمة أكثر قدرة، وهو ما يثير تساؤلات بشأن مستقبل الرقابة البشرية وقدرة الشركات على ضمان سلامة النماذج مع تسارع تطورها.

أخبار مقترحة

وجاء ذلك ضمن إفصاحات الشركة في وثيقة التسجيل المعدلة للاكتتاب العام، التي نشرتها قبل أيام، وتحدثت فيها عن احتمال اقتراب نماذجها من مستوى متقدم فيما يعرف بالتحسين الذاتي التكراري، مع التأكيد أن نماذجها الحالية لم تصل بعد إلى هذه المرحلة بصورة كاملة.

ما التحسين الذاتي التكراري؟

يشير مصطلح التحسين الذاتي التكراري (Recursive Self-Improvement) إلى قدرة أنظمة الذكاء الاصطناعي على المساهمة في تحسين وتطوير أنظمة أخرى أكثر تقدما منها، بما يشمل تصميم البرمجيات وإجراء التجارب وتحليل النتائج والمشاركة في تدريب نماذج جديدة.

وتقوم الفكرة على دورة متتابعة، إذ يساعد نموذج ذكاء اصطناعي في تطوير نموذج أحدث يمتلك قدرات أكبر، ثم يستخدم النموذج الجديد إمكاناته المحسنة للمساهمة في تطوير الجيل الذي يليه، ما قد يؤدي إلى تسارع متراكم في قدرات الأنظمة.

ولا تعني هذه العملية مجرد استخدام روبوت دردشة لكتابة الشيفرات البرمجية أو تنفيذ أوامر يحددها المهندسون، بل تتطلب وصول النظام إلى مستوى يستطيع فيه المشاركة في مراحل متعددة من البحث والتطوير، بدءا من تحديد المشكلات واقتراح الحلول، وصولا إلى تنفيذ التجارب وتقييم نتائجها واقتراح التحسينات.

وبحسب تحليل نشره معهد أنثروبيك، فإن الوصول إلى هذه المرحلة لا يزال احتمالا مستقبليا، لكنه يستدعي الاستعداد لاحتمال تسارع قدرات الذكاء الاصطناعي بوتيرة تفوق التوقعات الحالية.

مؤشرات على تسارع التطوير

تستند مخاوف أنثروبيك إلى مجموعة من المؤشرات المتعلقة بتوسع استخدام نماذجها في عمليات التطوير الداخلية، وفي مقدمتها كتابة الشيفرات البرمجية والمشاركة في التجارب البحثية.

ووفقا لبيانات نشرها معهد الشركة، كتب نموذج كلود أكثر من 80% من الشيفرات البرمجية التي أدمجتها أنثروبيك في قاعدة شيفرتها خلال مايو/أيار الماضي، وهو ما يعكس اتساع الاعتماد على النماذج في أعمال التطوير الهندسي.

كما أشار المعهد إلى أن مهندسي الشركة أصبحوا يدمجون في المتوسط كمية من الشيفرات تعادل نحو ثمانية أضعاف ما كانوا يدمجونه يوميا خلال عام 2024، مع الإشارة إلى أن عدد الأسطر البرمجية لا يمثل وحده مقياسا دقيقا للإنتاجية أو جودة العمل.

وامتد هذا التطور إلى التجارب البحثية، إذ تقول أنثروبيك إن نماذجها باتت قادرة على تنفيذ تجارب محددة، وتعديل الشيفرات المستخدمة فيها، وتحليل النتائج واقتراح تحسينات إضافية.

وفي أحد الاختبارات الداخلية التي أوردها المعهد، ارتفع متوسط تسريع نموذج التدريب المصغر من نحو 3 أضعاف باستخدام "كلود أوبوس 4" في مايو/أيار 2025، إلى نحو 52 ضعفا باستخدام كلود ميثوس بريفيو في أبريل/نيسان الماضي، مقارنة بالشيفرة الأصلية للاختبار، ولا يعني ذلك تسريع تدريب نماذج الذكاء الاصطناعي الكبيرة بالمقدار نفسه، بل يتعلق بتحسين شيفرة تجربة محددة.

وتشير هذه المؤشرات إلى تغير طبيعة العمل داخل مختبرات الذكاء الاصطناعي، إذ بات بإمكان المهندسين تفويض النماذج بجزء متزايد من مهام البرمجة والاختبار، مع احتفاظهم بدور المراجعة واتخاذ القرارات البحثية الأساسية.

فرص علمية ومخاطر متزايدة

يحمل التحسين الذاتي التكراري المحتمل فرصا لتسريع الابتكار في قطاعات مختلفة، خصوصا إذا أسهم في تقليص الوقت والتكلفة اللازمين لإجراء الأبحاث والتجارب المعقدة.

فقد تساعد النماذج الأكثر قدرة الباحثين على تحليل كميات ضخمة من البيانات، واختبار الفرضيات العلمية، وتطوير البرمجيات والأدوات البحثية، فضلا عن تسريع اكتشاف الأدوية والمواد الجديدة وتحسين كفاءة استخدام الموارد الحاسوبية.

لكن هذه الفرص تقابلها مخاطر تتعلق بإمكانية تسارع قدرات النماذج بوتيرة تفوق قدرة البشر على اختبارها ومراقبتها، فكلما زادت مشاركة الأنظمة في تطوير أجيال لاحقة، ازدادت أهمية التأكد من أن التعديلات التي تنفذها لا تؤدي إلى إدخال أخطاء أو سلوكيات غير مرغوب فيها في النماذج الجديدة.

وتحذر أنثروبيك من احتمال انتقال الأخطاء والتحيزات من نموذج إلى آخر، وتراكمها عبر أجيال متعاقبة، بما قد يجعل اكتشافها ومعالجتها أكثر صعوبة، كما تثير مخاوف من أن تتقدم قدرات الأنظمة بوتيرة أسرع من تطوير إجراءات السلامة والمواءمة، الأمر الذي قد يضعف قدرة فرق الاختبار على مواكبة التغيرات.

وتبرز هنا مشكلة الرقابة البشرية، إذ إن قدرة النماذج على إنتاج الشيفرات وإجراء التجارب بسرعة كبيرة قد تجعل مراجعة جميع مخرجاتها تحديا متزايدا، وتزداد أهمية هذه المسألة عندما تنتقل الأنظمة من تنفيذ المهام التقنية إلى اقتراح التجارب واختيار مسارات البحث وتقييم النتائج.

الإنسان في مواجهة تسارع الآلات

تضع هذه التطورات شركات الذكاء الاصطناعي أمام تحد يتجاوز تحسين أداء النماذج، ويتمثل في ضمان مواكبة إجراءات الاختبار والمراجعة لسرعة التطوير.

وتشير أنثروبيك إلى أهمية تعزيز الإشراف البشري على عمليات البحث والتطوير، وتقييم سلامة مراحل التدريب، إلى جانب إمكانية تأجيل بعض العمليات أو إيقافها عندما لا تكون إجراءات الحماية كافية.

كما تبرز الحاجة إلى تنسيق الجهود بين الشركات المطورة للنماذج المتقدمة، حتى لا تدفع المنافسة نحو إطلاق أنظمة أكثر قدرة على حساب متطلبات السلامة والرقابة.

لكن ذلك لا يعني اقتراب الذكاء الاصطناعي من المساهمة في تطوير أجياله اللاحقة أن الآلات أصبحت قادرة على تحسين نفسها بصورة مستقلة تماما، لكنه يشير إلى تحول في طبيعة صناعة هذه التكنولوجيا، حيث يتزايد دور النماذج في المهام التي كانت تعتمد سابقا على المهندسين والباحثين.

ويتمثل التحدي الأساسي في الحفاظ على قدرة الإنسان على فهم هذه الأنظمة والتحقق من نتائجها والتحكم في مسار تطورها، حتى لا تتسع الفجوة بين سرعة تقدم الذكاء الاصطناعي والقدرة على ضمان سلامته.