للحد من العنف.. OpenAI تشدد القيود على معلومات الأسلحة للمراهقين عبر ChatGPT

أعلنت شركة OpenAI عن إجراءات وقائية جديدة لتشديد القيود على المعلومات المتعلقة بالأسلحة التي يتيحها روبوت الدردشة ChatGPT للمراهقين، وذلك في إطار جهودها للحد من مخاطر العنف ومنع إساءة استخدام تقنيات الذكاء الاصطناعي، حتى عندما تبدو الأسئلة المطروحة غير ضارة.

OpenAI تشدد القيود على معلومات الأسلحة للمراهقين عبر ChatGPT

وحسب ما نشرته وكالة أنباء رويترز، تتضمن الإجراءات الجديدة تقييد الوصول إلى المعلومات العملية المتعلقة بالأسلحة وأنظمة الأمن التي يمكن استغلالها في إلحاق الضرر بالآخرين، على أن تُطبق هذه القيود على المستخدمين الذين تقل أعمارهم عن 18 عامًا، حتى في حال عدم وجود مؤشرات واضحة على نيتهم ارتكاب أعمال عنف.

كما أوضحت الشركة أن ChatGPT سيحصل على آليات تتيح له إنهاء المحادثات تلقائيًا مع جميع المستخدمين عند رصد انشغال متكرر أو مفرط بالعنف، مع إمكانية تعليق الحسابات مؤقتًا بعد تكرار هذه المحادثات، فضلًا عن تقليل التفاصيل المتعلقة بالهجمات الجماعية السابقة، بما يشمل أنواع الأسلحة المستخدمة وطرق الحصول عليها.

نظام التنبؤ بأعمار المستخدمين

وعززت OpenAI نظام التنبؤ بأعمار المستخدمين، بهدف تحويل الحسابات التي يُرجح أن أصحابها دون 18 عامًا إلى تجربة مخصصة للمراهقين، كما تعتزم إخطار أولياء الأمور في حال إيقاف حساب أحد أبنائهم بسبب تكرار مناقشة موضوعات العنف، ومن المقرر بدء تطبيق إجراءات الحماية الجديدة خلال الأسابيع القليلة المقبلة مع مواصلة تطويرها.

وتأتي هذه الخطوات وسط تزايد التدقيق في مخاطر روبوتات الدردشة على المستخدمين صغار السن، خاصة بعد تقرير سابق لـ OpenAI أشار إلى أن المراهقين يقضون أقل من 15 دقيقة يوميًا في المتوسط على ChatGPT.

فيما كشف تقرير لمنظمة Common Sense Media أن النسخة المخصصة للمراهقين قد تتأخر في تنبيه أولياء الأمور، أو لا تنبههم مطلقًا، عند رصد محادثات تتعلق بالانتحار أو إيذاء النفس أو اضطرابات الأكل.