تشدد أوبن إيه آي قيود الوصول إلى معلومات الأسلحة في شات جي بي تي للمراهقين، وتطور آليات رصد المحادثات، وتعزز الرقابة الأبوية للحد من مخاطر العنف وإيذاء الآخرين.
اقرأ من المصدر
الجزيرة
تتجه شركة أوبن إيه آي إلى تعزيز إجراءات السلامة في روبوت المحادثة شات جي بي تي، من خلال تقييد وصول المستخدمين المراهقين إلى المعلومات التطبيقية المتعلقة بالأسلحة، وتطوير آليات لرصد المحادثات التي قد تكشف عن مؤشرات على التفكير في ممارسة العنف أو إيذاء الآخرين.
وتأتي هذه الخطوة ضمن مساعي الشركة للحد من مخاطر إساءة استخدام أدوات الذكاء الاصطناعي، وتعزيز حماية القاصرين من المحتوى الذي قد يسهم في التخطيط لأعمال مؤذية أو تسهيل تنفيذها.
وأعلنت الشركة مجموعة من التحديثات التي تشمل الحد من تقديم المعلومات العملية المتعلقة بالأسلحة وأنظمة الحماية الأمنية، إلى جانب توسيع نطاق التدخل عند ظهور مؤشرات تستدعي القلق بشأن سلامة المستخدم أو المحيطين به، ولا تقتصر هذه الإجراءات على الطلبات التي تتضمن تهديدات صريحة، بل قد تشمل أسئلة تبدو عادية عند النظر إليها منفردة، إذا أظهر سياق المحادثة نمطا يثير مخاوف تتعلق بالسلامة.
تستهدف السياسة الجديدة الحد من وصول المراهقين إلى التفاصيل التي يمكن استخدامها للحصول على الأسلحة أو تشغيلها أو توظيفها في الاعتداء على الآخرين، وتسعى الشركة من خلال ذلك إلى منع تحول إجابات شات جي بي تي إلى إرشادات عملية يمكن استغلالها في تنفيذ أعمال عنف، حتى عندما لا يعبّر المستخدم صراحة عن نية مؤذية.
وفي إجراء منفصل يشمل جميع المستخدمين، قررت أوبن إيه آي تشديد القيود على التفاصيل المرتبطة بحوادث إطلاق النار الجماعي، بما في ذلك أنواع الأسلحة والمعدات المستخدمة، وطرق حصول منفذي الهجمات عليها، والمقارنات التفصيلية لحجم الأضرار التي تسببت فيها.
ولا يعني ذلك حظر مناقشة هذه الحوادث بالكامل، إذ ستظل المعلومات التاريخية والاجتماعية المتعلقة بها متاحة، إلى جانب النقاشات التي تتناول آثارها في الضحايا والمجتمعات وسبل الوقاية من العنف، ويهدف هذا التمييز إلى الحفاظ على الاستخدامات الصحفية والأكاديمية والتوعوية للمعلومات، مع الحد من التفاصيل التي قد تتحول إلى تعليمات قابلة للتطبيق.
يمثل توسيع نطاق رصد المحادثات أحد أبرز جوانب التحديثات الجديدة، إذ تسعى الشركة إلى تجاوز التعامل مع كل سؤال بصورة منفصلة، والاستفادة من سياق التفاعل والطلبات المتكررة لتحديد الأنماط التي قد تشير إلى اهتمام المستخدم بإيذاء الآخرين.
وبموجب هذه الإجراءات، قد ينهي شات جي بي تي المحادثة تلقائيا إذا رصد مؤشرات على التفكير في ارتكاب أعمال عنف أو إلحاق أذى جسيم بشخص آخر، وإذا تكرر إنهاء المحادثات للسبب نفسه، فقد تتخذ الشركة إجراءات إضافية تشمل تعليق الحساب مؤقتا.
وتقول أوبن إيه آي إنها تعمل مع خبراء في مجالات السلامة والوقاية من العنف لتطوير وسائل التدخل المبكر، إلى جانب الإجراءات المعمول بها حاليا لتقييد الحسابات أو حظرها عند مخالفة سياسات الاستخدام.
لكن هذه الآلية تضع الشركة أمام تحدٍّ تقني يتعلق بالتمييز بين الاهتمام المعرفي المشروع والسلوك الذي قد ينطوي على خطر حقيقي، فالبحث في الأسلحة أو حوادث العنف قد يكون جزءا من دراسة أكاديمية أو تحقيق صحفي، ولا يمثل بالضرورة مؤشرا على نية إجرامية، لذلك تعتمد فاعلية النظام على قدرته على فهم السياق وتجنب التصنيف الخاطئ للمستخدمين.
تتضمن الإجراءات أيضا الاعتماد على نظام تقدير أعمار المستخدمين، الذي يحدد الحسابات التي يُرجح أن أصحابها دون 18 عاما، ويطبق عليها تلقائيا إعدادات أكثر تشددا في التعامل مع المحتوى الحساس.
ووفقا لمركز مساعدة أوبن إيه آي، يستند النظام إلى مجموعة من المؤشرات، تشمل الموضوعات التي يناقشها المستخدم، وأوقات نشاطه، وأنماط استخدامه للخدمة، وعمر الحساب، بدلا من الاعتماد حصرا على تاريخ الميلاد المدخل عند التسجيل.
وتقر الشركة بإمكانية وقوع أخطاء في عملية التقدير، ولذلك تتيح للبالغين الذين صُنفت حساباتهم ضمن فئة القاصرين التحقق من أعمارهم عبر خدمة بيرسونا (Persona)، المتخصصة في التحقق من الهوية والعمر، لاستعادة تجربة الاستخدام المخصصة للبالغين بعد إثبات تجاوزهم 18 عاما.
وبالتوازي مع ذلك، تعمل الشركة على تطوير أدوات الرقابة الأبوية التي تتيح للوالدين ربط حساباتهم بحسابات أبنائهم المراهقين وإدارة بعض إعدادات السلامة، كما تعتزم إرسال إشعارات في حالات محددة، من بينها تعليق حساب المراهق نتيجة تكرار المحادثات المرتبطة بالعنف.
ولا تمنح هذه الأدوات الوالدين صلاحية الاطلاع على سجل محادثات أبنائهم، إذ تقول الشركة إنها تحافظ على خصوصية الرسائل، مع إتاحة تنبيهات بشأن بعض المخاطر التي قد تستدعي تدخل الأسرة.
رغم أن توسيع إجراءات السلامة يوفر طبقة إضافية من الحماية، فإنه يثير تساؤلات بشأن حدود المراقبة الآلية، ومدى دقة الأنظمة في تحديد السلوكيات الخطرة دون تقييد الاستخدامات المشروعة، فالتوسع في حجب المعلومات المتعلقة بالأسلحة والعنف قد يؤثر في الأبحاث والدراسات التاريخية والصحفية إذا لم تكن معايير التصنيف واضحة ودقيقة.
كما أن الاعتماد على تقدير العمر الآلي قد يؤدي إلى إخضاع بعض البالغين لقيود مخصصة للقاصرين، في حين تظل القدرة على اكتشاف المخاطر في الوقت المناسب تحديا قائما أمام أنظمة الذكاء الاصطناعي.
وفي هذا السياق، أشارت وكالة رويترز إلى تقرير لمنظمة كومن سينس ميديا (Common Sense Media) نُشر في أكتوبر/تشرين الأول الماضي، وانتقد تأخر بعض إشعارات السلامة الموجهة إلى الوالدين أو عدم وصولها في حالات تضمنت محادثات عن الانتحار وإيذاء النفس واضطرابات الأكل. وتكشف هذه الانتقادات عن صعوبة ضمان الاستجابة المناسبة للمخاطر، حتى مع وجود أدوات متقدمة للرصد والتدخل.
وأعلنت أوبن إيه آي أنها ستبدأ تطبيق إجراءات الحماية الجديدة خلال الأسابيع المقبلة، على أن تنشر أول تقرير للسلامة المجتمعية مطلع عام 2027، يتضمن بيانات وأمثلة مجهولة الهوية حول كيفية اكتشاف السلوكيات المرتبطة بالعنف والتعامل معها، مع إصدار تحديثات دورية كل ستة أشهر.
وتعكس هذه الخطوات توجها نحو توسيع مفهوم السلامة في روبوتات المحادثة، من حجب الإجابات الضارة إلى تحليل سياق التفاعل والتدخل عند ظهور مؤشرات خطر، غير أن نجاح هذه السياسة سيظل مرتبطا بدقة أدوات الرصد وشفافية معاييرها، وقدرتها على حماية المراهقين دون التضييق على وصول المستخدمين إلى المعلومات المشروعة.
