اقرأ من المصدر
مصراوي
لم تعد الإجابات الخاطئة التي تنتجها أدوات الذكاء الاصطناعي مجرد أخطاء عابرة؛ فقد تقدم هذه الأدوات معلومات غير صحيحة في صياغة متماسكة، وتنسب تصريحات إلى أشخاص لم يقولوها، أو تستشهد بدراسات ومراجع لا وجود لها، دون أن يبدو على إجاباتها أي تردد.
وتعرف هذه الظاهرة باسم "هلوسة الذكاء الاصطناعي"، وهي من أبرز التحديات التي تواجه موثوقية النماذج التوليدية، خصوصا مع توسع استخدامها في البحث وإعداد التقارير وصناعة المحتوى.
وتكمن خطورة هذه الظاهرة في أن المستخدم قد لا يستطيع التمييز بسهولة بين المعلومة الصحيحة والمعلومة المختلقة، خاصة عندما تقدم الإجابة تفاصيل دقيقة وأسماء وتواريخ ومصادر تبدو حقيقية.
لكن لماذا تحدث هذه الأخطاء؟ ولماذا لا تتوقف النماذج عن الإجابة عندما لا تعرف المعلومة؟ وكيف يمكن اكتشافها قبل الاعتماد عليها أو نشرها؟
يشير مصطلح "الهلوسة" إلى إنتاج نموذج الذكاء الاصطناعي معلومات غير صحيحة أو مضللة، وتقديمها باعتبارها إجابة مناسبة للسؤال، رغم أنها لا تستند إلى حقائق موثوقة أو أدلة كافية.
ولا تقتصر هذه الأخطاء على تقديم معلومة تاريخية غير دقيقة أو رقم خاطئ، بل قد تمتد إلى اختلاق أسماء أشخاص، أو دراسات علمية، أو روابط ومراجع، أو اقتباسات ينسبها النموذج إلى شخصيات ومؤسسات.
ولا تعني الهلوسة أن النموذج يتعمد الكذب بالمعنى البشري، وإنما تشير إلى إنتاج محتوى يبدو منطقيا من الناحية اللغوية، لكنه لا يتطابق مع الواقع أو المعلومات المتاحة.
يرتبط أحد الأسباب الأساسية بطريقة عمل نماذج اللغة؛ فهي تتعلم من كميات ضخمة من النصوص والبيانات، وتولد الإجابات عبر توقع الكلمات أو الأجزاء اللغوية الأكثر ملاءمة للسياق، وليس من خلال الرجوع التلقائي إلى قاعدة حقائق مؤكدة والتحقق من كل معلومة قبل عرضها.
وبالتالي، قد ينتج النموذج جملة تبدو منطقية ومتسقة مع السؤال، حتى عندما لا يمتلك معلومات كافية للإجابة عنه بدقة. كما يمكن أن تؤدي المعلومات الناقصة أو المتضاربة في بيانات التدريب، أو صياغة السؤال بصورة غامضة، إلى زيادة احتمالات تقديم إجابات غير صحيحة.
وفي دراسة نشرتها شركة OpenAI في سبتمبر 2025 بعنوان "Why language models hallucinate"، تناول الباحثون أسباب استمرار هذه الظاهرة، موضحين أن أساليب تدريب النماذج وتقييمها قد تشجعها أحيانا على التخمين بدل الاعتراف بعدم معرفة الإجابة.
وأشارت الدراسة إلى أن بعض أساليب التقييم تكافئ النموذج على تقديم إجابة، حتى عندما تكون غير صحيحة، بينما لا تمنح الاعتراف بعدم المعرفة التقدير نفسه؛ وهو ما قد يشجع على التخمين عندما تكون المعلومات غير كافية.
من أكثر الجوانب المربكة في هلوسة الذكاء الاصطناعي أن المعلومة المختلقة قد تأتي في صياغة حاسمة ومنظمة، وكأنها حقيقة مؤكدة، وهو ما قد يجعل المستخدم يثق بها دون مراجعة.
لكن الطلاقة اللغوية لا تعني بالضرورة الدقة؛ فالنموذج مصمم لإنتاج نص مترابط ومناسب للسياق، ولا تعكس نبرة الإجابة وحدها مدى صحة المعلومات التي تتضمنها.
وتزداد المشكلة عندما يطلب المستخدم تفاصيل محددة، مثل اسم دراسة أو تاريخ واقعة أو تصريح لشخصية عامة؛ فقد ينتج النموذج تفاصيل تبدو واقعية رغم عدم وجود سند لها.
كما أن بعض النماذج لا تعبر بصورة موثوقة عن حدود معرفتها، وقد لا تميز دائمًا بين المعلومات التي تستند إلى أدلة قوية وتلك التي تنتجها اعتمادًا على الأنماط اللغوية والسياق.
تستطيع النماذج اختلاق مصادر، فمن صور الهلوسة أن ينشئ النموذج مرجعا يبدو أكاديميا، أو ينسب معلومة إلى دراسة غير موجودة، أو يقدم رابطا لا يقود إلى المصدر المذكور.
وتكتسب هذه المشكلة أهمية خاصة في العمل الصحفي والبحث العلمي؛ لأن وجود اسم مؤسسة أو عنوان دراسة أو رابط بجوار المعلومة قد يمنحها مظهرا من المصداقية، لكنه لا يثبت صحتها.
ويحذر المعهد الوطني الأمريكي للمعايير والتكنولوجيا، في ملفه الخاص بمخاطر الذكاء الاصطناعي التوليدي، من إنتاج معلومات خاطئة أو مضللة، بما في ذلك الاستشهادات والمراجع المختلقة التي قد تبدو وكأنها تدعم الإجابة.
لا توجد طريقة واحدة تضمن اكتشاف جميع الأخطاء، لكن هناك أساليب بحثية وتقنية تساعد على رصد بعض الإجابات غير الموثوقة، إلى جانب خطوات عملية تقلل احتمالات الاعتماد على معلومات مختلقة.
وفي دراسة نشرتها مجلة "Nature"، بحث العلماء في استخدام مفهوم "الإنتروبيا الدلالية" للمساعدة في اكتشاف الهلوسة، من خلال تحليل مدى اختلاف المعاني بين الإجابات التي ينتجها النموذج عند تكرار السؤال. ويستهدف هذا الأسلوب تقدير مدى اليقين في الإجابة، لكنه لا يمثل وسيلة مضمونة لاكتشاف جميع أنواع الأخطاء.
أما عند استخدام الذكاء الاصطناعي في إعداد الأخبار والتقارير، فيمكن اتباع عدد من الخطوات للتحقق من المعلومات، أبرزها، الرجوع إلى المصدر الأصلي للمعلومة، وعدم الاكتفاء بالملخص الذي يقدمه النموذج أو بالرابط الذي يقترحه والتحقق بصورة مستقلة من الأسماء والأرقام والتواريخ والاقتباسات، بينما من الخطوات الأخرى مقارنة الإجابة بمصادر مستقلة وموثوقة، والتأكد من أن كل مصدر يدعم المعلومة المحددة.
