هلوسة الذكاء الاصطناعي: لماذا يختلق إجابات مقنعة وكيف تكشفها؟

الهلوسة في الذكاء الاصطناعي هي أن يقدم النموذج معلومة خاطئة أو مختلقة بصياغة واثقة. يسميها ملف مخاطر الذكاء الاصطناعي التوليدي الصادر عن NIST «الاختلاق» (confabulation)، ويصفها بأنها توليد محتوى خاطئ وعرضه بثقة، وينبه إلى أن الرد قد يتضمن منطقًا أو مراجع مختلقة تبدو كأنها تبرر الإجابة.

لماذا يحدث ذلك؟ لأن النموذج يتعلم التنبؤ بالكلمة التالية من نصوص ضخمة لا تحمل علامة «صحيح» أو «خاطئ». الأنماط المتكررة مثل الإملاء والنحو تصبح موثوقة، أما الحقائق النادرة والعشوائية، كتاريخ ميلاد شخص غير مشهور، فلا يمكن استنتاجها من الأنماط. هذا ما يشرحه بحث OpenAI عن أسباب الهلوسة المنشور في سبتمبر 2025، مضيفًا سببًا ثانيًا: كثير من اختبارات التقييم تكافئ التخمين أكثر من قول «لا أعرف».

إذا أردت فهم آلية التنبؤ نفسها، فارجع إلى كيف تعمل النماذج اللغوية الكبيرة. أما هنا فننتقل مباشرة إلى الحالات. الأمثلة الأربعة التالية افتراضية، صغناها لتشبه ما يواجهه المستخدم العربي فعلًا.

الحالة الأولى: مراجع غير موجودة

مثال: طالبة ماجستير في الأردن تطلب «خمس دراسات عربية منشورة عن أثر التعليم الإلكتروني على تحصيل طلاب الجامعات، مع اسم المجلة والسنة». يأتي الرد بقائمة مرتبة: أسماء باحثين عرب حقيقية الوقع، ومجلات تحمل أسماء جامعات معروفة، وسنوات بين 2018 و2022. شكل القائمة مثالي، لكن ثلاثة عناوين منها لا وجود لها.

هذا النمط موثق بحثيًا. دراسة لـ Walters وWilder نُشرت في مجلة Scientific Reports عام 2023 طلبت من ChatGPT كتابة مراجعات أدبية قصيرة، ثم فحصت 636 مرجعًا. وجد الباحثان أن 55% من مراجع GPT-3.5 و18% من مراجع GPT-4 مختلقة لا تقابل أي عمل منشور. النسبة انخفضت مع النموذج الأحدث، لكنها لم تختفِ. والدراسة فحصت نماذج عام 2023، فلا تعامل أرقامها كوصف دقيق لأي أداة تستخدمها اليوم، بل كدليل على أن النمط حقيقي ويستحق الفحص.

كيف تكشفها؟

• ابحث عن العنوان بين علامتي تنصيص في قاعدة بيانات أكاديمية أو في موقع المجلة نفسها.
• تحقق أن المجلة موجودة وأنها أصدرت عددًا في تلك السنة.
• افتح المرجع واقرأ ملخصه: هل يتحدث فعلًا عن الموضوع المنسوب إليه؟

الحالة الثانية: أرقام مخترعة بدقة مريبة

مثال: صاحب شركة ناشئة في دبي يسأل «ما نسبة الشركات الصغيرة والمتوسطة في الإمارات التي تستخدم الذكاء الاصطناعي؟». يأتي الرد: «وفقًا لتقديرات حديثة، تبلغ النسبة نحو 43.7%». الرقم محدد بكسر عشري، ومنسوب إلى «تقديرات» بلا جهة.

الدقة العشرية هنا لا تعني الدقة الفعلية. النموذج تعلم أن الإجابات الإحصائية تأتي عادة بأرقام محددة، فينتج رقمًا بهذا الشكل. وقد يكون هناك رقم حقيقي قريب لكنه يخص سنة أخرى أو بلدًا آخر أو تعريفًا مختلفًا للشركة الصغيرة.

كيف تكشفها؟

• اسأل: من الجهة التي أصدرت الرقم؟ وفي أي سنة؟ وما تعريفها للفئة المقيسة؟
• ابحث في موقع الجهة الإحصائية الرسمية في البلد المعني قبل أي مصدر آخر.
• إذا لم تجد الرقم في مصدر أصلي، فلا تنشره حتى لو تكرر في مواقع عديدة.

الحالة الثالثة: اقتباس منسوب إلى غير قائله

مثال: موظف علاقات عامة في القاهرة يطلب «اقتباسًا ملهمًا عن الابتكار لكاتب عربي معروف لافتتاحية النشرة الشهرية». يقدم النموذج عبارة جميلة عن «التسويق الرقمي وريادة الأعمال» وينسبها إلى جبران خليل جبران. العبارة سلسة، لكنها تستخدم مفاهيم لم تكن متداولة في زمن الكاتب.

هذا النمط شائع لأن النموذج يربط بين أسلوب الكاتب وموضوع الطلب، فيولد نصًا «يشبه» ما قد يقوله. النتيجة اقتباس لا مصدر له، يُنشر باسم شخص حقيقي، وقد ينتشر بعد ذلك ويصعب تصحيحه.

كيف تكشفها؟

• ابحث عن الاقتباس في نص الكتاب الأصلي أو في طبعة موثوقة، لا في مواقع الاقتباسات المجمعة.
• انتبه للمفارقة الزمنية: مصطلح حديث على لسان كاتب من قرن مضى إشارة قوية للاختلاق.
• إن لم تجد المصدر، استخدم العبارة دون نسبتها لأحد، أو اكتب افتتاحيتك بكلماتك.

الحالة الرابعة: إجابة واثقة عن سؤال مبني على خطأ

مثال: ولي أمر يسأل «لماذا ألغت مصر امتحانات الثانوية العامة عام 2024؟». السؤال نفسه يفترض حدثًا لم يقع. لكن بدل تصحيح الافتراض، قد يبني النموذج إجابة كاملة: أسباب تربوية، وقرارات وزارية، وبدائل للتقييم، كلها مختلقة.

يسمى هذا النوع الأسئلة ذات الافتراض الخاطئ. بحث CREPE المنشور في مؤتمر ACL 2023 جمع أسئلة من منتديات على الإنترنت، ووجد أن نحو ربعها يتضمن افتراضات خاطئة. كما وجد أن النماذج تستطيع تحديد الافتراض بدرجة معقولة، لكنها تتعثر في الحكم على صحته.

كيف تكشفها؟

• قبل قراءة الإجابة، اسأل نفسك: هل الحدث الذي يفترضه سؤالي مؤكد؟
• اطلب من النموذج صراحة أن يتحقق من افتراضات السؤال قبل أن يجيب.
• إذا كان الحدث خبرًا، تحقق من وقوعه في مصدر إخباري أو رسمي قبل البحث عن أسبابه.

كيف تقلل الهلوسة قبل أن تبدأ؟

التحقق بعد الرد ضروري، لكن طريقة الطلب نفسها تغير احتمال الخطأ. القاعدة الأهم: كلما قدمت المادة المصدر بنفسك وطلبت العمل عليها فقط، قلّت مساحة الاختلاق. وكلما طلبت من النموذج أن «يأتي» بحقائق من ذاكرته، اتسعت تلك المساحة.

أضف إلى طلباتك تعليمات صريحة تسمح للنموذج بالاعتراف بالنقص، فبحث OpenAI يشير إلى أن التدريب والتقييم كثيرًا ما يدفعان النموذج إلى التخمين بدل الامتناع. مثال على صياغة تساعد:

اعتمد فقط على النص المرفق أدناه.
إذا لم تجد الإجابة في النص، اكتب: «غير موجود في النص».
لا تذكر أي مرجع أو رقم أو اقتباس غير وارد في النص.
بعد كل معلومة، ضع بين قوسين العبارة التي استندت إليها من النص.

هذه التعليمات لا تضمن الالتزام الكامل، لكنها تجعل المخالفة أسهل في الرؤية. فإذا ظهر رقم بلا عبارة داعمة بين قوسين، عرفت فورًا أين تبحث.

ماذا عن العربية تحديدًا؟

في النصوص العربية تظهر صعوبات إضافية تزيد احتمال الخطأ في الأسماء. اسم الباحث نفسه قد يُكتب بأكثر من صيغة عند نقله من الإنجليزية أو إليها، وأسماء المجلات العربية قد تُترجم ترجمة حرفية فلا تطابق اسمها الرسمي. لذلك حين تبحث عن مرجع عربي، جرّب أكثر من صيغة للاسم، وابحث بالعنوان الإنجليزي والعربي معًا إن وُجدا.

مصفوفة المخاطر: كم تتحقق؟

لا تحتاج كل إجابة إلى المستوى نفسه من التدقيق. المصفوفة التالية تربط بين أثر الخطأ إن وقع، واحتمال وقوعه بحسب نوع المهمة، ثم تقترح مستوى التحقق المناسب.

كيف تستخدم المصفوفة عمليًا؟ قبل أن تبدأ المهمة، حدد الخانة التي تقع فيها، ثم اكتب مستوى التحقق في رأس المستند أو في ملاحظة جانبية. هذا يمنعك من الاسترخاء حين تبدو الإجابة جيدة، ويمنعك أيضًا من إضاعة ساعة في تدقيق عنوان مقترح لمنشور داخلي. ومع الوقت ستلاحظ أن أغلب مهامك اليومية تقع في الخانات المنخفضة، وأن الخانات المرتفعة قليلة لكنها تستحق كل دقيقة تصرفها فيها.

احتمال الهلوسة يرتفع عادة مع المراجع الدقيقة، والأرقام، والأحداث الحديثة، والأسماء غير المشهورة، والأسئلة التي تحمل افتراضًا. وينخفض حين تقدم أنت النص المصدر وتطلب العمل عليه فقط. أما الأثر فيحدده من سيقرأ النتيجة وماذا سيبني عليها.

لماذا لا يكفي أن تسأل النموذج «هل أنت متأكد؟»

سؤال المتابعة قد يكشف بعض الأخطاء، لكنه ليس طريقة تحقق. النموذج قد يتراجع عن معلومة صحيحة لمجرد أنك شككت فيها، وقد يتمسك بخطأ ويضيف تفاصيل جديدة تدعمه. في الحالتين أنت تسأل المصدر نفسه الذي أنتج المشكلة.

بحث OpenAI المذكور أعلاه يقدم مثالًا: حين سُئل نموذج شائع عن عنوان أطروحة دكتوراه لأحد الباحثين، قدم ثلاثة عناوين مختلفة في ثلاث محاولات، وكلها خاطئة. التحقق الحقيقي يحدث خارج المحادثة: في مصدر مستقل يمكنك فتحه وقراءته. نشرح خطواته بالتفصيل في الطريقة العملية للتحقق من المعلومات، وفي دليل مراجعة إجابة الذكاء الاصطناعي قبل اعتمادها.

قائمة تحقق قابلة للطباعة

انسخ هذه القائمة واطبعها على ورقة واحدة، أو احفظها في ملاحظات هاتفك، واحتفظ بها بجانب شاشتك. مرّ عليها قبل استخدام أي إجابة في عمل سيقرؤه غيرك.

1. هل في الإجابة مراجع أو عناوين؟ ابحث عن كل واحد منها بالاسم الكامل.
2. هل فيها أرقام أو نسب؟ حدد الجهة والسنة والتعريف لكل رقم.
3. هل فيها اقتباس منسوب لشخص؟ ابحث عنه في المصدر الأصلي لا في مواقع التجميع.
4. هل بُني سؤالي على افتراض لم أتحقق منه؟ تأكد من الافتراض أولًا.
5. هل تتعلق المعلومة بحدث حديث أو قانون أو سعر؟ ارجع إلى الجهة الرسمية مباشرة.
6. هل تغيرت الإجابة حين أعدت السؤال؟ اعتبر ذلك إشارة لضعف الأساس.
7. هل أستطيع الدفاع عن كل جملة لو سألني أحد عن مصدرها؟
8. ما مستوى الأثر في المصفوفة؟ هل طبقت مستوى التحقق المناسب له؟
9. ما الذي لم أستطع إثباته؟ احذفه أو اكتبه بصيغة احتمال واضحة.

إذا كان عملك بحثيًا ويعتمد على مصادر كثيرة، فخطوتك التالية هي بناء خريطة مصادر موثوقة قبل أن تبدأ الكتابة.