لمواجهة الهلوسات.. جوجل تعيد تدريب الذكاء الاصطناعي على قول "لا أعلم"

الثلاثاء، 16 يونيو 2026 03:25 م

شركة جوجل

تسعى شركة جوجل إلى معالجة واحدة من أكبر التحديات التي تواجه أنظمة الذكاء الاصطناعي الحديثة، وهي ظاهرة "الهلوسات" التي تدفع النماذج إلى تقديم معلومات غير دقيقة بثقة عالية.

وكشف باحثون في الشركة عن مفهوم جديد يُعرف باسم "اليقين المخلص"، يهدف إلى تمكين النماذج اللغوية من التعبير عن مستوى الثقة الحقيقي في إجاباتها، بما يعزز موثوقية الذكاء الاصطناعي ويقلل من الأخطاء في التطبيقات الحساسة.

تقديم إجابات قاطعة قد تكون غير صحيحة

ويعتمد النهج الجديد على ربط الإجابات التي يقدمها النموذج بدرجة يقينه الداخلية، بحيث يصبح قادرًا على استخدام عبارات تعكس الشك المدروس مثل "أفضل تقدير لدي" أو "من المرجح أن"، بدلاً من تقديم إجابات قاطعة قد تكون غير صحيحة، ويرى الباحثون أن هذا الأسلوب يمثل نقلة نوعية في تصميم الأنظمة الذكية، لأنه يتيح للمستخدمين فهم حدود معرفة النموذج واتخاذ قرارات أكثر وعيًا عند الاعتماد على مخرجاته.

توازن بين الدقة والفائدة العملية

وتشير الدراسة إلى أن الأساليب التقليدية للحد من الهلوسات كانت تفرض ما يُعرف بـ"الضريبة الوظيفية"، إذ يؤدي تشديد معايير الدقة إلى امتناع النماذج عن تقديم عدد كبير من الإجابات الصحيحة خوفًا من الوقوع في الخطأ، أما مفهوم "اليقين المخلص" فيسعى إلى تحقيق توازن بين الدقة والفائدة العملية، من خلال السماح للنموذج بتقديم تخمينات مدروسة عند غياب المعلومات الكاملة.

تطوير وكلاء ذكاء اصطناعي أكثر استقلالية

ويكتسب هذا التوجه أهمية خاصة في القطاعات التي تتطلب مستويات عالية من الموثوقية، مثل الرعاية الصحية والخدمات المالية والأنظمة المؤسسية، ويمكن أن يسهم في تطوير وكلاء ذكاء اصطناعي أكثر استقلالية وقدرة على استخدام أدوات البحث والتحقق من المعلومات بكفاءة أعلى.

ومع استمرار تطور النماذج الذكية، يبدو أن مستقبل الذكاء الاصطناعي لن يعتمد فقط على تقديم الإجابات، بل أيضًا على القدرة على التعبير بصدق عن حدود المعرفة ومستويات اليقين.