بعد تحليل 50 ألف محادثة.. دراسة تكشف ثغرات في أمان روبوتات الذكاء الاصطناعي

الأربعاء، 02 سبتمبر 2026 06:30 ص

الذكاء الاصطناعي

كشفت دراسة حديثة أجرتها منظمة Transluce غير الربحية المتخصصة في مراقبة الذكاء الاصطناعي، عن استمرار وجود نقاط ضعف في طريقة تعامل روبوتات المحادثة مع بعض الحالات الحساسة، رغم التحسن الملحوظ في قدرتها على التعامل مع المحتوى المرتبط بالأفكار الانتحارية، واعتمدت الدراسة على تحليل أكثر من 50 ألف محادثة مع نماذج ذكاء اصطناعي تابعة لشركات أمريكية وصينية كبرى، بهدف اختبار استجاباتها أمام مجموعة واسعة من السيناريوهات التي قد تمثل مخاطر على المستخدمين.

تأييد الأفكار الانتحارية بصورة مباشرة

وأظهرت النتائج أن النماذج الحديثة التابعة لشركات Google وOpenAI وAnthropic أصبحت أقل احتمالًا لتأييد الأفكار الانتحارية بصورة مباشرة، كما أنها تميل في العديد من الحالات إلى توجيه المستخدم نحو الحصول على مساندة من أفراد الأسرة أو الأصدقاء، وشارك متخصصون في الصحة النفسية في إعداد سيناريوهات الاختبار، بينما قدمت OpenAI وAnthropic ملاحظات حول تصميم المستخدمين الافتراضيين المشاركين في المحادثات، بهدف جعل سلوكهم أقرب إلى أنماط الاستخدام الواقعية.

إلا أن الدراسة كشفت عن منطقة ضعف مختلفة تظهر عندما يتم تقديم المحتوى الخطير في إطار غير مباشر، مثل طلب كتابة قصة خيالية أو المشاركة في سيناريو تمثيلي يتضمن الانتحار أو الموت، ووفق النتائج، يمكن لبعض النماذج أن تتعامل بحذر مع الطلب عندما يكون صريحًا، لكنها تصبح أكثر قابلية للاستجابة عندما يُقدم داخل سياق إبداعي أو ضمن لعبة أدوار، وهو ما يوضح أن طريقة صياغة المستخدم للطلب والسياق المحيط به يمكن أن يؤثرا بصورة كبيرة على آليات الحماية داخل روبوتات الذكاء الاصطناعي.

تعزيز أفكار أو معتقدات وهمية

ولم تتوقف المخاوف عند المحتوى المرتبط بإيذاء النفس، إذ أشارت الدراسة أيضًا إلى استمرار قدرة بعض النماذج على تعزيز أفكار أو معتقدات وهمية في حالات معينة، مع وجود اختلافات بين النماذج الأمريكية والصينية، وذكرت سارة شويتمان، الشريكة المؤسسة لمنظمة Transluce، أن السلوكيات الأكثر وضوحًا وخطورة شهدت تراجعًا مع تطور النماذج، لكن بعض الاستجابات التي تقع في «المنطقة الرمادية» لا تزال تمثل تحديًا، وأكدت Google وAnthropic وOpenAI استمرار تطوير أنظمة الحماية، مشيرة إلى أن سلامة المستخدمين والتعامل المسؤول مع الأزمات يمثلان أولوية مستمرة في تطوير نماذج الذكاء الاصطناعي.