دراسة تحذر: شركات الذكاء الاصطناعي تفتقر لخطط احتواء النماذج الخارجة عن السيطرة

الإثنين، 24 أغسطس 2026 04:40 ص

الذكاء الاصطناعي

كشفت دراسة حديثة أن عددًا محدودًا من مختبرات الذكاء الاصطناعي الكبرى لديها خطط معلنة للتعامل مع النماذج التي قد تخرج عن السيطرة أو تحاول تقويض الرقابة البشرية، في وقت تتجه فيه الشركات إلى تطوير أنظمة أكثر استقلالية قادرة على تنفيذ مهام واتخاذ إجراءات نيابة عن المستخدمين والمؤسسات.

وأجرت مؤسسة Guidelight AI Standards، تقييمًا لخمسة مختبرات بارزة هي «أوبن إيه آي»، و«أنثروبيك»، و«جوجل»، و«ميتا»، و«إكس إيه آي»، بالاعتماد على المعلومات والخطط المنشورة للعامة، مع التركيز على إجراءات المراقبة والاستجابة للحالات التي قد يفقد فيها البشر السيطرة على النظام.

أوبن إيه آي في الصدارة

وبحسب الدراسة، تصدرت «أوبن إيه آي» التقييم، بينما جاءت «أنثروبيك» و«ميتا» في أدنى المراتب، وشملت معايير التقييم قدرة الشركات على مراقبة سلوك النماذج، وإيقاف الأنظمة عند ظهور مؤشرات خطرة، ووجود جهات مستقلة تراجع إجراءات السلامة، إلى جانب وجود خطة واضحة للتعامل مع سيناريو فقدان السيطرة.

وتكتسب هذه النتائج أهمية مع توسع استخدام أنظمة الذكاء الاصطناعي الوكيلة، التي تستطيع تنفيذ مهام بصورة أكثر استقلالية داخل بيئات الشركات، ما يرفع أهمية وجود ضوابط واضحة تحدد الصلاحيات التي يمكن سحبها من النظام ومتى يجب إيقافه بالكامل.

نقص الإفصاح عن خطط الطوارئ

وأشارت الدراسة، إلى أن شركات الذكاء الاصطناعي تتحدث بشكل أكبر عن كيفية اختبار النماذج لاكتشاف القدرات الخطرة قبل إطلاقها، لكنها تقدم معلومات أقل حول الإجراءات التي ستتبعها إذا بدأ نموذج يعمل بالفعل داخل أنظمتها في التصرف بطريقة غير متوقعة.

وقال ستيفن أدلر، كبير العلماء في «Guidelight» والباحث السابق في مجال سلامة الذكاء الاصطناعي لدى «أوبن إيه آي»، إن مستوى الإفصاح عن كيفية التعامل مع الحوادث الخطيرة المرتبطة بفقدان السيطرة كان أقل مما توقعه.

وتعرّف المؤسسة خطة الاحتواء بأنها مجموعة إجراءات محددة مسبقًا تُفعّل عند اكتشاف محاولة من النظام لتقويض السيطرة عليه، وتشمل تحديد الصلاحيات التي يجب سحبها والقيود التي تفرض عليه، بالإضافة إلى تحديد الحالات التي تستدعي إيقافه بصورة كاملة.

الشركات ترد على نتائج الدراسة

وقالت «جوجل»، إن التقييم لا يعكس النطاق الكامل لإجراءاتها المتعلقة بأمان الذكاء الاصطناعي وأمنه، ولم توضح ما إذا كانت تمتلك خطة داخلية غير معلنة لاحتواء النماذج.

أما «أوبن إيه آي»، فأكدت أن التقييم لا يشمل جميع ممارساتها الداخلية، موضحة أن لديها إجراءات تسمح بتقييد الصلاحيات، وإيقاف بعض أعباء العمل مؤقتًا، وتقليص عمليات النشر، أو إيقاف النموذج بالكامل، مشيرة إلى أنها طبقت هذه الإجراءات بالفعل.

في المقابل، لم توضح «ميتا» ما إذا كانت تمتلك خطة داخلية مخصصة للاستجابة لحالات احتواء النماذج، وأحالت إلى إطارها الخاص بإدارة مخاطر الذكاء الاصطناعي، الذي يتضمن مستويات لتقييم المخاطر وآليات لاختبار احتمالات فقدان السيطرة على النماذج.

وتشير الدراسة، في النهاية إلى أن جزءًا كبيرًا من إدارة المخاطر المرتبطة بالنماذج المتقدمة لا يزال يعتمد على الإجراءات الداخلية للشركات، بينما تكشف المعلومات المتاحة للعامة عن نقص في بروتوكولات الاحتواء الجاهزة للتعامل مع حالات الطوارئ وفقدان السيطرة.