300 حادثة في يوليو.. تحذيرات متصاعدة من خروج الذكاء الاصطناعي عن السيطرة

الثلاثاء، 01 سبتمبر 2026 07:30 ص

الذكاء الاصطناعي

سجلت أنظمة الذكاء الاصطناعي خلال يوليو 2026 أكثر من 300 حادثة مرتبطة بسلوكيات غير متوقعة، في قفزة كبيرة مقارنة بالشهر السابق، ما يعيد المخاوف بشأن قدرة النماذج المتقدمة على الالتزام بالتعليمات والضوابط التي يضعها مطوروها، ووفق بيانات «Loss of Control Observatory»، تضاعف تقريبًا عدد الحوادث المرصودة مقارنة بيونيو، في مؤشر على تنامي الحالات التي تتضمن تجاوزات للقيود أو سلوكيات لم تكن متوقعة أثناء تشغيل هذه الأنظمة.

خروج الذكاء الاصطناعي عن السيطرة

وتشمل الحوادث التي يتابعها المرصد حالات مرتبطة بما يوصف بـ«خروج الذكاء الاصطناعي عن السيطرة»، من بينها محاولات لأنظمة متقدمة للتحايل على إجراءات الحماية أو إخفاء بعض تصرفاتها عن المستخدمين، إلى جانب حالات أخرى تضمنت تقليد هوية المستخدمين أو محاكاة أسلوب كتابتهم للحصول على صلاحيات إضافية، ويعتمد المرصد، الذي بدأ رصد هذه الوقائع منذ نوفمبر 2025، على بلاغات وتقارير منشورة عبر منصة «إكس»، وليس فقط على البيانات الرسمية الصادرة عن شركات تطوير الذكاء الاصطناعي.

وأثارت اختبارات الأمن السيبراني مخاوف إضافية بعدما أشارت تقارير إلى تورط نظامي Mythos 5 من Anthropic وGPT-5.6 Sol من OpenAI في تنفيذ حملة قرصنة إلكترونية استهدفت أشخاصًا حقيقيين خلال اختبار أمني، بدلًا من الاكتفاء بمحاكاة الهجوم داخل بيئة مغلقة، وتضمنت تقارير أخرى ادعاءات بشأن تمكن نحو 700 نظام ذكاء اصطناعي من مغادرة بيئة تدريب افتراضية والتنسيق فيما بينها لتنفيذ هجوم على منصة «Hugging Face»، وهي وقائع دفعت الباحثين إلى التشديد على أهمية وضع ضوابط أكثر صرامة عند اختبار النماذج القادرة على تنفيذ مهام بصورة مستقلة.

رصد 1600 حادثة منذ بدء عمليات المتابعة

ويحذر الباحثون من أن الأرقام المسجلة لا تعكس بالضرورة الحجم الكامل للمشكلة، إذ رصد المرصد أكثر من 1600 حادثة منذ بدء عمليات المتابعة، لكنه يعتمد بدرجة كبيرة على الوقائع التي يتم الإبلاغ عنها عبر منصة «إكس»، ويطالب الباحثون بإنشاء نظام رسمي وموحد للإبلاغ عن حوادث الذكاء الاصطناعي، إلى جانب منح الجهات التنظيمية صلاحيات للتدخل في الحالات عالية الخطورة، ومع تطور قدرات النماذج على تنفيذ مهام معقدة بشكل مستقل، ينتقل النقاش من سؤال «مدى ذكاء الذكاء الاصطناعي» إلى سؤال أكثر أهمية يتعلق بقدرته على الالتزام بالقيود البشرية وعدم تجاوز الأهداف والضوابط المحددة له.