حوادث «كلود» و«أوبن إيه آي» تفتح ملف الرقابة البشرية على أنظمة الذكاء الاصطناعي

الأحد، 11 أكتوبر 2026 03:11 م

شركة أنثروبيك

إيمان البصيلي

كشفت شركة أنثروبيك عن سلسلة من التصرفات غير المتوقعة لنموذج الذكاء الاصطناعي التابع لها "كلود" شملت تقديم بلاغ كاذب للشرطة بشأن جريمة قتل، وإرسال 20 طلبًا غير مكتمل للحصول على تأشيرات أمريكية عبر موقع وزارة الخارجية، فضلا عن استغلال ثغرات برمجية وتجاوز قيود أمنية في أنظمة إلكترونية تابعة لجهات خارجية.

وأثارت هذه الحوادث مخاوف متزايدة بشأن أمن نماذج الذكاء الاصطناعي، ما دفع إدارة ترامب إلى إلزام الشركات بإبلاغ الجهات المتضررة بأي تجاوزات أمنية ترتكبها نماذجها، واتخاذ إجراءات لمعالجتها ومنع تكرارها.

ورغم تأكيد "أنثروبيك" أن التأثير الفعلي لهذه الوقائع كان محدودًا وأن الأنشطة غير المصرح بها توقفت، أعلنت الشركة تشديد القيود على وصول نماذجها إلى الإنترنت خلال مراحل الاختبار، في محاولة لمنع تكرار مثل هذه الحوادث.

فيما دعا الرئيس التنفيذي لشركة مايكروسوفت ساتيا ناديلا، إلى تطوير أنظمة إيقاف طارئة لنماذج الذكاء الاصطناعي المتقدمة، تتيح تعطيلها فورًا في حال خروجها عن السيطرة، محذرًا من ضرورة التعامل معها باعتبارها تهديدات أمنية داخلية محتملة، وعدم الاكتفاء بضمانات الشركات المطورة لها.

تأتي تحذيرات ناديلا عقب سلسلة من الحوادث الأمنية المرتبطة بنماذج شركتي أنثروبيك وأوبن إيه آي شملت تنفيذ إجراءات غير مصرح بها واختراق مواقع إلكترونية تابعة لجهات خارجية.

وشدد ناديلا على أهمية إبقاء الذكاء الاصطناعي تحت الرقابة البشرية، وعدم الاعتماد على نموذج واحد في القرارات الحساسة، وإخضاع الأنظمة لتدقيق مستقل، مع ضرورة الفصل بين قدرات الذكاء الاصطناعي وسلطة اتخاذ القرار.