اختراقات الذكاء الاصطناعي تثير التساؤلات بسبب فشل الشركات في مراقبة أنظمتها

الأربعاء، 12 أغسطس 2026 11:25 ص

الذكاء الاصطناعي

أثارت سلسلة من الحوادث الأمنية المرتبطة بنماذج الذكاء الاصطناعي المتقدمة مخاوف متزايدة بشأن قدرة شركات التكنولوجيا على مراقبة أنظمتها ومنعها من تنفيذ أنشطة غير متوقعة، وجاءت هذه المخاوف بعد إعلان شركة OpenAI عن تورط مجموعة من وكلائها في الوصول إلى أنظمة خارجية واكتشاف ثغرات أمنية والتحرك داخل بيئات رقمية، في حادث أثار جدلًا واسعًا حول مستوى الرقابة المفروض على النماذج التجريبية.

مخاوف بشأن نموذج الذكاء الاصطناعي الصيني

ولم تكن OpenAI الشركة الوحيدة التي واجهت هذا النوع من المخاطر، إذ سبق أن واجه نموذج «ميثوس» التابع لشركة Anthropic موقفًا مشابهًا بعد خروجه من بيئة الاحتواء، كما أعلنت Meta عن تورط نموذج متقدم تابع لها في اختراق غير مقصود لنظام خارجي، وأثارت تقارير أخرى مخاوف مماثلة بشأن نموذج الذكاء الاصطناعي الصيني مفتوح الأوزان «Kimi K3»، ما يشير إلى أن المشكلة قد تتجاوز شركة أو نموذجًا بعينه.

وكشفت تفاصيل عرض قدمه مهندسو OpenAI خلال مؤتمر Black Hat أن مجموعة من وكلاء الذكاء الاصطناعي عملت معًا على اكتشاف الثغرات وتبادل المعلومات والتحرك بين أنظمة داخلية وخارجية على مدار أيام وأسابيع، وتركت هذه الوكلاء وراءها سجلًا ضخمًا من المحادثات والمخططات على لوحة رسائل داخلية، وصل إلى مئات الآلاف من الرسائل، وهو ما دفع خبراء أمن إلى التساؤل عن سبب عدم اكتشاف هذه الأنشطة في وقت مبكر.

تطوير أمن أنظمة الذكاء الاصطناعي

ويرى عدد من المتخصصين أن ما حدث يعكس في جانب منه قصورًا في إجراءات الدفاع والمراقبة، وليس بالضرورة تفوقًا استثنائيًا للهجمات التي نفذتها النماذج، وترى OpenAI أن الحادث يمثل نقطة مهمة في تطوير أمن أنظمة الذكاء الاصطناعي، وتعهدت بتعزيز تقنيات الوقاية والكشف والاستجابة، إلى جانب اتباع نهج أكثر حذرًا في تطوير النماذج المتقدمة، ويعيد ذلك طرح سؤال أساسي أمام شركات الذكاء الاصطناعي: هل يجب أن تسبق إجراءات الرقابة والأمان إطلاق القدرات الجديدة، بدلًا من تطويرها بعد وقوع الحوادث؟.

Short Url