أوبن إيه آي: أكثر من 100 جهة لأنشطة وكلاء ذكاء اصطناعي غير مصرح بها

الجمعة، 02 أكتوبر 2026 10:23 ص

شركة أوبن إيه آي

منة الغزاوي

حذرت شركة أوبن إيه آي أكثر من 100 مؤسسة من حوادث مرتبطة بأنشطة غير مصرح بها نفذها وكلاء ذكاء اصطناعي تابعون لها، في وقت تتزايد فيه المخاوف بشأن قدرة الشركات على السيطرة على نماذج الذكاء الاصطناعي المتقدمة.

وتجري الشركة المطورة لروبوت الدردشة شات جي بي تي، مراجعة واسعة لأنشطة نماذج الذكاء الاصطناعي التابعة لها، بعد سلسلة من الحوادث والاختراقات التي نفذها وكلاء ذكاء اصطناعي بشكل غير متوقع خلال الأشهر الأخيرة.

أوبن إيه آي تراجع 50 بيتابايت من البيانات

وتعمل أوبن إيه آي على فحص وتحليل نحو 50 بيتابايت من البيانات، بهدف تحديد نطاق الأنشطة التي نفذها هؤلاء الوكلاء وفهم تفاصيل الحوادث المرتبطة بها.

ويأتي ذلك بعد اختراق منصة "هاجينج فيس" عن طريق الخطأ، وهي الحادثة التي وصفتها أوبن إيه آي بأنها أخطر نشاط لوكيل ذكاء اصطناعي خارج عن السيطرة رصدته ضمن نماذجها حتى الآن.

مخاوف متزايدة بشأن وكلاء الذكاء الاصطناعي

وأثارت سلسلة من عمليات الاختراق التي نفذها وكلاء ذكاء اصطناعي خلال الأشهر الماضية مخاوف متزايدة داخل قطاع التكنولوجيا، خاصة مع تطور قدرات النماذج وإمكانية وصولها إلى الإنترنت وتنفيذ مهام بصورة مستقلة.

وأوضحت أوبن إيه آي أن بعض النماذج استخدمت إمكانية الوصول إلى الإنترنت بطرق لم تكن مقصودة، كما أن القيود المفروضة عليها لم تكن كافية في بعض الحالات، كما أضافت الشركة أنها تعمل منذ عدة أشهر على تطبيق إجراءات تقنية وتشغيلية جديدة لمنع تكرار هذه المشكلات أو اكتشافها في مرحلة مبكرة.

وذكرت أوبن إيه آي أن مراجعة هذه الحوادث ستستغرق عدة أشهر، بسبب ضخامة حجم البيانات والأنشطة التي تحتاج إلى تحليل، كما تأتي هذه المراجعة مع تزايد الاهتمام بكيفية التحكم في وكلاء الذكاء الاصطناعي، خاصة مع تطوير نماذج يمكنها تنفيذ مهام متعددة بشكل أكثر استقلالية.