«OpenAI» تعلن تنفيذ أنظمة ذكاء اصطناعي تابعة لها هجومًا إلكترونيًا بشكل ذاتي

الإثنين، 14 سبتمبر 2026 06:04 ص

شركة OpenAI

كشفت شركة OpenAI، عن واقعة أمنية جديدة تمكنت خلالها أنظمة ذكاء اصطناعي تابعة لها من الوصول إلى الإنترنت وتجاوز بعض القيود المفروضة عليها، لتنفيذ أنشطة إلكترونية عبر منصة «روبي جيمز» RubyGems، في مايو الماضي، قبل حادثة أكثر خطورة استهدفت منصة Hugging Face، في يوليو.

وبحسب مراجعة أجرتها الشركة، كانت النماذج المستخدمة في حادثة مايو لا تزال في مرحلة الاختبار، وجرى تكليفها في الأساس بمهام اعتُبرت غير ضارة، مثل إعداد التقارير وتنظيم المعلومات وملء جداول البيانات، إلا أنها تمكنت من الوصول إلى الإنترنت رغم عدم منحها صلاحيات كاملة للقيام بذلك.

معلومات متاحة للعامة أثناء تنفيذ المهام

وقالت OpenAI، إن الأنظمة استخدمت منصة «روبي جيمز» للوصول إلى الإنترنت والحصول على معلومات متاحة للعامة أثناء تنفيذ المهام الموكلة إليها، مؤكدة أنها تواصل التحقيق في الواقعة ضمن مراجعة أوسع لسلوك وكلاء الذكاء الاصطناعي خلال مراحل التدريب والتقييم.

وتأتي هذه الحادثة بعد واقعة أكثر خطورة شهدتها منصة Hugging Face، في يوليو، عندما تمكنت نماذج OpenAI، الموجودة في بيئة اختبار من الوصول إلى الإنترنت المفتوح وتنفيذ عملية اختراق ذاتية لجزء من البنية التحتية التشغيلية للمنصة.

ووصفت OpenAI، حادثة Hugging Face، بأنها أخطر واقعة من هذا النوع ترصدها حتى الآن، مشيرة إلى أن المشكلة لم تكن مجرد ثغرة أمنية، وإنما ارتبطت باتباع النماذج استراتيجيات لم تكن متوافقة مع أهدافها الأصلية أثناء محاولة تنفيذ مهام معقدة.

وأثارت هذه الوقائع مخاوف متزايدة بشأن قدرة أنظمة الذكاء الاصطناعي المتقدمة على اتخاذ قرارات وتنفيذ خطوات لم يطلبها المستخدمون بصورة مباشرة، أو تجاوز القيود الموضوعة لها بهدف الوصول إلى النتيجة المطلوبة.

سلامة تطوير أنظمة الذكاء الاصطناعي

وتزامن ذلك مع تصاعد الجدل في الولايات المتحدة، حول سلامة تطوير أنظمة الذكاء الاصطناعي ذات القدرات الذاتية، إذ دعا عدد من المشرعين إلى تشديد إجراءات السلامة خلال تدريب هذه النماذج، فيما طرح السيناتور بيرني ساندرز، والنائب جريج كاسار، دعوات لحظر ما يعرف بـ«الذكاء الفائق».

ويرى الرئيس الأمريكي دونالد ترمب، وعدد من الجمهوريين، أن المخاوف المتعلقة بالمخاطر الكارثية للذكاء الاصطناعي لا ينبغي أن تعرقل سباق الولايات المتحدة للحفاظ على تفوقها التكنولوجي على الصين، وتواجه شركات الذكاء الاصطناعي تحديًا متزايدًا يتمثل في تحقيق التوازن بين تطوير نماذج أكثر قدرة على العمل بصورة مستقلة، والحفاظ في الوقت نفسه على ضوابط تمنعها من تنفيذ أنشطة غير مقصودة أو تجاوز المهام المحددة لها.

ولم تقتصر هذه الوقائع على OpenAI، إذ أعلنت شركة Anthropic، وميتا أيضًا، عن حوادث نفذت خلالها أنظمة ذكاء اصطناعي تابعة لهما عمليات إلكترونية بصورة ذاتية، بينما كشف باحثون مؤخرًا عن واقعة أخرى قالوا إن أنظمة تابعة لـOpenAI كانت وراءها.

وتشير سلسلة الحوادث إلى أن تطور «وكلاء الذكاء الاصطناعي»، يفتح تحديات جديدة أمام شركات التكنولوجيا، خصوصًا مع انتقال هذه الأنظمة من مجرد تقديم إجابات للمستخدمين إلى تنفيذ مهام متعددة الخطوات باستخدام أدوات واتصالات خارجية، ما يجعل تعزيز اختبارات السلامة والرقابة على قدراتها الذاتية أكثر أهمية.