«أوبن إيه آي» تبطيء تطوير «أسترا» بعد تصاعد مخاوف الأمن السيبراني

الأحد، 09 أغسطس 2026 09:27 ص

شركة أوبن إيه آي

مي المرسي

أبطأت شركة أوبن إيه آي بعض جوانب تطوير نموذج الذكاء الاصطناعي الجديد «أسترا»، بعد أن أظهرت تقييمات داخلية وخارجية تقدمًا ملحوظًا في قدراته على البرمجة والعمل بصورة مستقلة وتنفيذ مهام متقدمة في مجال الأمن السيبراني.

وأثارت نتائج الاختبارات مخاوف داخل الشركة من اقتراب النموذج من «العتبة الحرجة» للقدرات السيبرانية، ما دفع أوبن إيه آي إلى تشديد إجراءات الحماية والأمان خلال مراحل تطوير واختبار النموذج.

أوبن إيه آي تعزز اختبارات «أسترا»

ووفقًا لتقييمات الشركة، أظهر نموذج أسترا للذكاء الاصطناعي قدرة متزايدة على تنفيذ مهام سيبرانية متطورة وبدرجة أكبر من الاستقلالية، وهو ما استدعى رفع مستوى اختبارات المتانة والضوابط الأمنية المفروضة على النموذج.

وأكدت أوبن إيه آي أن الوصول المحتمل إلى هذه العتبة لا يعني أن «أسترا» أصبح قادرًا فعليًا على تنفيذ جميع أنواع الهجمات الإلكترونية في العالم الحقيقي، لكنه يشير إلى مستوى من القدرات يستوجب فرض ضوابط أمنية أكثر صرامة.

وقف بعض أنشطة تطوير «أسترا»

وبالتزامن مع التقييمات الجديدة، اعتمدت الشركة بيئات اختبار معزولة، وقيّدت وصول النموذج إلى الشبكات والأدوات، كما عززت حماية أوزان النماذج وتشفيرها، ووسعت أنظمة المراقبة لرصد الأنشطة عالية الخطورة.

كما أوقفت أوبن إيه آي بعض الأنشطة الداخلية المرتبطة بتطوير «أسترا» التي لم تستوفِ متطلبات الضوابط الأمنية الجديدة، مع تطبيق نظام مراقبة موسع خلال مراحل التدريب والتقييم.

مخاوف متزايدة من وكلاء الذكاء الاصطناعي

وتأتي هذه التطورات في وقت تتسارع فيه قدرات وكلاء الذكاء الاصطناعي على تنفيذ المهام بصورة مستقلة، بما في ذلك البرمجة واكتشاف الثغرات والتعامل مع أنظمة وأدوات رقمية متعددة.

وكانت تقارير سابقة قد سلطت الضوء على حالات تمكنت فيها أنظمة ذكاء اصطناعي ذاتية التشغيل من تجاوز بعض القيود المفروضة عليها خلال الاختبارات، ما زاد الضغوط على شركات التكنولوجيا لتطوير أنظمة أكثر صرامة للسيطرة والاحتواء.

«أسترا» لم يشارك في اختراق «هاغينغ فيس»

وشددت أوبن إيه آي على أن نموذج «أسترا» لم يكن له أي دور في حادثة اختراق منصة «هاغينغ فيس»، مؤكدة أن الواقعة مرتبطة باختبارات نموذج آخر.

وتعتزم الشركة التعاون مع جهات حكومية ومؤسسات متخصصة في سلامة الذكاء الاصطناعي لاختبار قدرات «أسترا»، إلى جانب وضع توصيات أمنية للشركاء الذين يستخدمون النماذج في المهام والتطبيقات عالية المخاطر.

سباق الذكاء الاصطناعي يدخل مرحلة جديدة

وتكشف التطورات المحيطة بـ«أسترا» عن تحدٍ جديد أمام شركات الذكاء الاصطناعي، يتمثل في تحقيق التوازن بين تطوير قدرات النماذج وزيادة استقلاليتها وبين ضمان عدم تحول هذه القدرات إلى مصدر لمخاطر أمنية أو سيبرانية.

ومع انتقال الذكاء الاصطناعي من أدوات الإجابة والتوليد إلى وكلاء قادرين على تنفيذ المهام بصورة مستقلة، أصبحت اختبارات الأمان والرقابة جزءًا أساسيًا من سباق تطوير النماذج الجديدة.