OpenAI توقف تدريب نموذج Astra بعد اكتشاف قدرات سيبرانية مقلقة

الجمعة، 21 أغسطس 2026 09:03 ص

OpenAI

قررت شركة OpenAI، إبطاء عمليات تطوير أحد نماذج الذكاء الاصطناعي المتقدمة لديها مؤقتًا، بعد أن كشفت اختبارات داخلية عن قدرات سيبرانية، أثارت مخاوف تتعلق بمستوى المخاطر المحتملة.

وشملت الخطوة، تعليق تدريبات تعتمد على التعلم المعزز لمدة تقارب أسبوعين، مع استمرار بعض عمليات التدريب الأصغر واختبارات التقييم، بهدف جمع مزيد من البيانات حول سلوك النموذج، والتأكد من فعالية إجراءات السلامة الجديدة.

قدرات متقدمة في مجال الأمن السيبراني

وأظهرت التقييمات الأولية لنموذج Astra، قدرات متقدمة في مجال الأمن السيبراني، ما دفع OpenAI إلى توسيع إطار Preparedness Framework، ليشمل المخاطر التي يمكن أن تظهر أثناء عملية تدريب النموذج، وليس فقط المخاطر التي قد تحدث بعد إطلاقه أمام المستخدمين.

وأبقت الشركة أكبر عملية تدريب متقدمة مخطط لها قيد التعليق، بينما استأنفت بعض عمليات تدريب وتقييم Astra بعد تطبيق ضوابط أمنية إضافية، في حين لا تزال عمليات أخرى متوقفة، لحين نقلها إلى بيئات تستوفي معايير الأمان الجديدة.

وتزامنت هذه الإجراءات، مع إطلاق نموذج GPT-5.6 Cyber، وتوسيع برنامج Daybreak، المخصص للدفاع السيبراني، والذي يوفر أدوات تعتمد على الذكاء الاصطناعي، لاكتشاف الثغرات ومراجعة الشيفرات وتحليل البرمجيات الخبيثة ودعم الاستجابة للحوادث والتحقق من نجاح التحديثات الأمنية.

عززت OpenAI حماية بيئة التدريب والبحث، من خلال زيادة عزل الأنظمة التي تنفذ الأكواد التي تنتجها النماذج، وتشديد عزل الشبكات للمهام عالية الخطورة، وتقليص الصلاحيات الدائمة، وإزالة بعض الخدمات المشتركة التي يمكن أن تمثل نقاط ضعف.

مراقبة النماذج لرصد السلوكيات الخطرة خلال عمليات التشغيل

ووسعت الشركة أنظمة مراقبة النماذج لرصد السلوكيات الخطرة خلال عمليات التشغيل، إذ تستخدم مصنفات تفحص نشاط النموذج على مستوى كل Token، قبل إحالة الأنشطة المشبوهة إلى أنظمة تحقيق آلية أكثر تقدمًا.

وتركز المراقبة على اكتشاف محاولات الوصول غير المصرح به إلى الأنظمة، وسرقة البيانات، وتنفيذ عمليات تخريبية أو تجاوز ضوابط السلامة، إلا أن هذا المستوى من الحماية، يتطلب موارد حوسبية كبيرة، إذ تستهلك أنظمة المراقبة نحو 20% من القدرة الحوسبية المخصصة للاستدلال.

وأكدت OpenAI أن الاختبارات الداخلية، تشير إلى اقتراب Astra من مستوى «القدرة السيبرانية الحرجة» وفق معايير تقييم المخاطر الخاصة بها.