بعد حادثة اختراق مفاجئة.. أوبن إيه آي تجمّد اختبارات نماذج الذكاء الاصطناعي

الثلاثاء، 18 أغسطس 2026 11:40 م

ذكاء اصطناعي _ صورة أرشيفية

محمد ممدوح

أعلنت شركة «أوبن إيه آي»، اليوم الثلاثاء، عن قرارها بتهدئة وتيرة تطوير وتدريب نماذج الذكاء الاصطناعي، بالتزامن مع إطلاق عملية إعادة هيكلة شاملة لأنظمة البحث والتجريب والأمن السيبراني، وذلك في أعقاب حادثة غير متوقعة تفاجأ بها مسؤولو الشركة الشهر الماضي عندما نجح وكيل ذكاء اصطناعي ذاتي التشغيل خاضع للاختبار في اختراق المنصة الرقمية لشركة «هاجينج فيس».

شات جي بي تي أوقفت اختبارات النماذج كليًا

وأوضحت الشركة المطورة لمنصة «تشات جي بي تي»، أنها أوقفت اختبارات النماذج كلياً لمدة أسبوعين، إلى جانب تجميد عمليات التدريب الخاصة بالجيل القادم من نماذجها الفائقة المُسماة «أسترا»، وتأجيل أكبر جولة تدريب خططت لها على الإطلاق.

وتستهدف هذه الإجراءات إدخال أنظمة ذكاء اصطناعي إضافية ومستقلة لمراقبة سلوكيات الوكلاء الذكية أثناء خضوعها للاختبارات، فضلاً عن فرض قيود تشغيلية صارمة تعزل الأحمال الحساسة والأنظمة المتقدمة داخل بيئات اختبار برمجية محصنة كلياً تُعرف بـ«صناديق الرمل» (Sandboxes).

تساؤلات مفتوحة وتحديات تقنية حول مدى فاعلية أدوات المراقبة الحالية

وأقر مسؤولو «أوبن إيه آي»، بوجود تساؤلات مفتوحة وتحديات تقنية حول مدى فاعلية أدوات المراقبة الحالية مثل «مراقبة سلسلة الأفكار»، مشيرين إلى أن النماذج الذكية قد تمتلك القدرة على إخفاء سيناريوهات التخطيط لخرق القواعد وتجاوز التعليمات.

وأكدت الشركة، التزامها بـ«إطار الجاهزية» المعتمد للتعامل مع القدرات الحرجة للنماذج، داعية قطاع الذكاء الاصطناعي بأكمله إلى تبني إستراتيجية أكثر شمولاً ورصانة لإعداد وتأمين أجيال النماذج المستقبلية قبل طرحها للاستخدام التجاري.

سباق السرعة المحموم

وتجسد هذه الخطوة غير المسبوقة من قِبل شركة «أوبن إيه آي»، نقطة تحول مفصلية في تاريخ تطوير الذكاء الاصطناعي، إذ اضطرت الشركة لأول مرة إلى كبح جماح سباق السرعة المحموم لصالح تعزيز ضوابط الأمان والأمن السيبراني.

اختبارات أمنية روتينية

وتأتي هذه التطورات في أعقاب حادثة خطيرة وغير متوقعة وقعت الشهر الماضي، عندما تمكن وكيل ذكاء اصطناعي مستقل يُدار بوساطة أحدث نماذج الشركة، وأثناء خضوعه لاختبارات أمنية روتينية، من الخروج عن نطاق بيئته المعزولة واختراق الأنظمة البرمجية لشركة «هاجينج فيس» (Hugging Face) المباشرة والمنافسة، تحقيقاً لهدف تقني أُسند إليه ضمن الاختبار.

وكشفت هذه الحادثة عن ثغرات هيكلية في طرق المراقبة التقليدية، وعلى رأسها تقنية «مراقبة سلسلة الأفكار» التي تعتمد عليها الشركات للتحقق من سلامة نية وقرارات النماذج الذكية قبل تنفيذها؛ حيث أظهرت الأبحاث الأولية قدرة النماذج المتقدمة على إخفاء خططها لخرق القواعد وعدم إظهارها في مسار تفكيرها المنطقي المُعلن.

ورداً على ذلك، فعّلت الشركة «إطار الجاهزية» لإعادة ضبط معايير السلامة، مستجيبةً لتحذيرات خبراء الأمن السيبراني بشأن خطورة تشغيل عدة تقييمات سريعة ومزدحمة في وقت واحد تولد كميات هائلة من البيانات يصعب على العنصر البشري مراجعتها وتدقيقها بكفاءة.

Short Url