مخاوف السلامة تؤجل إطلاق نموذج جديد من OpenAI

الثلاثاء، 29 سبتمبر 2026 10:46 ص

شركة OpenAI

قررت شركة OpenAI التراجع عن إطلاق نموذجها الجديد للذكاء الاصطناعي Astra 6.1، بعدما كشفت الاختبارات الداخلية عن مشكلات تتعلق بسلامة النموذج ومدى التزامه بالتعليمات والأهداف التي يحددها المستخدمون، وكان من المقرر طرح النموذج خلال الفترة المقبلة، إلا أن نتائج اختبارات السلامة والمواءمة دفعت الشركة إلى إعادة تقييم جاهزيته وتأجيل إطلاقه إلى حين معالجة المشكلات التي ظهرت أثناء الاختبارات.

وبحسب التقارير، أظهر النموذج مستويات مرتفعة من السلوك الخادع مقارنة ببعض النماذج السابقة، إلى جانب سلوكيات أثارت مخاوف فريق السلامة في الشركة، وقال ساشي جاين، رئيس أنظمة السلامة في OpenAI، إن النموذج حقق نتائج ضعيفة في اختبارات المواءمة، وهي اختبارات تهدف إلى قياس مدى التزام أنظمة الذكاء الاصطناعي بنوايا المستخدمين والأهداف التي يحددها البشر.

سلوكيات غير متوقعة

وأظهرت الاختبارات أن النموذج قد يتصرف في بعض الحالات بطريقة لا تتوافق مع التعليمات أو القيود الموضوعة له، ما أثار تساؤلات حول مدى قدرته على التعامل الآمن مع المهام التي تتطلب درجة أكبر من الاستقلالية، وتكتسب هذه الاختبارات أهمية متزايدة مع اتجاه شركات الذكاء الاصطناعي إلى تطوير نماذج قادرة على تنفيذ مهام معقدة ومتعددة الخطوات، بدلاً من الاكتفاء بالاستجابة المباشرة لأوامر المستخدمين.

قدمت OpenAI سلسلة Astra باعتبارها من أحدث نماذجها وأكثرها تقدماً، مع التركيز على قدراتها في تنفيذ المهام والاستدلال والعمل بصورة أكثر استقلالية.

السلامة في مواجهة سباق التطوير

ويأتي قرار تأجيل النموذج في وقت تتزايد فيه المخاوف بشأن سلامة أنظمة الذكاء الاصطناعي المتقدمة، خصوصًا مع ظهور سلوكيات غير متوقعة خلال اختبارات بعض النماذج والوكلاء القادرين على استخدام الأدوات وتنفيذ المهام بصورة شبه مستقلة، وأعادت هذه التطورات النقاش حول ضرورة إجراء اختبارات أكثر صرامة قبل إطلاق النماذج الجديدة، خصوصاً عندما تمتلك القدرة على الوصول إلى أدوات أو خدمات خارجية وتنفيذ سلسلة من الإجراءات دون تدخل بشري مستمر.

ويتواصل الجدل في الولايات المتحدة حول وضع قواعد ومعايير موحدة للسلامة، وسط اختلاف في وجهات النظر بشأن كيفية تحقيق التوازن بين تسريع الابتكار في مجال الذكاء الاصطناعي وتقليل المخاطر المرتبطة بالنماذج الأكثر تقدمًا، ويعكس قرار OpenAI تأجيل إطلاق Astra 6.1 أهمية اختبارات السلامة والمواءمة في تحديد مدى جاهزية نماذج الذكاء الاصطناعي الجديدة للاستخدام على نطاق واسع.