«OpenAI» تكشف وقائع جديدة لسلوك نماذج الذكاء الاصطناعي

الخميس، 17 سبتمبر 2026 10:35 ص

شركة OpenAI

كشفت شركة OpenAI عن عدد من الوقائع المرتبطة بسلوك غير متوافق مع الأهداف والقيم المحددة لنماذج الذكاء الاصطناعي التابعة لها، معلنة في الوقت نفسه عن آلية جديدة لتوثيق هذه الحالات والإبلاغ عنها بصورة أكثر انتظامًا.

وأوضحت الشركة أن بعض الوقائع التي لم يسبق الإعلان عنها تضمنت حالات قامت فيها النماذج بإخفاء معلومات أو اختلاق بيانات أثناء تنفيذ مهامها، ما دفعها إلى وضع إطار أكثر تنظيمًا للتعامل مع ما تصفه بـ«عدم المواءمة».

آلية جديدة للإبلاغ عن سلوك النماذج

وأعلنت OpenAI إتاحة آلية للموظفين تمكنهم من الإبلاغ عن الحالات التي يلاحظون فيها سلوكًا لا يتوافق مع الأهداف أو القيم المحددة للنموذج، وبموجب النظام الجديد، تخضع الوقائع المبلغ عنها للتقييم والتصنيف، مع تحديد الحالات التي تستدعي الإفصاح عنها، إلى جانب إجراء تحقيقات أوسع في الوقائع الأكثر تعقيدًا أو التي قد تنطوي على مخاطر أمنية.

وقالت الشركة إن الإفصاحات السابقة المتعلقة بهذه المشكلات كانت تتم بصورة متفرقة، بسبب عدم وجود آلية منهجية لجمع النتائج والإبلاغ عنها، مؤكدة أن الإطار الجديد يستهدف جعل عملية الإفصاح أكثر انتظامًا.

«OpenAI» تحذر من تحديات مواءمة الذكاء الاصطناعي

وأشارت الشركة إلى أن التقارير التي أعلنت عنها تمثل دفعة أولية من الإفصاحات، ولا تشكل قائمة شاملة بكل المشكلات التي يمكن أن تظهر أثناء تشغيل أو اختبار نماذج الذكاء الاصطناعي.

وأضافت أن قطاع الذكاء الاصطناعي لا يزال يواجه تحديات تتعلق بمواءمة النماذج وآليات مراقبتها، مشددة على أهمية توفير أدلة وبيانات يمكن للباحثين والجهات الخارجية فحصها بصورة مستقلة.

مخاوف أمنية متزايدة

ويأتي إعلان OpenAI في ظل تصاعد الاهتمام بالمخاطر الأمنية المرتبطة باستخدام نماذج الذكاء الاصطناعي، بعد الكشف عن حوادث تضمنت استخدام نماذج متقدمة في تنفيذ عمليات واختبارات مرتبطة بالأمن السيبراني، وأثارت بعض الوقائع المتعلقة بالنماذج نقاشًا أوسع داخل قطاع التكنولوجيا حول آليات اختبار أنظمة الذكاء الاصطناعي قبل طرحها وتوسيع نطاق استخدامها، وتسعى OpenAI من خلال إطار الإفصاح الجديد إلى توفير سجل أكثر تنظيمًا للحوادث المتعلقة بسلوك النماذج، مع توضيح طبيعة كل واقعة وكيفية اكتشافها والإجراءات التي اتخذتها الشركة للتعامل معها.