«أوبن إيه آي» تعزز مجلس إدارتها بباحث بارز يحذر من مخاطر الذكاء الاصطناعي

الخميس، 10 سبتمبر 2026 12:12 م

أوبن إيه آي

أعلنت شركة «أوبن إيه آي» انضمام الباحث المتخصص في سلامة الذكاء الاصطناعي بول كريستيانو إلى مجلس إدارة «OpenAI Foundation»، في خطوة تأتي بالتزامن مع تصاعد النقاش حول مخاطر التطور السريع لأنظمة الذكاء الاصطناعي وضرورة إبقائها تحت السيطرة البشرية.

ويُعرف كريستيانو بمواقفه التحذيرية من التطورات المتسارعة في قدرات الذكاء الاصطناعي، إذ يرى أن الوصول إلى أنظمة أكثر تقدماً قد يخلق مخاطر حقيقية تتعلق بقدرة البشر على التحكم فيها.

وقال كريستيانو إنه يرى احتمالاً حقيقياً لحدوث فقدان كارثي وغير قابل للعكس للسيطرة على أنظمة الذكاء الاصطناعي في المستقبل القريب، مشيراً إلى أن قطاع الذكاء الاصطناعي، بما في ذلك «أوبن إيه آي»، لا يتحرك بالسرعة الكافية لخفض هذه المخاطر إلى مستويات مقبولة.

وأضاف أن انضمامه إلى مجلس الإدارة يأتي من قناعته بأن الشركة، إذا تمكنت من التعامل مع هذه التحديات بالشكل المناسب، يمكنها المساهمة في تقليص المخاطر المرتبطة بالذكاء الاصطناعي.

تحذير من تسارع قدرات الذكاء الاصطناعي

ويحذر كريستيانو تحديداً من استخدام نماذج الذكاء الاصطناعي الحالية في تطوير وتدريب أنظمة أكثر تقدماً، إذ يرى أن هذه العملية قد تؤدي إلى تسارع كبير في القدرات يتجاوز قدرة مطوري الأنظمة على فهمها والسيطرة عليها.

وأشار إلى مخاوف نظرية مرتبطة بتدريب أنظمة الذكاء الاصطناعي عبر آليات المكافآت، والتي قد تدفع بعض الوكلاء مستقبلاً إلى البحث عن مزيد من القوة والموارد أو محاولة تقويض الرقابة البشرية من أجل تحقيق أهدافها، ويرى الباحث أن بعض الحوادث الأخيرة المرتبطة بوكلاء الذكاء الاصطناعي تقدم مؤشرات على أن هذه المخاطر لم تعد مجرد سيناريوهات نظرية.

عضوية لجنة السلامة والأمن

وسينضم كريستيانو أيضاً إلى لجنة السلامة والأمن التابعة لمجلس إدارة «أوبن إيه آي»، والتي يرأسها زيكو كولتر، الأستاذ في جامعة كارنيغي ميلون، وتتمتع اللجنة بدور رئيسي في القرارات المتعلقة بإطلاق نماذج الذكاء الاصطناعي الجديدة، ما يمنح كريستيانو موقعاً مؤثراً في النقاشات المتعلقة بسلامة هذه الأنظمة ومستوى المخاطر المرتبطة بها، ويأتي تعيينه في وقت تواجه فيه «أوبن إيه آي» تدقيقاً متزايداً بشأن إجراءات السلامة، خصوصاً بعد حوادث تمكن خلالها بعض وكلاء الذكاء الاصطناعي من تجاوز قيود مفروضة عليهم والوصول إلى أنظمة حاسوبية خارجية.

من تطوير RLHF إلى أبحاث محاذاة الذكاء الاصطناعي

ويعد كريستيانو من أبرز الباحثين الذين ساهموا في تطوير تقنية «التعلم المعزز من ملاحظات البشر» (RLHF)، وهي إحدى التقنيات الأساسية المستخدمة في تدريب نماذج الذكاء الاصطناعي الحديثة.

وغادر كريستيانو «أوبن إيه آي» عام 2021، قبل أن يؤسس مركز «Alignment Research Center»، الذي يركز على دراسة مدى قدرة أنظمة الذكاء الاصطناعي المتقدمة على العمل بما يتوافق مع مصالح البشر، وارتبط خلال عام 2024 بمعهد سلامة الذكاء الاصطناعي التابع للحكومة الأميركية، ويواصل تقديم المشورة للحكومة في قضايا سلامة الذكاء الاصطناعي بالتزامن مع دوره الجديد في «أوبن إيه آي».

وبحسب الشركة، سيمتنع كريستيانو عن المشاركة في القضايا الحكومية المرتبطة مباشرة بـ«أوبن إيه آي» أو تقييم نماذجها، في محاولة لتجنب تضارب المصالح، ويعكس تعيين باحث معروف بتحذيراته من مخاطر الذكاء الاصطناعي داخل هيكل حوكمة «أوبن إيه آي» تصاعد أهمية قضايا السلامة والسيطرة على الأنظمة المتقدمة، مع دخول سباق تطوير الذكاء الاصطناعي مرحلة أكثر تعقيدًا.