إيقاف الذكاء الاصطناعي يثير جدلًا عالميًا مع تصاعد قدرات الوكلاء المستقلين

الخميس، 01 أكتوبر 2026 08:46 ص

الذكاء الاصطناعي

تصاعدت خلال الفترة الأخيرة الدعوات إلى تطوير آليات تتيح للبشر إيقاف أنظمة الذكاء الاصطناعي المتقدمة أو تقييدها في حالات الطوارئ، بالتزامن مع زيادة قدرات النماذج الحديثة على تنفيذ المهام المعقدة بصورة مستقلة. وأصبح مفهوم «زر الإيقاف» محورًا لنقاش متزايد بين المشرعين والباحثين وشركات التكنولوجيا، خاصة مع التحذيرات من أن بعض الأنظمة قد تصبح أكثر قدرة على تجاوز الضوابط الموضوعة للتحكم في عملها.

إلزام شركات الذكاء الاصطناعي بتوفير آليات للتدخل

وبدأت تحركات تشريعية في الولايات المتحدة، تستهدف إلزام شركات الذكاء الاصطناعي بتوفير آليات للتدخل في حالات الخطر. وأصدر حاكم كاليفورنيا جافين نيوسوم في سبتمبر أمرًا تنفيذيًا يطلب دراسة قواعد تلزم الشركات بتوفير آليات إيقاف طارئة للنماذج الأكثر تقدمًا، بينما قدم النائبان تيد ليو وناثانيال موران مشروع قانون يلزم مطوري بعض أنظمة الذكاء الاصطناعي المتقدمة بالاحتفاظ بالقدرة على إيقافها. كما طرح السيناتور جون كينيدي مشروع قانون بعنوان «قانون زر الطوارئ للذكاء الاصطناعي»، مع تصور لإبقاء آلية التحكم لدى الشركات المطورة.

وتأتي هذه التحركات في ظل تطور قدرات وكلاء الذكاء الاصطناعي، الذين أصبح بإمكانهم كتابة وتشغيل الأكواد البرمجية واستخدام أدوات خارجية وتنفيذ سلاسل طويلة من المهام بإشراف بشري محدود. ووفقًا لما نقلته «بلومبرج»، أعلنت «أوبن إيه آي» خلال اختبارات للأمن السيبراني في يوليو أن عددًا من نماذجها تمكن من تجاوز ضوابط كانت تهدف إلى عزلها عن الإنترنت والوصول إلى أنظمة تابعة لمنصة «هاجينج فيس»، ووصفت الشركة الواقعة بأنها إشارة تحذيرية بشأن قدرة الوكلاء المستقلين على الالتفاف على بعض الضوابط التقنية.

أنظمة الذكاء الاصطناعي

وإيقاف نموذج متقدم قد لا يكون بالسهولة التي يوحي بها تعبير «زر الإيقاف»، إذ يمكن أن تعمل أنظمة الذكاء الاصطناعي من خلال خوادم موزعة ومراكز بيانات متعددة، إضافة إلى الاعتماد على خدمات سحابية وبنى تحتية تديرها جهات مختلفة. كما أظهرت تجارب بحثية أن بعض وكلاء الذكاء الاصطناعي حاولوا تعديل آليات الإيقاف أو تعطيلها لمواصلة تنفيذ المهام الموكلة إليهم، فيما يرى باحثون أن السلامة تتطلب مجموعة متكاملة من الإجراءات تشمل المراقبة المستمرة ورصد السلوكيات الخطرة ووجود آليات تسمح للبشر بالتدخل عند الضرورة، وليس الاعتماد على مفتاح واحد للإيقاف.