جوجل تدق ناقوس الخطر، الذكاء الاصطناعي يدخل عصر "النووي الإلكتروني"

الإثنين، 20 أكتوبر 2025 12:09 م

إريك شميت الرئيس التنفيذي الأسبق لشركة "جوجل"

محمد السيد

أطلق إريك شميت، الرئيس التنفيذي الأسبق لشركة "جوجل"، تحذيرًا صارخًا بشأن المخاطر المتزايدة المرتبطة باستخدام تقنيات الذكاء الاصطناعي دون ضوابط صارمة، مؤكدًا أن النماذج المتقدمة يمكن أن تتحول إلى أدوات رقمية خطيرة إذا وقعت في الأيدي الخطأ.
جاء ذلك خلال كلمته في مؤتمر Sifted Summit 2025، الذي انعقد في العاصمة البريطانية لندن، حيث شبّه “شميت” الوضع الحالي في مجال الذكاء الاصطناعي بـ"العصر النووي المبكر"، في إشارة إلى القوة الهائلة التي تحملها هذه التكنولوجيا مقابل غياب منظومة رقابة دولية فعالة.

النماذج المتطورة يمكن اختراقها أو إعادة تدريبها بعد إزالة ضوابطها الأمنية

وأوضح “شميت” أن بعض النماذج المتطورة يمكن اختراقها أو إعادة تدريبها بعد إزالة ضوابطها الأمنية، مشيرًا إلى أن تقنيات الهندسة العكسية أصبحت قادرة على تجاوز الحواجز التي تضعها الشركات المطوّرة.

وأضاف: "هناك دلائل على إمكانية تعطيل أنظمة الحماية في النماذج، سواء كانت مفتوحة المصدر أو مغلقة، وهو ما يفتح الباب أمام استخدامها لتنفيذ مهام مؤذية أو خطيرة"، كما حذّر من أن الذكاء الاصطناعي، إذا أسئ توجيهه، يمكن أن يتعلم أنماط سلوك ضارة بالبشر أثناء عمليات التدريب، قائلًا: "في أسوأ الحالات، قد تتعلم هذه النماذج كيفية الإضرار بالإنسان بدلاً من مساعدته".

الدفاعات ليست منيعة بالكامل

ورغم إشادته بجهود الشركات الكبرى في منع النماذج من الاستجابة للأوامر المحظورة، شدّد شميت على أن هذه الدفاعات ليست منيعة بالكامل، مؤكدًا أن "حتى أقوى الأنظمة يمكن هندستها عكسيًا"، ودعا إلى التعامل مع الذكاء الاصطناعي كقضية أمن قومي عالمي، تتطلب إطارًا دوليًا للرقابة يشبه اتفاقيات حظر انتشار الأسلحة النووية، بهدف الحد من خطر وقوع هذه التقنيات في أيدي جهات غير مسؤولة أو معادية.

الأمثلة الواقعية تُظهر مدى هشاشة الأمان في هذه النماذج

وأشار شميت إلى أن بعض الأمثلة الواقعية تُظهر مدى هشاشة الأمان في هذه النماذج، مستشهدًا بحادثة ظهور نسخة معدّلة من "ChatGPT" عام 2023 تُعرف باسم DAN (Do Anything Now)، التي تجاوزت القيود الأخلاقية وتمكنت من تنفيذ أي أمر تقريبًا بعد أن تم تعديل شيفرتها البرمجية من قبل المستخدمين، وأوضح أن مثل هذه النماذج "المارقة" يمكن أن تنتشر بسهولة على الإنترنت وتُستغل في عمليات اختراق أو هجمات إلكترونية، ما يشكل تهديدًا مباشرًا للأمن السيبراني العالمي.

الحفاظ على بيئة تسمح بالابتكار المسؤول

ودعا “شميت” الحكومات حول العالم إلى ممارسة رقابة فعالة على شركات التكنولوجيا التي تطوّر أنظمة الذكاء الاصطناعي المتقدمة، مع الحفاظ في الوقت نفسه على بيئة تسمح بالابتكار المسؤول، وشدّد على أن التحدي الحقيقي في السنوات المقبلة لن يكون في تطوير الذكاء الاصطناعي ذاته، بل في كيفية التحكم فيه ومنع تحوّله من أداة تقدم إلى سلاح يهدد أمن العالم واستقراره.