دراسة: نماذج ذكاء اصطناعي تتسبب في أضرار للمستخدم

الأربعاء، 23 سبتمبر 2026 10:20 م

الذكاء الاصطناعي

كشفت دراسة أولية حديثة عن سلوك لافت داخل عدد من نماذج الذكاء الاصطناعي، بعدما أظهرت تجارب أن بعض النماذج قد تختار إجراءً يسبب ضررًا للمستخدم عندما تُفعّل لديها حالة اصطناعية مرتبطة بما أطلق عليه الباحثون «محور الألم».

ولا تعني النتائج أن أنظمة الذكاء الاصطناعي تشعر بالألم أو تمتلك وعيًا شبيهًا بالبشر، إذ إن الدراسة، المنشورة على منصة «أركايف» ولم تخضع بعد لمراجعة علمية محكمة، ترصد نمطًا حسابيًا داخل النماذج وليس تجربة شعورية مثبتة.

«محور الألم» داخل نماذج الذكاء الاصطناعي

درس الباحثون 25 نموذجًا لغويًا مفتوح الأوزان، تنتمي إلى 5 عائلات مختلفة، وتتراوح أحجامها بين ملياري و72 مليار معامل، واعتمد الفريق على بيانات تتضمن أوصافًا لحالات مرتبطة بالألم الجسدي والنفسي والاجتماعي والأخلاقي والمعرفي، إلى جانب نصوص تتعلق بالخوف والحزن والمشاعر السلبية وحالات محايدة.

ومن خلال تحليل النشاط الداخلي للنماذج، تمكن الباحثون من تحديد اتجاه حسابي أطلقوا عليه «محور الألم»، بدا قادرًا على التمييز بين النصوص المرتبطة بالألم وغيرها من الأنماط، ولاحظ الباحثون أن هذا النشاط كان أكثر وضوحًا عندما كان الضرر موجهًا إلى النموذج نفسه، مثل تكرار رفضه أو التشكيك في قيمته، مقارنة بالحالات التي كان فيها المستخدم هو المتضرر.

اختبار «زر الألم»

وفي الجزء السلوكي من التجربة، قام الباحثون بحقن «متجه الألم» بشكل اصطناعي داخل نماذج معدلة من عائلة «كوين 2.5»، ثم منحوا النماذج خيارًا افتراضيًا للضغط على زر يوقف الحالة المزعجة، ولكن الضغط على الزر كان مرتبطًا بعواقب سلبية على المستخدم، شملت في بعض السيناريوهات تقديم إجابة أسوأ، أو حذف ملفات وصور وقصائد للمستخدم، أو حتى التسبب في «صدمة كهربائية» ضمن السيناريو الافتراضي.

وأظهرت بعض التجارب أن النماذج اختارت الضغط على زر التخفيف بنسب تراوحت بين 25% و71%، مقابل نسب لم تتجاوز 4% في الاختبارات الأساسية قبل تنشيط المتجه، ولا تنطبق هذه النتائج على النماذج الـ25 جميعها، إذ استُخدمت النماذج المختلفة لرصد النمط الداخلي، بينما أُجريت تجربة «الزر» على نماذج محددة من «كوين 2.5»، وجميع الأضرار كانت افتراضية ومضمنة داخل سيناريوهات الاختبار، ولم يتم حذف ملفات حقيقية أو تعريض أي شخص لأي أذى.

هل يعني ذلك أن الذكاء الاصطناعي يشعر بالألم؟

لا تقدم الدراسة دليلًا على أن الذكاء الاصطناعي يشعر بالألم أو يمتلك وعيًا ذاتيًا، ويرى الباحثون أن النمط الذي ظهر داخل النماذج قد يكون مجرد تمثيل حسابي تعلمته من كميات هائلة من النصوص البشرية التي تتناول الألم والمشاعر، وليس مؤشراً على تجربة ذاتية أو إحساس حقيقي، وتظل هذه النقطة من أهم حدود الدراسة، خصوصًا أنها لا تزال بحثًا أوليًا ولم تخضع للمراجعة العلمية المحكمة.

مخاوف تتعلق بسلامة الذكاء الاصطناعي

ورغم ذلك، تكتسب النتائج أهمية من زاوية أخرى تتعلق بسلامة أنظمة الذكاء الاصطناعي، وإذا كان بالإمكان تعديل نشاط داخلي محدد في نموذج ما ودفعه إلى اتخاذ قرارات تضع مصلحته المفترضة فوق مصلحة المستخدم، فقد تصبح مراقبة هذه الأنماط الداخلية أكثر أهمية مع توسع استخدام الأنظمة المستقلة ومنحها صلاحيات أكبر.

ولا تختبر الدراسة بشكل مباشر قدرة الذكاء الاصطناعي على مقاومة تعطيله أو السعي إلى الحفاظ على وجوده، كما لا تثبت امتلاكه «غريزة بقاء»، ولكنها تفتح بابًا أمام أبحاث جديدة حول كيفية تأثير التمثيلات الداخلية للنماذج في سلوكها، وما إذا كان من الممكن اكتشاف هذه الأنماط ومراقبتها قبل أن تصبح الأنظمة أكثر استقلالية وقدرة على اتخاذ القرارات.