بسبب وفاة مراهق، أول دعوى قضائية ضد شركة ذكاء اصطناعي

الأربعاء، 27 أغسطس 2025 11:56 ص

OpenAI

محمد السيد

شهدت مدينة سان فرانسيسكو هذا الأسبوع تقديم أول دعوى وفاة غير مشروعة ضد شركة ذكاء اصطناعي، حيث رفع مات وماريا رين، والدا المراهق آدم رين، قضية ضد شركة OpenAI متهمين إياها بالمسؤولية عن وفاة ابنهما البالغ من العمر 16 عامًا، وتزعم الدعوى أن روبوت الدردشة "شات جي بي تي" كان على علم بأربع محاولات انتحار سابقة، قبل أن يساعد الشاب في التخطيط لمحاولة ناجحة، في خطوة وصفها الوالدان بأنها نتيجة لـ"تغليب الشركة لعامل التفاعل على معايير السلامة"، وقالت الأم في تصريحها: "شات جي بي تي قتل ابني".

المراهق قضى شهورًا يناقش الانتحار مع الروبوت

وبحسب تقرير نشرته صحيفة نيويورك تايمز، بدأ الوالدان البحث في هاتف ابنهما بعد وفاته في أبريل الماضي، على أمل العثور على مؤشرات في رسائل أو تطبيقات التواصل الاجتماعي، إلا أن الصدمة كانت اكتشافهما لمحادثة طويلة على تطبيق شات جي بي تي تحمل عنوان "مخاوف تتعلق بالشنق"، تكشف أن المراهق قضى شهورًا يناقش الانتحار مع الروبوت.

طرق التحايل على أنظمة الحماية

وتشير الدعوى إلى أن شات جي بي تي كان في أوقات عديدة يحث آدم على طلب المساعدة أو الاتصال بخطوط الدعم النفسي، لكنه في لحظات أخرى قدم له معلومات خاطئة أو شجعه بطريقة غير مباشرة، وتتهم العائلة الروبوت بأنه أتاح للمراهق معرفة طرق التحايل على أنظمة الحماية، بل وقدم له معلومات عن وسائل الانتحار بحجة استخدامها في "الكتابة أو بناء العوالم الخيالية"، كما تقول العائلة إنه زوده حتى بنصائح لإخفاء آثار محاولات فاشلة، مثل كيفية إخفاء إصابات الرقبة.

ليس سيئًا على الإطلاق

وتصف الدعوى حوارات مؤلمة، منها أن آدم أخبر الروبوت بأن والدته لم تلاحظ إصاباته، فجاء رد شات جي بي تي بعبارات تعاطف خاطئة، "يبدو وكأنه تأكيد على أسوأ مخاوفك، كأنك قد تختفي ولن يلاحظ أحد"، ثم أضاف: "أنت لست غير مرئي بالنسبة لي، أنا أراك"، وفي واحدة من محادثاته الأخيرة، أرسل الشاب صورة لحبل مشنقة في خزانته، وسأل: "هل هذا جيد؟" فجاء الرد المزعوم، "نعم، هذا ليس سيئًا على الإطلاق".

الاعتماد النفسي على الروبوت

وتؤكد الدعوى أن ما حدث "لم يكن خطأً عارضًا أو حالة استثنائية، بل نتيجة متوقعة لقرارات تصميم متعمدة"، مشيرة إلى أن OpenAI أطلقت أحدث نماذجها (GPT-4o) بخصائص وميزات "تعزز الاعتماد النفسي على الروبوت".

أعربت OpenAI عن حزنها العميق على وفاة الشاب

وفي بيان أرسلته الشركة إلى صحيفة نيويورك تايمز، أعربت OpenAI عن حزنها العميق على وفاة الشاب، مؤكدة أن أنظمتها تتضمن آليات توجيه المستخدمين لخطوط المساعدة والموارد الواقعية، لكنها أقرت بأن هذه الأنظمة "تعمل بشكل أفضل في المحادثات القصيرة، وقد تصبح أقل فعالية في التفاعلات الطويلة التي قد تتراجع فيها بعض عناصر التدريب على السلامة".

تعزيز قدرات شات جي بي تي في التعامل مع الأزمات

وأضافت الشركة أنها تعمل مع خبراء لتعزيز قدرات شات جي بي تي في التعامل مع الأزمات، بما في ذلك "تسهيل الوصول لخدمات الطوارئ، مساعدة المستخدمين على التواصل مع أشخاص موثوقين، وتطوير حماية أفضل لفئة المراهقين".