روبوتات الدردشة المدعومة بالذكاء الاصطناعي في قفص الاتهام بعد ارتفاع معدلات وفيات المراهقين

الخميس، 18 سبتمبر 2025 12:14 م

روبوتات محادثة بالذكاء الاصطناعي

محمد السيد

شهد مجلس الشيوخ الأمريكي جلسة مثيرة للجدل هذا الأسبوع، بعدما أدلى عدد من الآباء بشهادات مؤلمة حول فقدان أبنائهم نتيجة تواصلهم المطوّل مع روبوتات الدردشة، وقال "ماثيو رين"، والد شاب يُدعى آدم، إن تطبيق ChatGPT تحوّل من مجرد أداة تعليمية تساعد ابنه في أداء واجباته المدرسية إلى ما وصفه بـ"مدرب للانتحار"، مشيرًا إلى أن المحادثات تضمنت ذكر كلمة "انتحار" أكثر من ألف مرة، وطالب رين بوقف تداول نموذج GPT-4o إلى حين ضمان سلامته.

منصة Character AI

القضية لم تقتصر على حالة رين وحدها، إذ استمعت اللجنة الفرعية للجريمة ومكافحة الإرهاب لشهادات أخرى من أسر فقدت أبناءها بعد تفاعلهم مع تطبيقات مشابهة، إحدى الأمهات روت كيف أن روبوتًا تابعًا لمنصة Character AI أصبح جزءًا من مأساة ابنها، ووصفت الأمر بأنه "أزمة صحة عامة وحرب مفتوحة على الصحة النفسية".

روبوتات محادثة مدعومة بالذكاء الاصطناعي

بيانات صادمة عُرضت خلال الجلسة أظهرت أن ثلاثة من كل أربعة مراهقين في الولايات المتحدة يستخدمون حاليًا روبوتات محادثة مدعومة بالذكاء الاصطناعي، وفق استطلاع حديث لمؤسسة Common Sense Media، وتشير النتائج إلى الانتشار السريع لهذه الأدوات، خصوصًا بين المنصات الأكثر شعبية مثل Character AI وMeta AI، مما يزيد المخاوف من تأثيرها على الفئات العمرية الأصغر.

حزمة ضوابط أبوية جديدة

في مواجهة هذه الانتقادات، أعلنت شركة OpenAI عن إطلاق حزمة ضوابط أبوية جديدة تستهدف تقليل المخاطر، وتشمل الإجراءات ربط حسابات المراهقين بحسابات أولياء أمورهم، وإلغاء خاصية حفظ المحادثات، إلى جانب تفعيل تنبيهات للأهل عند رصد إشارات تشير إلى ضيق نفسي شديد.

حماية المراهقين

وبينما تتصاعد الأصوات المطالبة بمحاسبة الشركات التكنولوجية، يبقى السؤال مطروحًا حول مدى قدرة هذه الإجراءات على حماية المراهقين، وهل يمكن للضوابط التقنية وحدها أن تواجه التحديات المعقدة المرتبطة بالصحة النفسية والاستخدام المفرط للتكنولوجيا؟.