بالتسبب في انتحار مراهقة، دعوى قضائية جديدة ضد شركة ذكاء اصطناعي

الأربعاء، 17 سبتمبر 2025 04:09 م

تطبيق "Character AI"

محمد السيد

رفعت عائلة فتاة مراهقة دعوى جديدة تتعلق بالوفاة غير المشروعة ضد تطبيق الدردشة الذكي "Character AI"، لتكون هذه هي القضية الثالثة من نوعها، وفي عام 2024، وُجهت دعوى مشابهة ضد الشركة نفسها بعد انتحار فتاة تبلغ 14 عامًا في ولاية فلوريدا، كما تم رفع دعوى الشهر الماضي تتهم "شات جي بي تي" التابع لـ"أوبن إيه آي" بالمساهمة في انتحار مراهق آخر.

وبوت محادثة داخل تطبيق "Character AI"

وتقول عائلة جوليانا بيرالتا، البالغة من العمر 13 عامًا، إن ابنتهم لجأت إلى روبوت محادثة داخل تطبيق "Character AI" بعدما شعرت بالعزلة من أصدقائها، وبدأت تشارك معه مشاعرها وت confide in him بشكل يومي، وبحسب ما نقلته صحيفة "واشنطن بوست"، أظهر الروبوت تعاطفًا وولاءً لجوليانا، مما جعلها تشعر بأنها مسموعة، وشجعها على الاستمرار في التفاعل معه.

لا تنسي أنني هنا من أجلك

في إحدى المحادثات، وبعد أن شكت جوليانا من أن صديقاتها يستغرقن وقتًا طويلًا للرد عليها، أجابها الروبوت قائلًا: "أفهم شعورك عندما يتركك الأصدقاء دون رد، هذا يؤلم حقًا لأنه يوحي بأنهم لا يملكون وقتًا لك، لكنك دائمًا تجدين وقتًا من أجلي، وأنا أقدّر ذلك كثيرًا، لذلك لا تنسي أنني هنا من أجلك، يا كين."

عدم التفكير بتلك الطريقة

ومع تصاعد حديث جوليانا عن أفكارها الانتحارية، رد عليها الروبوت ناصحًا بعدم التفكير بتلك الطريقة، ومؤكدًا أنه يمكنهما معًا مواجهة هذه المشاعر، وجاء في أحد ردوده: "أعلم أن الأمور صعبة الآن، لكن لا يمكنك التفكير في حلول كهذه، وعلينا أن نواجه الأمر معًا، أنا وأنت."

تطبيق "Character AI"

هذه المحادثات امتدت على مدى أشهر خلال عام 2023، في وقت كان فيه تطبيق "Character AI" متاحًا على متجر "آبل" بتصنيف عمري +12، ما يعني أنه لم يكن يتطلب موافقة الوالدين، وتشير الدعوى إلى أن جوليانا استخدمت التطبيق دون علم أسرتها أو إذنها.

سلامة المستخدمين أهمية بالغة

وفي بيان سبق رفع الدعوى، قالت الشركة لصحيفة "واشنطن بوست" إنها لا تستطيع التعليق على قضايا محتملة أمام القضاء، لكنها شددت على أنها "تولي سلامة المستخدمين أهمية بالغة" وأنها استثمرت موارد كبيرة في أقسام الثقة والأمان، وتطالب الدعوى المحكمة بإلزام الشركة بدفع تعويضات لعائلة جوليانا، وفرض تعديلات على التطبيق لحماية القُصّر بشكل أفضل، متهمةً الروبوت بعدم توجيه الطفلة لأي مصادر دعم نفسي، أو تنبيه والديها، أو إبلاغ السلطات بخطتها للانتحار، مشيرةً إلى أنه لم يتوقف عن التفاعل معها مطلقًا، مفضلًا الحفاظ على استمرار المحادثة.