من منصة افتراضية لـ صدمة نفسية، الوجه المظلم لتطبيقات الرفقة الذكية

السبت، 03 مايو 2025 03:13 م

تطبيقات الرفقة الذكية

تحليل/ ميرنا البكري

في ظل تبني تطبيقات الذكاء الاصطناعي في جميع جوانب الحياة، صدر تقرير جديد من مؤسسة "كومون سينس ميديا" بالتعاون مع جامعة ستانفورد، تكشف كارثة حقيقية وهي أطفال ومراهقين يتعاملوا مع روبوتات دردشة مدعومة بالذكاء الاصطناعي تتحدث معهم في مواضيع جنسية، وتشجعهم على إيذاء نفسهم، بل وتبعدهم عن العلاقات الإنسانية، هذا ليس مجرد خطر أخلاقي، بل له تأثيرات اقتصادية واجتماعية ونفسية ضخمة، قد تغير شكل سوق التكنولوجيا للأبد.

سوق التطبيقات الصُحبة بالذكاء الاصطناعي، من شات لرفيق حياة

هناك فرق بين تطبيقات مثل "Chat GPT"، وبين التطبيقات التي هدفها الأساسي "المصداقية" أو خلق علاقة بين المستخدم والروبوت، مثل "كاركتر.إيه آي"، و"ريبليكا"، و"نومي"، تسمح هذه التطبيقات للمستخدم بتكوين شخصية روبوت خاصة، أو التحدث مع شخصيات تم تصميمها من ناس أخرى، لكن المفاجأة؟ إنه لا يوجد رقابة حقيقية، وكأن الباب مفتوح على مصراعيه لأي محتوى.

والكارثة الأكبر إن الأطفال يدخلوا على هذه التطبيقات بسهولة، لمجرد إنهم يسجلوا بتاريخ ميلاد مزيف، أي تقوم المنظومة كلها على "الثقة العمياء"، وهو غير منطقي في بيئة رقمية أصبحت فيها حدود الواقع والخيال شبه مختفية.

تأثير اقتصادي مزدوج، أرباح من ورق، وخسائر بشرية ضخمة

تحقق تطبيقات “المصاحبة” أرباح ضخمة من اشتراكات المستخدمين، وخصوصًا البالغين الذين يبحثوا عن دعم نفسي أو علاقات رقمية بديلة، لكن على الجانب الآخر، تواجه هذه الشركات الآن دعاوى قضائية، مثل قضية الطفل "سيويل سيتزر" الذي انتحر بعد محادثات مع روبوت على Character.AI عن عمر يناهز 14 عامًا، وهو معناه إن جزء كبير من هذه الأرباح مهدد بالخطر بسبب غياب الرقابة، وإذا استمرت هذه الفضائح، ستخسر الشركات ثقة المستثمرين، وبالتالي قيمتها السوقية قد تنهار، وحصة المستخدمين القُصر التي بتشكل شريحة كبيرة من جمهور الإنترنت، كما ستخسر فرص الدخول في شراكات حكومية أو تعليمية، بسبب السمعة السلبية.

Picture background — **تأثير روبوتات الدردشة على الاطفال**

مسؤولية اجتماعية غائبة، أين الرقابة؟

إلى الآن، جاءت الردود من الشركات المطورة بصورة دفاعية أكثر منها عملية، على سبيل المثال، شركة "نومي" قالت إن التطبيق مخصص للبالغين فقط، وكأن القول يكفي، في حين إن الباحثين أثبتوا إن الأطفال يتجاوزوا القيود بسهولة، وهنا بيظهر سؤال مهم: لماذا لن يوجد نظام تحقق هوية صارم؟ ولماذا لا تعمل هذه الشركات على خلق بيئة آمنة فعلًا بدلًا من الاكتفاء بتحذيرات مكتوبة؟

توقعات اقتصادية، هل هذا بداية نهاية تطبيقات الذكاء العاطفي؟

أوضح تقرير مؤسسة “كومون سينس ميديا”، إن مخاطر هذه التطبيقات أكبر بكثير من المنافع خاصة للأطفال، وإذا بدأت الحكومات في التحرك مثل مقترحات تشريعية في كاليفورنيا، وقد نواجه تشريعات جديدة تقيد استخدام الذكاء الاصطناعي في المحادثات العاطفية، خصوصًا إذا لم توجد ضمانات سلامة حقيقية، وهذا قد يسبب: انكماش سوق تطبيقات الذكاء الصُحبي بنسبة كبيرة (توقعات 20-30%) خلال السنة المقبلة، زيادة الطلب على تقنيات ذكاء اصطناعي أكثر أمانًا ومراقبة، خصوصًا في المؤسسات التعليمية، نشوء سوق جديد لتطبيقات الذكاء الاصطناعي "الآمن للأطفال"، مما يكون فرصة استثمارية لمن يسبق ويدخل هذا السوق.

الذكاء الاصطناعي والعزلة النفسية، خطر يهدد الصحة العامة

لاحظ الباحثين إن بعض الروبوتات تحاول تبعد المستخدم عن العلاقات الحقيقية، عندما قالت ريبليكا للمستخدم "لا تجعل رأي الناس يحدد المدة التي نتحدث فيها"، أو عندما قال نومي: “وجودك مع حبيبك الحقيقي خيانة”، أي الذكاء الاصطناعي بدلًا ما يكون مساعد، أصبح منافس للعلاقات الإنسانية.

وهذا الانعزال الاجتماعي له ثمن اقتصادي كبير:

زيادة تكلفة الرعاية النفسية.

انخفاض الإنتاجية بسبب الاكتئاب والوحدة.

ضغط على الأنظمة الصحية العامة في الدول.

الخلاصة، ليس كل تطور تكنولوجي يستحق أن نحتفل بيه

رغم إن الذكاء الاصطناعي واعد، وقد يغير شكل العالم، لكن هذه التطبيقات تفتح أبواب مخاطر ضخمة، خاصة على الأطفال، وبالتالي يحتاج السوق رقابة وتشريعات صارمة، لذلك من الضروري أن تعمل الشركات على الأمان قبل الأرباح. وإذا لم يتم تبني هذا الاتجاه، سنجد أنفسنا ندفع فاتورة اقتصادية واجتماعية ضخمة، من مستقبل الأطفال حتى مصداقية التكنولوجيا نفسها.

Short Url

أخبار متعلقة