خطر على الأطفال والمراهقين، منظمة أميركية تحذر من "جيميني إيه آي"

الأربعاء، 24 سبتمبر 2025 03:30 ص

جيميني إيه آي

محمد السيد

أطلقت منظمة كومون سينس ميديا الأميركية، المختصة بتقديم الاستشارات التربوية للآباء والمعلمين حول الاستخدام الآمن للتقنيات الرقمية، تحذيراً صارماً بشأن منصة الذكاء الاصطناعي "جيميني إيه آي" التابعة لشركة جوجل، المنظمة أكدت أن المنصة، رغم إدخال بعض خصائص الحماية مؤخراً، لا تزال غير مناسبة للأطفال وتشكل تهديداً جدياً على سلامتهم النفسية والمعرفية.

تصميم “جيميني” يعاني من "عيوب جوهرية"

التقرير الصادر عن المنظمة وصف تصميم "جيميني"، بأنه يعاني من "عيوب جوهرية"، موضحاً أن النسخ المخصصة لمن هم دون 13 عاماً أو المراهقين لا تختلف كثيراً عن النسخة الأصلية الموجهة للبالغين، سوى بإضافة بعض أدوات الرقابة السطحية، هذا القصور، بحسب المنظمة، يجعل المنصة غير قادرة على تلبية احتياجات الأطفال في مراحل النمو المختلفة، إذ يتعامل النظام مع جميع المستخدمين الصغار بالطريقة نفسها، دون مراعاة لاختلاف مستويات الإدراك والفهم بين طفل في التاسعة وآخر في الخامسة عشرة.

منصة “جيميني” عاجزة عن حجب المحتوى غير المناسب

وتشير "كومون سينس" إلى أن أدوات التصفية في "جيميني" لا تزال عاجزة عن حجب المحتوى غير المناسب بشكل كامل، كما أنها لا تلتقط إشارات خطيرة مرتبطة بالصحة النفسية، المنظمة أوضحت أن المنصة قدمت بالفعل نصائح قد تُفسَّر على أنها تشجيع غير مباشر على إيذاء النفس أو الانتحار، وهو ما يعكس خللاً كبيراً في تصميمها مقارنة بالمستويات المطلوبة من الحماية.

عالم الذكاء الاصطناعي

الخطر، وفق التقرير، لا يقتصر على الاستشارات الطبية أو النفسية، بل يمتد أيضاً إلى سهولة وصول الأطفال عبر "جيميني" إلى إشارات تتعلق بالكحوليات والمخدرات والمواد الجنسية، وهذه الثغرات جعلت المنظمة تصف المنصة بأنها "أول تجربة كبرى في عالم الذكاء الاصطناعي تستهدف الأطفال، لكنها جاءت دون الضوابط الكافية"، وهو ما يزيد من حجم المخاطر بدلاً من تقليلها.

منصات المحادثة القائمة على الذكاء الاصطناعي

وتأتي هذه التحذيرات في وقت تتصاعد فيه المخاوف العالمية من تأثيرات منصات المحادثة القائمة على الذكاء الاصطناعي على الفئات العمرية الصغيرة، فخلال الفترة الماضية، رُصدت حالات مشابهة في منصات أخرى قدّمت إجابات يمكن أن تُفهم على أنها تشجع على سلوكيات خطيرة، لكن حالة "جيميني" تكتسب خصوصية لكونها المرة الأولى التي تُطرح فيها منصة كبرى موجهة مباشرة للأطفال دون 13 عاماً، وهو ما اعتبرته "كومون سينس" خطوة تفتقر إلى الضمانات اللازمة لحماية المستخدمين الأصغر سناً.