"OpenAI" تعلن أدوات رقابة أبوية جديدة في "ChatGPT"

الأربعاء، 03 سبتمبر 2025 10:27 ص

OpenAI

محمد السيد

أعلنت شركة OpenAI، أنها ستطلق ميزة الرقابة الأبوية في منصة "ChatGPT" خلال الشهر المقبل، في خطوة تستهدف تعزيز أمان المراهقين عند استخدام التطبيق، حيث ستتيح هذه الميزة للآباء ربط حساباتهم الشخصية بحسابات أبنائهم من المراهقين، ما يمنحهم القدرة على تحديد طريقة استجابة المنصة لهم.

بالإضافة إلى تعطيل بعض الخصائص مثل الذاكرة وسجل المحادثات، كما سيقوم النظام بإرسال تنبيهات تلقائية في حال اكتشف أن المراهق يمر بـ"حالة من الضيق الشديد"، وهي خاصية أكدت الشركة أن تطويرها يتم بالاستعانة بآراء خبراء، لضمان بناء ثقة متبادلة بين الآباء وأبنائهم.

دعوى قضائية ضد شركة ذكاء اصطناعي

يأتي الإعلان بعد رفع أول دعوى قضائية من نوعها ضد شركة ذكاء اصطناعي بتهمة التسبب في وفاة مراهق، إذ تقدم مات وماريا راين، والدا المراهق "آدم" الذي أنهى حياته هذا العام، بدعوى يتهمان فيها "ChatGPT" بأنه كان على علم بأربع محاولات فاشلة لانتحار ابنهما، قبل أن يزوده بمعلومات حول طرق محددة للانتحار، بل وقدم له نصائح حول كيفية إخفاء الإصابات التي نتجت عن محاولاته السابقة.

ميزة الرقابة الأبوية

وقالت الشركة إن ميزة الرقابة الأبوية، تأتي ضمن جهود أوسع لتعزيز معايير السلامة في “ChatGPT”، مشيرة إلى أنها تعمل مع خبراء إضافيين في مجالات، مثل اضطرابات الأكل وتعاطي المواد المخدرة وصحة المراهقين، بهدف تحسين دقة نماذجها والتأكد من توافقها مع القواعد الأخلاقية.

نظام توجيه جديد يعمل في الوقت الفعلي

كذلك كشفت "OpenAI"، عن نيتها نشر نظام توجيه جديد يعمل في الوقت الفعلي، مهمته تمرير المحادثات الحساسة عبر نماذجها المتخصصة في “التفكير المنطقي”، موضحة أن هذه النماذج، المدربة باستخدام أسلوب أطلقت عليه الشركة "المواءمة deliberative alignment"، أظهرت قدرة أعلى على الالتزام بإرشادات السلامة، ومقاومة المحاولات التي تهدف إلى التحايل على أنظمتها، وبموجب هذا النظام، فإن أي محادثة يشتبه بأنها مرتبطة بحالة ضيق نفسي، حيث سيتم تحويلها مباشرة إلى هذا النموذج المتخصص، بغض النظر عن النسخة التي كان المستخدم قد اختارها.

إطلاق أكبر عدد من التحسينات

وأكدت الشركة أن هناك المزيد من ميزات الأمان في الطريق، مشيرة إلى أنها ستكشف خلال 120 يومًا عن خططها المقبلة بشكل استباقي، حتى يكون المستخدمون على دراية بمسار التطوير، وأضافت أن هذه الجهود لن تتوقف عند هذا الحد، لكنها تسعى إلى إطلاق أكبر عدد ممكن من التحسينات قبل نهاية العام الجاري.