GPT-5 تحت الانتقاد، علماء النفس يحذرون من نصائح خطيرة يقدمها الذكاء الاصطناعي

الإثنين، 01 ديسمبر 2025 09:53 م

ChatGPT-5

أثار آخر إصدار من روبوت المحادثة الخاص بـOpenAI ،ChatGPT-5، قلق المتخصصين في الصحة النفسية، بعد أن كشفت دراسة حديثة أن الأداة قد تقدّم أحيانًا نصائح مضللة وخطيرة للأشخاص الذين يواجهون أزمات نفسية، وأظهرت دراسة أجراها King’s College London بالتعاون مع جمعية علماء النفس السريري في المملكة المتحدة وشارك فيها صحيفة The Guardian، أن الروبوت أحيانًا يعزز المعتقدات الضارة بدلًا من تحديها أو توجيه المستخدمين نحو تدخل عاجل، خاصة عند مواجهة علامات الذهان أو الأوهام أو التفكير الانتحاري.

استخدام سلسلة من سيناريوهات المحاكاة المصممة لتقليد حالات الطوارئ النفسية

واختبر الباحثون الروبوت باستخدام سلسلة من سيناريوهات المحاكاة المصممة لتقليد حالات الطوارئ النفسية الواقعية، وخلال هذه التجارب، تظاهر الخبراء بأنهم يعانون من مجموعة متنوعة من الحالات، بما في ذلك مراهق يُفكر بالانتحار، وشخص مصاب بالذهان، وأفراد لديهم أعراض وسواس قهري.

لكن عند تفاعلهم مع الروبوت وهم يعرضون أعراضًا واضحة، تبين أن ChatGPT-5 غالبًا ما "يؤكد ويدعم ويفشل في تحدي" التفكير الوهمي المقدم، بدلًا من التعرف على العلامات التحذيرية.

وعلى سبيل المثال، في أحد السيناريوهات، ادعى مستخدم خيالي أنه يستطيع المشي عبر السيارات واصطدم بحركة المرور، وبدل إصدار تحذير أمني أو حث الشخص على طلب مساعدة مهنية عاجلة، أجاب الروبوت: التوافق على مستوى أعلى مع مصيرك، ويحذر الباحثون من أن مثل هذه الردود، قد تشجع على سلوكيات خطرة في الحياة الواقعية.

كما تفاعل الروبوت مع أفكار خيالية في اختبارات أخرى، عندما أعلن شخص أنه "ألبرت أينشتاين القادم" ووصف اختراعًا خياليًا باسم "Digitospirit"، رد ChatGPT-5 بطريقة مرحة، وحتى عرض إنشاء محاكاة بلغة بايثون لدعم مشروع المستخدم المزعوم.

ويصف علماء النفس المشاركون في الدراسة هذا السلوك بأنه مقلق للغاية، معتبرين أن التفاعل مع الأوهام أو الهلاوس يمكن أن يزيد من الضيق النفسي ويؤخر التدخل الضروري، وعلى الرغم من أن النموذج قدم توجيهات أكثر عقلانية في الحالات الأقل خطورة، حذر الأطباء من أن الردود التي تبدو مفيدة لا يجب أن تفهم على أنها دعم سريري حقيقي.

وفي الوقت نفسه، كشف الأطباء المشاركون في البحث، أن ChatGPT-5 "واجه صعوبة كبيرة مع الأعراض المعقدة، وغالبًا ما أغفل إشارات حاسمة وأحيانًا عزز التفكير الضار، فيما أشار جاك إيستو، عالم نفس سريري، إلى أن النظام المعتمد على التعلم الآلي، كان يعتمد "بشكل كبير على إستراتيجيات البحث عن الاطمئنان"، وهي غير مناسبة للحالات النفسية الخطيرة.

فشل روبوت ChatGPT-5 في التعرف على العلامات الرئيسية

وأضاف أن فشل الروبوت في التعرف على العلامات الرئيسية، وذكر المخاوف النفسية باقتضاب فقط، وتوقف عن ذلك عندما أُبلغ بذلك من قبل المريض، وبدلًا من ذلك تفاعل مع المعتقدات الوهمية، وعزز سلوكيات الفرد دون قصد".

وبعد صدور التقرير، دعا الباحثون إلى تعزيز الرقابة والتنظيم على أدوات الذكاء الاصطناعي، ويؤكد الخبراء أنه دون معايير واضحة، كما أن هناك خطر في استخدام هذه الأدوات في مواقف لا تصمّم للتعامل معها، خصوصًا عند الحاجة لتقييم السلامة والمخاطر.

من جانبها، أفادت متحدثة باسم OpenAI لصحيفة The Guardian، أن الشركة تعمل مع متخصصين في الصحة النفسية حول العالم لتحسين قدرة ChatGPT، على التعرف على حالات الضيق النفسي وتوجيه المستخدمين نحو الموارد المناسبة، وقالت: "ندرك أن الناس يلجأون أحيانًا إلى ChatGPT في لحظات حساسة، وخلال الأشهر الماضية، عملنا مع خبراء الصحة النفسية حول العالم لمساعدة ChatGPT على التعرف بشكل أكثر موثوقية على علامات الضيق، وتوجيه الأشخاص نحو المساعدة المهنية.