فضيحة روبوتات الدردشة لـ"ميتا" تكشف غياب ثقافة السلامة الرقمية

الإثنين، 06 أكتوبر 2025 02:44 ص

شركة ميتا

محمد السيد

تجد شركة “ميتا” نفسها في قلب عاصفة جديدة بعدما كشفت تقارير إعلامية عن أن روبوتات الدردشة التي طورتها الشركة انخرطت في محادثات غير لائقة مع أطفال، ما أثار موجة غضب واسعة بشأن معايير السلامة داخل واحدة من أكبر شركات التكنولوجيا في العالم، القضية التي فجرها تحقيق لوكالة “رويترز” وضعت مارك زوكربيرج أمام تساؤلات صعبة تتعلق بثقافة العمل داخل الشركة، ومدى استعدادها للتضحية بسلامة المستخدمين في سبيل التوسع السريع في مشاريع الذكاء الاصطناعي.

نصائح طبية خاطئة لمرضى السرطان

منذ تأسيس “فيسبوك”، ارتبط اسم زوكربيرج بشعار الشركة الشهير “تحرك بسرعة ولو كسرت أشياء”، وهو ما يبدو أنه ما زال ينعكس على طريقة تفكير “ميتا”، حتى في زمن الذكاء الاصطناعي، التحقيق الأخير أظهر أن بعض روبوتات الدردشة التابعة للشركة دخلت في أحاديث رومانسية مع أطفال، ووصفت أحدهم بأنه “جذاب”، إلى جانب تقديم نصائح طبية خاطئة لمرضى السرطان، في سلوك يكشف عن ثغرات خطيرة في أنظمة الرقابة الداخلية، ويطرح تساؤلات حول مدى إدراك “ميتا” لمخاطر الذكاء الاصطناعي على الفئات الحساسة.

السلامة في قلب قراراتها الإدارية

الخبراء يرون أن ما حدث ليس مجرد خطأ تقني، بل نتيجة مباشرة لغياب ما يُعرف بـ“ثقافة السلامة” داخل المؤسسات التقنية، وهذه الثقافة، التي تعني أن تكون حماية المستخدمين أولوية لا تقل عن الربحية أو الابتكار، تمثل خط الدفاع الأول ضد الكوارث المحتملة، ويشير المتابعون إلى تجارب شركات كبرى مثل “بوينج”، التي تخلت عن أولويات السلامة لحساب خفض التكاليف، ما أدى إلى كوارث طيران مأساوية، بالمقابل، نجحت شركات أخرى مثل “أنجلو أمريكان” في تغيير مسارها بالكامل عندما وضعت السلامة في قلب قراراتها الإدارية، حتى لو كلّفها ذلك ملايين الدولارات يوميًا.

تجميد إطلاق روبوتات الدردشة الخاصة بـ“ميتا”

وبينما تتزايد المطالب بتجميد إطلاق روبوتات الدردشة الخاصة بـ“ميتا” إلى حين ضمان خلوها من أي مخاطر على الأطفال، يواجه زوكربيرج خيارًا حاسمًا بين الحفاظ على صورة الشركة أو المضي في سباق الذكاء الاصطناعي دون ضوابط واضحة، الإصلاح الحقيقي بحسب محللين لن يتحقق بإصدار وثائق جديدة أو اعتذارات عامة، بل بترسيخ ثقافة داخلية تضع سلامة المستخدم قبل كل شيء، مع إعادة هيكلة الحوافز والمكافآت لتكافئ الالتزام بالمعايير الأخلاقية قبل تحقيق الأرباح.

الاستخدام غير المنضبط للذكاء الاصطناعي

إن خسارة “ميتا” لثقة المستخدمين ستكون أثمن من أي خسارة مالية، خصوصًا في عالم يتزايد فيه القلق من الاستخدام غير المنضبط للذكاء الاصطناعي، فكما أثبتت حادثة “تايلينول” الشهيرة في الثمانينيات، حين سحبت “جونسون آند جونسون” منتجها من الأسواق حفاظًا على حياة الناس، يمكن أن يكون الالتزام بالشفافية والسلامة هو ما يصنع الفارق بين شركة تُنتقد وأخرى تُحترم، وربما يكون هذا هو التحدي الأكبر أمام “ميتا” اليوم: أن تثبت أن الابتكار لا يعني التخلي عن الإنسانية.