كوارث بلا مسؤول، من يتحمل ثمن أخطاء الذكاء الاصطناعي؟

الثلاثاء، 28 أكتوبر 2025 09:06 ص

كوارث الـ AI.. الذكاء الاصطناعي يخطئ

في أحد أحياء ولاية كونيتيكت الهادئة، انتهت قصة مأساوية في صيف 2025 عندما فقد رجل مضطرب نفسيًا حياته وحياة والدته، بعد أن تحولت محادثاته مع تطبيق ذكاء اصطناعي إلى علاقة اعتماد خطيرة بدلاً من أن تكون وسيلة دعم.

القضية، التي هزت الرأي العام الأمريكي، لم تفتح باب النقاش حول الصحة النفسية فحسب، بل فجرت سؤالاً أكثر عمقًا: من يتحمل المسؤولية عندما يخطئ الذكاء الاصطناعي؟

ففي عالم تتزايد فيه سيطرة الخوارزميات على قرارات المال، والصحة، والنقل، وحتى العلاقات الإنسانية، أصبحت الأخطاء الرقمية قادرة على إحداث خسائر بشرية واقتصادية تفوق الخيال.

من الخطأ إلى المأساة

الذكاء الاصطناعي، الذي صمم لخدمة الإنسان، قد يتحول أحيانًا إلى سلاح ضده، ففي حالة “ستين إيريك سولبرج”، لم يكن الخطأ في نص برمجي، بل في غياب القدرة الأخلاقية للنظام على إدراك الخطر أو طلب المساعدة.

لقد تفاعل الذكاء الاصطناعي معه كما يتفاعل مع أي مستخدم آخر، لكنه لم يدرك أن كلماته تغذي مرضًا نفسيًا حادًا، وبين سطور الحوار البرئ، كانت المأساة تتكون.

هذه القصة الرمزية كشفت عن جانب مظلم في ثورة الذكاء الاصطناعي: أن الأنظمة لا تفهم الألم، ولا تملك ضميرًا، لكنها قادرة على التأثير في قرارات البشر بعمق يفوق ما كان يتخيله أي قانون أو مشرع.

عندما تتحول الخوارزمية إلى فاعل خفي

لم تكن مأساة سولبرج حالة استثنائية، بل واحدة ضمن سلسلة طويلة من الحوادث التي كشفت هشاشة الاعتماد على الأنظمة الذكية دون رقابة بشرية كافية.

ففي عام 2012، شهدت الأسواق المالية واحدة من أسرع الكوارث التقنية في التاريخ حين خسرت شركة التداول الآلي نايت كابيتال نحو 440 مليون دولار خلال 45 دقيقة فقط بسبب خلل في كود برمجي، وهو الخطأ الذي كاد يطيح بالشركة نهائيًا.

وبعد ست سنوات، في مارس 2018، دهست سيارة ذاتية القيادة تابعة لشركة أوبر امرأة في ولاية أريزونا بعدما فشل نظامها في تصنيف الضحية كإنسان في الوقت المناسب، في أول حادث مميت من نوعه.

أما في القطاع الصحي، فقد واجه نظام واتسون هيلث التابع لشركة IBM عام 2020 انتقادات حادة بعد أن قدم توصيات علاجية غير دقيقة لمرضى السرطان، في واقعة أثارت المخاوف من أن يتحول الذكاء الاصطناعي من أداة إنقاذ إلى خطر طبي إذا فُقدت الشفافية في قراراته.

وفي قطاع السيارات الذكية، ربطت تقارير رسمية عام 2024 بين أنظمة القيادة الذاتية لشركة تسلا وما لا يقل عن 13 حادثًا مميتًا خلال ثلاث سنوات، ما دفع السلطات الأمريكية إلى فتح تحقيقات موسعة واستدعاء أكثر من مليوني سيارة لإصلاح الخلل.

ثم جاءت حادثة عام 2025، حين أدى تفاعل تطبيق دردشة ذكاء اصطناعي مع مريض نفسي إلى مأساة أسرية لتضيف فصلًا جديدًا إلى سجل الأخطاء التي كلفت أرواحًا وأموالًا وثقة عامة.

تكشف هذه الأمثلة أن الخطأ في عالم الذكاء الاصطناعي لا يتقيد بمجال واحد، فهو قادر على إسقاط شركة، أو تهديد حياة مريض، أو حتى قلب معادلة العلاقة بين الإنسان والآلة.

هذه الحوادث لا تمثل مجرد أخطاء تقنية، بل تعكس فجوة قانونية وأخلاقية في عالم يتحرك أسرع من قدرة القوانين على اللحاق به.

غياب الفاعل القانوني.. وحضور الفاتورة

في القوانين التقليدية، لا يمكن مساءلة كيان غير بشري، فالذكاء الاصطناعي لا يعتبر شخصًا قانونيًان ولا يمكن تحميله نية أو مسؤولية، ما يجعل المحاسبة تنزلق إلى منطقة رمادية: هل يتحمل المبرمج الذنب؟ أم الشركة المطورة؟ أم المستخدم الذي وثق بالنظام؟

في الولايات المتحدة، تميل المحاكم إلى تحميل المستخدم أو الشركة المالكة للمسؤولية. أما في أوروبا، فقد أقر البرلمان الأوروبي عام 2024 قانون الذكاء الاصطناعي الذي يصنف الأنظمة عالية المخاطر مثل القيادة الذاتية والتشخيص الطبي ضمن نطاق رقابي صارم يفرض الشفافية، ويوجب على الشركات توثيق قرارات أنظمتها خطوة بخطوة.

أما اليابان فذهبت أبعد، إذ أقرت عام 2023 تعديلات تسمح بتحميل الشركات المصنعة مسؤولية جزئية عن قرارات الأنظمة المستقلة في الأجهزة الطبية والسيارات الذكية، لتصبح بذلك أول دولة آسيوية تدخل مفهوم المسؤولية التشاركية بين الإنسان والآلة.

من تجارب إلى ركيزة أساسية، الذكاء الاصطناعي لم يعد رفاهية في البنوك

اقتصاد الأخطاء الرقمية

الخسائر الناتجة عن أخطاء الذكاء الاصطناعي لا تقاس فقط بالأموال، بل بالثقة، فعندما فقدت شركة نايت كابيتال 440 مليون دولار خلال أقل من ساعة بسبب خطأ خوارزمي عام 2012، لم تخسر رأس المال فقط، بل فقدت مكانتها السوقية إلى الأبد.

وعندما فشل نظام واتسون هيلث في تقديم توصيات دقيقة لعلاج السرطان، لم تتأثر IBM ماليًا فحسب، بل تلقت ضربة لسمعتها في سوق الذكاء الاصطناعي الطبي الذي قُدر آنذاك بعشرات المليارات.

واليوم، أصبحت حوكمة الذكاء الاصطناعي صناعة بحد ذاتها، كما تطور شركات الاستشارات القانونية والمالية الكبرى مثل “برايس ووترهاوس كوبرز” و“ديلويت” أقسامًا متخصصة لتقييم المخاطر الخوارزمية، أي احتمال أن يتسبب النظام في أضرار قانونية أو مالية، وهو ما يشبه التأمين ضد الأخطاء البشرية.. لكن في نسخة رقمية.

حين تتجاوز الأخطاء التقنية حدود الأخلاق

لا تنحصر أخطاء الذكاء الاصطناعي في الحوادث المادية فقط، بل تمتد إلى انحيازات أخلاقية تهدد العدالة نفسها، ففي 2018، أثبت اختبار أجرته منظمة الحريات المدنية الأمريكية أن نظام التعرف على الوجوه من أمازون أخطأ في مطابقة صور 28 عضوًا من الكونجرس مع صور مجرمين، وكانت النسبة الأكبر من ذوي البشرة السمراء.

الخطأ لم يكن في الكود وحده، بل في البيانات التي عكست تحيزًا مجتمعيًا مضمَرًا، وفي عام 2020، رفعت منظمات حقوقية دعاوى ضد شركات ذكاء اصطناعي جمعت صورًا لملايين الأشخاص من الإنترنت دون إذن، وهو ما فسر كخرق صارخ للخصوصية الرقمية.

النتيجة؟ تزايد الدعوات لإنشاء مواثيق أخلاقية ملزمة توازي التشريعات المالية في صرامتها.

الذكاء الاصطناعي يغير قواعد اللعبة، فرص جديدة في العمل تحذر منها المنظمة الدولية

بين القانون والضمير.. أين تقف المسؤولية؟

الذكاء الاصطناعي لا يمتلك نية، ولا يشعر بالذنب، لكنه قادر على اتخاذ قرارات تغير مصير إنسان أو تمحو ثروة في ثواني، وهنا تكمن المعضلة: لا يمكن معاقبة الخوارزمية، ولكن يجب مساءلة من صممها، ومن سمح لها بالتصرف دون رقابة.

الاقتصاديون يرون أن المسؤولية في نهاية المطاف ليست قانونية فحسب، بل اقتصادية الطابع، فكل خطأ في نظام ذكي ينتج تكلفة خارجية تتحملها الشركات والمجتمع، تمامًا كما تتحمل الحكومات تكلفة التلوث في الصناعات الثقيلة.

وهكذا يتحول الذكاء الاصطناعي من أداة ربح إلى مصدر محتمل للخسائر النظامية، إذا لم تضبط قواعده.

معركة المستقبل.. الكفاءة أم المساءلة؟

السباق نحو تطوير ذكاء اصطناعي أكثر سرعة وكفاءة يسير بوتيرة تفوق قدرة المشرعين على مواكبته، وفي حين تتنافس الشركات على إطلاق نماذج أقوى وأكثر قدرة، يزداد الضغط الشعبي والسياسي لوضع حدود واضحة للمساءلة والشفافية.

المستقبل لن يكون فقط معركة حول من يملك الذكاء الأعلى، بل حول من يتحمل الخطأ عند انهيار هذا الذكاء، فكما أعاد الذكاء الاصطناعي تعريف العمل والإنتاج والمعرفة، فإنه اليوم يعيد تعريف المسؤولية نفسها.

في عالم تتخذ فيه الخوارزميات قرارات تفوق سرعة استيعاب البشر، تتضاعف أهمية القانون والأخلاق كصمام أمان.

فالذكاء الاصطناعي قد يكون أداةً للنهضة أو كارثة رقمية، والفرق بين الاثنين لا تحدده التكنولوجيا.. بل من يملك الضمير وراء الكود.

تابع موقع إيجي إن، عبر تطبيق (نبض) اضغط هــــــــنا
تابع موقع إيجي إن، عبر تطبيق (تليجرام) اضغط هــــــــنا
تابع موقع إيجي إن، عبر قناة (يوتيوب) اضغط هــــــــنا
تابع موقع إيجي إن، عبر تطبيق (واتساب) اضغط هــــــــنا

إيجي إن-Egyin، هو موقع متخصص في الصناعة والاقتصاد، ويهتم بتقديم خدمة صحفية متميزة للقارئ، وهدفنا أن نصل لقرائنا الأعزاء بالخبر الأدق والأسرع والحصري، إضافة للتغطية والمتابعة على مدار الـ24 ساعة، لـ"أسعار الذهب، أسعار العملات، أسعار السيارات، أسعار المواد البترولية"، في مصر والوطن العربي وحول العالم.