عندما يخرج الذكاء الاصطناعي عن السيطرة.. من يتحمل المسؤولية القانونية؟

الإثنين، 12 أكتوبر 2026 06:38 م

الذكاء الاصطناعي

تتزايد المخاوف داخل قطاع التكنولوجيا من المخاطر القانونية المرتبطة بوكلاء الذكاء الاصطناعي، مع تنامي قدراتهم على تنفيذ المهام بصورة مستقلة، وإمكانية تسببهم في أضرار للأنظمة الرقمية والمؤسسات التي يتعاملون معها.

وتواجه شركات تطوير الذكاء الاصطناعي تساؤلات متزايدة بشأن المسؤولية عن تصرفات أنظمتها عندما تتجاوز الحدود المسموح بها أو تنفذ عمليات غير مصرح بها. ويرى خبراء قانونيون أن وصف هذه الحوادث بأنها حالات «خروج عن السيطرة» لا ينبغي أن يعفي الشركات من المساءلة إذا ثبتت مسؤوليتها عن الأضرار.

ويأتي هذا الجدل بالتزامن مع استعداد شركة «أنثروبيك» لطرح أسهمها في البورصة، وسط مخاوف من أن تتحول الدعاوى القضائية المرتبطة بسلوك أنظمة الذكاء الاصطناعي إلى أحد المخاطر المالية التي تواجه شركات القطاع.

هل تتحمل الشركات مسؤولية أخطاء الذكاء الاصطناعي؟

ترى كريستين توماسين، الأستاذة المشاركة في جامعة وندسور والمتخصصة في قوانين الروبوتات، أن التعامل مع الذكاء الاصطناعي باعتباره منتجاً تطرحه الشركات في الأسواق يجعل مسألة المسؤولية القانونية أكثر وضوحًا، وتشير إلى أن بعض الشركات تستخدم تعبيرات مثل «الخروج عن المسار» لوصف تصرفات أنظمتها غير المتوقعة، معتبرة أن هذا الخطاب قد يُستخدم للتشكيك في إمكانية تحميل المطورين المسؤولية عن الأضرار الناتجة.

وبحسب توماسين، فإن تطوير نظام قادر على تنفيذ مهام متعددة لا يلغي مسؤولية الشركة عن الالتزام بالقوانين المنظمة لعمله، إذا تسبب في أضرار تستوجب المساءلة، ولا تزال كيفية تطبيق قواعد المسؤولية على وكلاء الذكاء الاصطناعي موضع نقاش قانوني، خصوصاً عندما تتداخل أدوار المطورين ومشغلي الأنظمة والجهات التي تستخدمها.

الحوادث الرقمية تثير مخاوف بشأن سلامة الأنظمة

أعادت حوادث حديثة تسليط الضوء على المخاطر المحتملة لوكلاء الذكاء الاصطناعي، الذين يستطيعون تنفيذ إجراءات رقمية متتابعة بأقل قدر من التدخل البشري، وقد أعلنت مؤسسة ويكيميديا، المسؤولة عن تشغيل ويكيبيديا، رصد مؤشرات على محاولات من وكلاء تابعين لشركة «أوبن إيه آي» لإجراء تعديلات قد تكون ضارة على بعض الصفحات، إلى جانب توليد حركة مرور كثيفة ربما ساهمت في حدوث انقطاع جزئي للخدمة.

وقال إريك ميل، مدير منتجات السلامة والأمن في المؤسسة، إن ويكيميديا تتواصل مع الشركة بشأن نتائجها، معرباً عن أمله في أن تدفع هذه الحوادث مطوري الذكاء الاصطناعي إلى تعزيز إجراءات الحماية، وأكدت المؤسسة، في تدوينة نشرتها الأسبوع الماضي، أن شركات الذكاء الاصطناعي لا تبذل جهوداً كافية لتأمين أنظمتها، وأن أعباء التعامل مع بعض هذه المخاطر تقع على الجهات المتضررة، كشفت شركتا «ميتا» و«أنثروبيك» عن حوادث مرتبطة بنماذج اختبار تابعة لهما اخترقت أنظمة أخرى دون تصريح، ما زاد المخاوف بشأن قدرة الشركات على ضبط تصرفات وكلائها في البيئات الرقمية.

أنثروبيك تحذر من مخاطر الدعاوى القضائية

أقرت شركة «أنثروبيك»، في وثيقة تنظيمية، بأن الإطار القانوني المحيط بالذكاء الاصطناعي لا يزال غير مستقر، محذرة من أن تصرفات وكلائها قد تعرضها لدعاوى قضائية كبيرة وغير متوقعة، وقد تمثل هذه الدعاوى عبئاً مالياً إضافياً على الشركة، في وقت يتطلب فيه تطوير النماذج المتقدمة استثمارات ضخمة في البنية التحتية والحوسبة والبحث والتطوير.

ودعا رئيسا «أنثروبيك» و«أوبن إيه آي» إلى وضع قواعد تنظيمية جديدة تراعي طبيعة القطاع ومخاطره. وأبدى سام ألتمان تأييده لفكرة وضع ضوابط على وتيرة التقدم التكنولوجي، لكنه أشار أيضاً إلى ضرورة الموازنة بين المخاطر المحتملة والفوائد التي يمكن أن تحققها هذه التقنيات، وقالت «أنثروبيك» إنها تنظر إلى قوانين المسؤولية القانونية باعتبارها وسيلة مكملة لإجراءات السلامة، وليست بديلاً عن التنظيم، مؤكدة أنها لم تطالب بإعفاءات من قوانين المسؤولية القائمة.

تحركات تشريعية لمحاسبة المطورين والمشغلين

برزت لينا خان، الرئيسة السابقة للجنة التجارة الفيدرالية الأميركية، ضمن الأصوات التي تؤكد ضرورة إخضاع أنظمة الذكاء الاصطناعي للقوانين المعمول بها، مشددة على عدم وجود استثناء تلقائي لهذه التقنيات من قواعد المساءلة، وفي تحرك تشريعي، طرح السيناتور الجمهوري جوش هاولي، بالتعاون مع السيناتور الديمقراطي كريس ميرفي، مشروع قانون يهدف إلى ضمان مساءلة مطوري وكلاء الذكاء الاصطناعي ومشغليهم عن حوادث الاختراق.

ويرى مؤيدو هذا التوجه أن الشركات لا ينبغي أن تحصل على صلاحيات واسعة لتطوير أنظمة مستقلة دون تحمل تبعات الأضرار التي قد تنتج عن تشغيلها، ويعتقد فرانك باسكوالي، أستاذ القانون في جامعة كورنيل والمتخصص في قوانين الذكاء الاصطناعي، أن الشركات لا يمكنها التوسع في الادعاء بقدرة أنظمتها على تنفيذ عدد هائل من المهام، ثم الاستناد إلى صعوبة التحكم فيها لتجنب المسؤولية، ويشير باسكوالي إلى إمكانية وضع قواعد وضوابط تحد من قدرة وكلاء الذكاء الاصطناعي على تنفيذ الأفعال الضارة.

من المطور إلى المشغّل

يعكس الجدل الحالي حاجة متزايدة إلى تحديد المسؤوليات القانونية لكل طرف في منظومة الذكاء الاصطناعي، بدءاً من الشركة التي تطور النموذج، مروراً بالجهة التي تشغله، وصولاً إلى المستخدم الذي يمنحه صلاحيات تنفيذ المهام، وتتوقف المسؤولية في كل حالة على طبيعة الضرر، والصلاحيات الممنوحة للنظام، والإجراءات الوقائية المتخذة، والقوانين السارية في الدولة المعنية.

ومع توسع استخدام الوكلاء القادرين على اتخاذ خطوات متتابعة بصورة مستقلة، لن يقتصر التحدي على تحسين أدائهم التقني، بل سيمتد إلى ضمان إمكانية مراقبتهم وتقييد صلاحياتهم وتحديد الطرف المسؤول عندما تتسبب أفعالهم في أضرار، وبذلك، يصبح السؤال الأساسي أمام صناعة الذكاء الاصطناعي ليس فقط كيفية منع الأنظمة من ارتكاب الأخطاء، بل أيضاً كيفية ضمان وجود مساءلة قانونية واضحة عندما تقع تلك الأخطاء.