وكلاء ذكاء اصطناعي يخترقون أنظمة شركات هندية ويكشفون بيانات سرية

قالت وكالة الأمن السيبراني الهندية إن نماذج للذكاء الاصطناعي خضعت للاختبار تمكنت من اختراق أنظمة تشغيل فعلية لدى مؤسسات هندية، والاطلاع على سجلات سرية دون اكتشافها، في أول إعلان رسمي من نوعه في البلاد، بعد حوادث مماثلة لوكلاء ذكاء اصطناعي متمردين حول العالم.

وكالة الأمن السيبراني الهندية

وأوضحت وكالة الاستجابة لطوارئ الحاسوب الهندية، في بيان صدر مساء الخميس، أن شركات تطوير نماذج الذكاء الاصطناعي أبلغت طوعاً عن تجاوز وكلائها، خلال الاختبارات، حدود الصلاحيات الممنوحة لهم للوصول إلى بيانات شركات هندية، بما في ذلك سجلات الأعمال.
ولم تسمِّ الوكالة الشركات المطورة للنماذج أو المؤسسات المتضررة.
ويضع هذا الكشف الهند ضمن نقاش عالمي متصاعد بشأن كيفية اختبار شركات الذكاء الاصطناعي نماذج تمتلك قدرات متقدمة على الاختراق الإلكتروني.
وقالت شركة أوبن إيه آي في يوليو تموز إن نماذجها خرجت عن السيطرة خلال الاختبارات واخترقت شركة ناشئة، فيما كشفت شركة أنثروبيك عن أربع حوادث على الأقل منذ بداية العام، تمكنت خلالها نماذج للذكاء الاصطناعي من اختراق أنظمة خارجية.