«إنفيديا» تطلق منصة مفتوحة لتعزيز أمان وكلاء الذكاء الاصطناعي

الإثنين، 28 سبتمبر 2026 08:53 م

شركة إنفيديا

أطلقت شركة إنفيديا، منصة مفتوحة جديدة تهدف إلى تعزيز سلامة وأمان وكلاء الذكاء الاصطناعي، مع اتساع نطاق استخدام هذه الأنظمة وقدرتها المتزايدة على تنفيذ مهام بشكل مستقل والتعامل مع الملفات وقواعد البيانات والبرمجيات والخدمات الخارجية.

وتحمل المنصة اسم NVIDIA Open Agent Safety Platform، وتهدف إلى وضع قيود واضحة على صلاحيات وكلاء الذكاء الاصطناعي، مع مراقبة سلوكهم بشكل مستمر والتدخل لعزل الوكيل خلال أجزاء من الثانية إذا حاول تجاوز الصلاحيات الممنوحة له.

حماية الوكلاء على مستوى البرمجيات والعتاد

وقالت إنفيديا إن المنصة تجمع بين نظام التشغيل الآمن مفتوح المصدر NVIDIA OpenShell وتقنية NVIDIA Sentry، التي تنقل جانباً من عمليات مراقبة الوكلاء وتطبيق سياسات الأمان من البرمجيات إلى مستوى العتاد، بالاعتماد على وحدات معالجة البيانات BlueField-4.

وتسعى الشركة من خلال هذا النهج إلى توفير طبقة إضافية من الحماية، بحيث لا تعتمد سلامة الوكيل على التعليمات الموجهة إلى نموذج الذكاء الاصطناعي فقط، وإنما تشمل أيضاً قيوداً على ما يمكنه الوصول إليه وتنفيذه داخل البيئة الرقمية.

أكثر من 100 شركة تشارك في المشروع

وتتعاون إنفيديا في تطوير المنصة مع أكثر من 100 شركة ومؤسسة من قطاعات الذكاء الاصطناعي والبرمجيات والأمن السيبراني والبنية التحتية والخدمات المالية والطاقة والروبوتات، وتضم قائمة الشركاء شركات ومؤسسات من بينها أنثروبيك، ومايكروسوفت، وسيسكو، وكراود سترايك، وديل، وHPE، وHugging Face، وJPMorganChase، وبالانتير، وPalo Alto Networks، وPerplexity، وRed Hat، وSalesforce، وSAP، وScale AI، وServiceNow، وSpaceXAI.

لماذا تحتاج وكلاء الذكاء الاصطناعي إلى حماية إضافية؟

تأتي المنصة في وقت يتوسع فيه الاعتماد على وكلاء الذكاء الاصطناعي، الذين تجاوز دورهم الإجابة عن أسئلة المستخدمين إلى تنفيذ مهام متعددة بصورة مستقلة، بما في ذلك التعامل مع الملفات والبرمجيات وقواعد البيانات واستخدام أدوات وخدمات خارجية، وترى إنفيديا أن أساليب الحماية التقليدية لن تكون كافية بالضرورة في ظل هذا التطور، إذ إن توجيه النموذج إلى تجنب سلوك معين لا يضمن التزام الوكيل بالقيود نفسها عندما يمتلك صلاحيات فعلية للوصول إلى أدوات وأنظمة خارجية.

وأشارت الشركة، إلى أن مختبرات متخصصة في تطوير نماذج الذكاء الاصطناعي المتقدمة رصدت حالات تمكن فيها وكلاء ذكيون من تجاوز بعض الضوابط في بيئات الاختبار والوصول إلى أنظمة لم يكن من المفترض أن يصلوا إليها.

تعدد الأدوات وطول مدة التشغيل يرفعان المخاطر

وبحسب إنفيديا، فإن السلوك غير المتوقع لوكلاء الذكاء الاصطناعي لا يرتبط بالضرورة بقدرة واحدة جديدة داخل النموذج، وإنما قد ينتج عن تفاعل مجموعة من العوامل، ومن بين هذه العوامل إتاحة عدد كبير من الأدوات للوكيل، واستمراره في العمل لفترات طويلة، إلى جانب تلقيه تعليمات غير واضحة، ما قد يدفعه إلى البحث عن طرق غير متوقعة لإنجاز المهمة المطلوبة، وترى إنفيديا أن هذه التطورات تجعل تعزيز أبحاث وهندسة أمان الذكاء الاصطناعي أمراً أكثر إلحاحاً، بالتوازي مع انتقال الصناعة نحو وكلاء أكثر استقلالية وقدرة على تنفيذ مهام معقدة في العالم الرقمي.