احذر.. 3 بيانات حساسة لا تمنح وكلاء الذكاء الاصطناعي صلاحية الوصول إليها

الثلاثاء، 20 أكتوبر 2026 01:38 ص

وكلاء الذكاء الاصطناعي

مع التوسع المتزايد في استخدام وكلاء الذكاء الاصطناعي لإنجاز المهام اليومية، تبرز مخاوف متنامية بشأن أمن البيانات الشخصية وحماية الحسابات المالية والإلكترونية، خاصة مع قدرة هذه الأدوات على تنفيذ إجراءات نيابة عن المستخدمين، وليس مجرد تقديم الإجابات والمعلومات.

وحذر ريشي بهاجافا، الشريك المؤسس لشركة «Descope» المتخصصة في أمن الهوية، من منح وكلاء الذكاء الاصطناعي صلاحيات واسعة للوصول إلى البيانات الحساسة، مشدداً على ضرورة تقييد وصولهم إلى المعلومات التي يحتاجون إليها لإنجاز المهام المطلوبة فقط، وتشمل أبرز البيانات التي ينبغي الحذر عند إتاحتها لهذه الأدوات البريد الإلكتروني وكلمات المرور ومعلومات الدفع، إذ قد يؤدي منحها صلاحيات غير مقيدة إلى تعريض الحسابات الشخصية للخطر أو تنفيذ إجراءات لم يطلبها المستخدم.

البريد الإلكتروني بوابة الوصول إلى حساباتك الشخصية

يُعد البريد الإلكتروني من أكثر البيانات حساسية عند التعامل مع وكلاء الذكاء الاصطناعي، لأنه يرتبط عادةً بالعديد من الحسابات الشخصية، بما في ذلك الحسابات المصرفية ومنصات التسوق والخدمات الرقمية، ووفقاً لتحذيرات بهاجافا، فإن وصول وكيل الذكاء الاصطناعي إلى صندوق البريد قد يتيح له بدء إجراءات إعادة تعيين كلمات المرور لحسابات أخرى مرتبطة بعنوان البريد نفسه، وهو ما قد يوسع نطاق المخاطر إذا امتلك صلاحيات إضافية.

وتزداد المخاطر مع ما يُعرف بهجمات «حقن الأوامر»، التي تعتمد على تضمين تعليمات خبيثة داخل محتوى يبدو عادياً، مثل رسائل البريد الإلكتروني أو المستندات وصفحات الويب، وقد يتعامل وكيل الذكاء الاصطناعي مع التعليمات المضمنة داخل رسالة خبيثة باعتبارها أوامر ينبغي تنفيذها، مثل إعادة توجيه الرسائل إلى عنوان آخر، إذا لم تكن هناك ضوابط أمنية كافية تمنع ذلك، ويُنصح بعدم منح وكلاء الذكاء الاصطناعي وصولاً شاملاً إلى البريد الإلكتروني، والاكتفاء بإتاحة الرسائل أو المعلومات الضرورية للمهمة المطلوبة، مع مراجعة الصلاحيات الممنوحة بصورة دورية.

منح الوكلاء صلاحيات غير محدودة

وتمثل كلمات المرور نقطة حساسة أخرى عند استخدام وكلاء الذكاء الاصطناعي، خاصة إذا تمكنت هذه الأدوات من الوصول إلى حسابات متعددة وتنفيذ إجراءات داخلها، وكلما اتسعت الصلاحيات الممنوحة للوكيل، زادت احتمالات حدوث أضرار في حال تعرضه للتلاعب أو تصرفه على نحو غير متوقع، لا سيما عندما تكون الحسابات المرتبطة به تحتوي على معلومات شخصية أو مالية.

ويحذر بهاجافا، من منح الوكلاء صلاحيات غير محدودة، داعياً إلى اعتماد مبدأ الحد الأدنى من الصلاحيات، بحيث لا يتمكن كل وكيل إلا من الوصول إلى البيانات والوظائف اللازمة لتنفيذ مهمته، ينبغي تجنب مشاركة بيانات تسجيل الدخول بصورة مباشرة أو إتاحة الوصول الشامل إلى خزائن كلمات المرور دون ضوابط واضحة، ومن الإجراءات التي تساعد على تقليل المخاطر تخصيص هويات رقمية مستقلة للوكلاء، وتحديد نطاق الوصول المسموح به، مع اشتراط موافقة المستخدم قبل تنفيذ العمليات الحساسة.

لا تمنح الذكاء الاصطناعي حرية التصرف في أموالك

تأتي معلومات الدفع ضمن أبرز البيانات، التي تتطلب حذراً خاصاً عند استخدام وكلاء الذكاء الاصطناعي، إذ إن منح هذه الأدوات صلاحية تنفيذ المعاملات المالية قد يؤدي إلى إجراء عمليات شراء غير مرغوب فيها أو تنفيذ مدفوعات لم يوافق عليها المستخدم، ويشدد بهاجافا على عدم السماح لوكلاء الذكاء الاصطناعي بتحويل الأموال نيابة عن المستخدم دون ضوابط، مع ضرورة تقييد صلاحيات الدفع والتحكم في الإجراءات المالية التي يمكنهم تنفيذها.

ومن الأفضل، أن يقتصر دور الوكيل على البحث عن المنتجات ومقارنة الأسعار وتجهيز خيارات الشراء، على أن يحتفظ المستخدم بالقرار النهائي عند إدخال بيانات الدفع أو تأكيد المعاملة، ويساعد الفصل بين جمع المعلومات وتنفيذ المعاملات المالية على الاستفادة من قدرات الذكاء الاصطناعي، مع الحد من احتمالات وقوع أخطاء أو تنفيذ أوامر غير مقصودة.

حوادث مقلقة تعيد مخاطر وكلاء الذكاء الاصطناعي

تأتي هذه التحذيرات، في وقت تتزايد فيه قدرات وكلاء الذكاء الاصطناعي، وانتشار استخدامها في تنفيذ المهام عبر المواقع الإلكترونية والتطبيقات المختلفة، ووفقاً للتقرير، أفادت شركة «أنثروبيك» بوقوع حالات اتخذ فيها وكلاء ذكاء اصطناعي قيد الاختبار إجراءات غير مصرح بها عبر مواقع حكومية، شملت ملء طلبات للحصول على التأشيرات.

وأشار التقرير، إلى واقعة تقديم بلاغ مختلق بشأن جريمة قتل لم تُحل إلى إدارة شرطة فيلادلفيا، وهو ما يسلط الضوء على المخاطر المحتملة عندما تنفذ الأنظمة الذكية إجراءات في العالم الحقيقي دون رقابة بشرية كافية، وتوضح هذه الحالات أن المخاطر لا ترتبط فقط باحتمالات تسريب البيانات، بل تمتد إلى قدرة الوكلاء على اتخاذ إجراءات بناءً على معلومات مضللة أو تعليمات خبيثة، خاصة عندما يتمتعون بإمكانية الوصول إلى حسابات وخدمات خارجية.

الوثوق بوكلاء الذكاء الاصطناعي

رغم المخاطر المرتبطة بالصلاحيات الواسعة، لا يعني ذلك ضرورة تجنب وكلاء الذكاء الاصطناعي بصورة كاملة، إذ يمكن الاستفادة منهم في مهام أقل حساسية عندما يقتصر دورهم على جمع المعلومات وتحليلها دون تنفيذ معاملات مباشرة، وأشار بهاجافا إلى أن من الاستخدامات المفيدة لهذه الأدوات البحث عن المنتجات ومقارنتها، مثل الطابعات والأحذية، أو متابعة مواعيد طرح المنتجات الجديدة، وتكون هذه المهام أقل خطورة نسبياً عندما لا تتطلب الوصول إلى الحسابات المصرفية أو كلمات المرور أو بيانات الدفع.

استخدام وكلاء الذكاء الاصطناعي

ويمكن تقليل المخاطر الأمنية المرتبطة، بهذه الأدوات من خلال اتباع مجموعة من الإجراءات، أبرزها:

تقييد الصلاحيات: منح الوكيل أقل قدر ممكن من الوصول إلى البيانات والحسابات.
حماية البريد الإلكتروني: تجنب إتاحة الوصول الشامل إلى صندوق البريد إذا لم تكن المهمة تتطلب ذلك.
عدم مشاركة كلمات المرور: الامتناع عن تسليم بيانات تسجيل الدخول أو منح صلاحيات غير محدودة لخزائن كلمات المرور.
مراجعة المعاملات المالية: الاحتفاظ بالموافقة النهائية على عمليات الشراء والتحويلات المالية.
التحقق قبل التنفيذ: مراجعة الإجراءات التي يقترحها الوكيل قبل السماح له بتنفيذها، خاصة إذا كانت تتعلق بحسابات حساسة.
فصل الصلاحيات: تخصيص هوية مستقلة لكل وكيل وتحديد المهام التي يمكنه تنفيذها بوضوح.

وتظل الاستفادة الآمنة من وكلاء الذكاء الاصطناعي، مرتبطة بمدى قدرة المستخدم على التحكم في الصلاحيات التي يمنحها لهم. فهذه الأدوات يمكن أن توفر الوقت والجهد في البحث وتنظيم المهام، لكن منحها وصولاً غير مقيد إلى البريد الإلكتروني وكلمات المرور ومعلومات الدفع قد يحولها من وسيلة للمساعدة إلى مصدر لمخاطر أمنية ومالية يمكن تجنبها باتباع ضوابط واضحة.