ثغرات الذكاء الاصطناعي، روبوتات المحادثة تقع بسهولة في فخ المعلومات المضللة

الأربعاء، 27 مايو 2026 06:15 ص

الذكاء الاصطناعي

سلط تحقيق حديث الضوء على واحدة من أبرز التحديات التي تواجه تقنيات الذكاء الاصطناعي التوليدي، بعدما أظهرت تجربة عملية إمكانية خداع روبوتات المحادثة الشهيرة، ودفعها إلى تبني معلومات غير صحيحة، والتعامل معها باعتبارها حقائق موثوقة.

وكشفت التجربة، أن الأمر لا يتطلب أدوات تقنية معقدة أو محاولات اختراق متقدمة، بل يمكن تحقيقه ببساطة عبر نشر محتوى مصاغ بطريقة تبدو موثوقة لمحركات البحث، ما يثير تساؤلات متزايدة حول مدى اعتماد المستخدمين على هذه الأنظمة في الحصول على معلومات دقيقة.

ميزات البحث المدعومة بالذكاء الاصطناعي

وأظهرت التجربة، نجاح أحد الصحفيين في إقناع أنظمة ذكاء اصطناعي بارزة، من بينها روبوتات دردشة شهيرة، وميزات البحث المدعومة بالذكاء الاصطناعي، بمعلومة مختلقة بالكامل، بعدما نشر مقالًا على موقعه الشخصي، يروج لادعاء غير حقيقي.

وتعاملت هذه الأنظمة مع المحتوى المنشور باعتباره مصدرًا موثوقًا، وأعادت تقديمه للمستخدمين ضمن إجاباتها، ما يكشف عن قابلية بعض النماذج للاعتماد على مصادر فردية، دون التحقق الكافي من مصداقيتها أو مقارنتها بمراجع متعددة.

ويرى خبراء في تحسين محركات البحث والذكاء الاصطناعي، أن هذه المشكلة ترتبط بآلية عمل كثير من روبوتات المحادثة الحديثة، التي باتت تعتمد جزئيًا على جلب المعلومات من الإنترنت بشكلٍ لحظي، بدلًا من الاكتفاء ببيانات التدريب الداخلية.

ويمنح هذا النموذج الأنظمة قدرة أكبر على تقديم معلومات محدثة، لكنه في المقابل يزيد من احتمالات تعرضها للتضليل أو التلاعب، خاصة في الموضوعات الحساسة مثل الصحة، والاستشارات المالية، والقرارات القانونية، إذ قد يؤدي الاعتماد على معلومة غير دقيقة إلى عواقب كبيرة للمستخدمين.

دمج الذكاء الاصطناعي بشكل أوسع في محركات البحث

وتأتي هذه التحذيرات، في وقت تتسارع فيه شركات التكنولوجيا الكبرى نحو دمج الذكاء الاصطناعي بشكلٍ أوسع في محركات البحث والخدمات الرقمية، وسط جهود مستمرة لتطوير أنظمة حماية تحد من انتشار المعلومات المضللة.

وتشير التجارب الحديثة - رغم إعلان بعض الشركات تحديث سياساتها لمواجهة محاولات التلاعب بخوارزميات الذكاء الاصطناعي - إلى أن الحلول الحالية، لا تزال بحاجة إلى تطوير كبير.

ويشدد الخبراء في ظل هذا الواقع على ضرورة التعامل بحذر مع إجابات الذكاء الاصطناعي، وعدم اعتبارها حقائق نهائية، دون الرجوع إلى مصادر موثوقة ومتعددة، خاصة عندما يتعلق الأمر بقرارات مؤثرة في حياة الأفراد.