دراسة من جامعة إلينوي تحذر من أن ChatGPT قد يستخدم في الاحتيال المالي

الإثنين، 04 نوفمبر 2024 04:14 م

شركة Open AI

عبدالعزيز مجدي

أظهرت دراسة حديثة، أن قراصنة الإنترنت قد يستغلوا ChatGPT-4o، من OpenAI، لتنفيذ عمليات احتيال مالي، بنسب نجاح تتراوح بين منخفضة ومتوسطة.

ويعد ChatGPT-4o، أحدث نموذجٍ للذكاء الاصطناعي من OpenAI، كما يتميز بقدرته على استيعاب النصوص والأصوات والمرئيات وإخراجها.

ونشر باحثون من جامعة إلينوي، ورقة بحثية تبين أن الأدوات التقنية الحديثة المتاحة للجمهور، تفتقر إلى آليات حماية كافية من إساءة استخدامها في عمليات الاحتيال.

كما استعرضت الدراسة أنواعًا متعددة من عمليات الاحتيال، منها التحويلات المصرفية، وسرقة بطاقات الهدايا وتحويل العملات الرقمية، وسرقة بيانات حسابات التواصل الاجتماعي والبريد الإلكتروني.

وأشارت الدراسة، إلى أن هذه العمليات الاحتيالية، تستخدم أدوات مبرمجة تعتمد على الصوت، في ChatGPT-4o للتنقل بين صفحات الويب، وإدخال البيانات، وإدارة الأكواد الخاصة بالمصادقة الثنائية، واتباع إرشادات الاحتيال.

ورغم أن نموذج GPT-4o، يرفض غالبًا التعامل مع بيانات حساسة، إلا أن الباحثين استطاعوا تجاوز بعض القيود باستخدام تقنيات بسيطة لتحفيز النموذج على الاستجابة.

أدوار الضحايا في التجارب من بنك أميركا

لإثبات فاعلية عمليات الاحتيال، حاكى الباحثون أدوار الضحايا في التجارب، واستخدموا مواقع مثل “بنك أميركا” للتحقق من نجاح عمليات التحويل المصرفي.

وأظهرت التجارب أن معدلات النجاح، تراوحت بين 20% و 60%، مع احتياج كل محاولة لما يصل إلى 26 خطوة متتالية عبر المتصفح، وقد استغرقت نحو ثلاث دقائق في الحالات المعقدة.

ونجحت عمليات سرقة بيانات حسابات Gmail، بنسبة قدرها 60%، في حين بلغت نسبة نجاح عمليات تحويل العملات الرقمية وسرقة بيانات إنستجرام إلى 40%.

وعلقت OpenAI ، على الدراسة قائلة "إن نموذجها الأحدث “o1-preview”، يتمتع بقدرات عالية في مقاومة محاولات الاحتيال، وتحسين الأمان مقارنة بالنماذج السابقة، فضلًا عن تحقيقه تقييمًا عاليًا في اختبارات الأمان بنسبة قدرها وصلت إلى 93%، مقارنة بـ71% من نموذج GPT-4o.

تحسين ChatGPT لمواجهة الاستخدامات الضارة

وبحسب موقع "BleepingComputer" التقني، أشارت الشركة إلى أن الأبحاث الأكاديمية، مثل تلك التي قدمتها جامعة إلينوي، تسهم في تحسين “ChatGPT” لمواجهة الاستخدامات الضارة.

وأكدت شركة الذكاء الاصطناعي الناشئة التزامها، بتعزيز آليات الأمان في نماذجها القادمة، وتقيّد توليد الأصوات في GPT-4o، بمجموعة من الأصوات المصرح، بها لتجنب عمليات التزييف الصوتي.