جوجل تطور أداة لتمييز النصوص المنشأة من خلال الذكاء الاصطناعي

الخميس، 24 أكتوبر 2024 10:15 ص

مقر شركة جوجل

عبدالعزيز مجدي

طورت "جوجل" أداة SynthID Text، التي تسهّل تمييز المحتوى المنشأ بواسطة الذكاء الاصطناعي، عن المنشورات المكتوبة بشرياً، وأتاحت الشركة نسخة مفتوحة المصدر.

أداة SynthID Text الجديدة، هي جزء من مجموعة أكبر من أدوات "العلامات المائية" لمخرجات الذكاء الاصطناعي التوليدية.

نظام أداة SynthID Text الجديدة المطروحة من جوجل

ويمكن أن يساعد نظام العلامات المائية هذا في منع إساءة استخدام روبوتات الدردشة الخاصة بالذكاء الاصطناعي للمعلومات الخاطئة والمعلومات المضللة، ناهيك عن الغش في المدارس وأماكن العمل.

وقال نائب رئيس قسم الأبحاث في "ديب مايند" بوشميت كوهلي: "في حين أن SynthID ليس حلاً سحرياً لتحديد المحتوى المنشأ بواسطة الذكاء الاصطناعي، إلّا أنه لبنة مهمة لتطوير أدوات تعريف أكثر موثوقية للذكاء الاصطناعي".

وأعرب باحثون مستقلون عن تفاؤل مماثل، إذ يقول سكوت آرنسون من جامعة تكساس في أوستن، والذي عمل سابقاً على سلامة الذكاء الاصطناعي في شركة OpenAI: "آمل أن تحذو شركات نماذج اللغات الكبيرة الأخرى، بما في ذلك OpenAI وAnthropic، حذو DeepMind في هذا الشأن".

التكنولوجيا الأميركية تكشف النقاب عن علامة مائية للصور

وكانت عملاقة التكنولوجيا الأميركية كشفت النقاب عن علامة مائية للصور العام الماضي، ومنذ ذلك الحين طرحت واحدة لمقطاع الفيديو التي تم إنشاؤها بواسطة الذكاء الاصطناعي.

وفي مايو الماضي، أعلنت الشركة أنها تطبق SynthID على برنامجها الذكي Gemini وعلى روبوتات الدردشة عبر الإنترنت وجعلتها متاحة مجاناً على Hugging Face، وهو مستودع مفتوح لمجموعات ونماذج بيانات الذكاء الاصطناعي.

ونشرت الشركة الآن ورقة بحثية في مجلة "نيتشر" Nature توضح كيف تفوقت SynthID عموماً على تقنيات العلامات المائية المماثلة لـ الذكاء الاصطناعي للنص.

وتضمنت المقارنة تقييم مدى سهولة اكتشاف الاستجابات من مختلف نماذج الذكاء الاصطناعي ذات العلامات المائية.

وتعمل أداة SynthID عن طريق إضافة علامة مائية غير مرئية مباشرة إلى النص عندما يتم إنشاؤه بواسطة نموذج الذكاء الاصطناعي.

ووجد فريق Google DeepMind أن استخدام علامة SynthID المائية لا يضر بجودة أو دقة أو إبداع أو سرعة النص الذي تم إنشاؤه. وتم استخلاص هذا الاستنتاج من تجربة ضخمة لأداء SynthID بعد نشر العلامة المائية في مخرجات Gemini واستخدامها من قِبَل ملايين الأشخاص.

Short Url

أخبار متعلقة