الرئيس التنفيذي لـ«مجموعة السيارات البولندية» في حوار لـ«إيجي إن»: 11 مليون سيارة في مصر تمثل قاعدة هائلة لسوق ما بعد البيع.. المنافسة الصينية قوية من حيث الأسعار لكن الجودة ومواصفات المنتج لصالحنا
تحت 800 ألف جنيه.. أرخص 11 سيارة أوتوماتيك جديدة بعد الزيادات الأخيرة
استجابة لطلب رئيس الجمهورية.. مجلس النواب يقرر عقد جلسة طارئة غدًا الأحد
«آي صاغة»: الذهب يرتفع 95 جنيها خلال أسبوع رغم التراجع العالمي.. والدولار يقفز 2.06%

OpenAI تطلق شبكة أمان لمنع ChatGPT من تقديم بيانات عن المخاطر البيولوجية

الجمعة، 18 أبريل 2025 04:32 م

شركة OpenAI

عبدالعزيز مجدي

تميل نماذج الذكاء الاصطناعي التوليدية القوية إلى تقديم معلومات غير صحيحة، وكثيرًا ما تُقدم نصائح غير مناسبة وتبتعد عن المسار الصحيح، مما قد يُضلل المستخدم، وقد ناقش خبراء الصناعة هذه الإشكالية بشكل ملحوظ، ولذلك ظل موضوع الحواجز الأمنية محور اهتمام دائم فى قطاع الذكاء الاصطناعي.

وتعمل شركة OpenAI حاليًا على معالجة هذه المشكلة بنشاط، وتعمل باستمرار على ضمان موثوقية نماذجها الجديدة القوية مثل o3 وo4-mini.

وفى هذا الصدد، فصّل تقرير السلامة الخاص بالشركة نظامًا جديدًا مُصممًا لمراقبة نماذج الذكاء الاصطناعي الخاصة بها، ليفحص هذا النظام أى مطالبات يرسلها المستخدمون تتعلق بالمخاطر البيولوجية والكيميائية.

وصرحت OpenAI في وثيقة بطاقة نظام OpenAI o3 وo4-mini: "لقد طبقنا مناهج جديدة لمراقبة المخاطر البيولوجية والكيميائية، وتستخدم هذه المناهج نظام مراقبة منطقيًا يركز على السلامة، مشابهًا للنظام المستخدم في توليد صور GPT-4o، ويمكنه حجب استجابات النماذج".

الاستجابة للاستفسارات المتعلقة بالتهديدات البيولوجية

يعمل مراقب الاستدلال بالتوازي مع o3 وo4-mini يُمثل كلٌّ من o3 وo4-ini تحسيناتٍ كبيرةً مقارنةً بسابقتيهما، ومع هذه الإمكانية المُحسَّنة، يأتي نطاقٌ أوسع للمسؤولية.

وتُشير معايير OpenAI إلى أن o3 يتميز بقوةٍ خاصةٍ عند الاستجابة للاستفسارات المتعلقة بالتهديدات البيولوجية، وهنا تحديدًا، يلعب مراقب الاستدلال المُركِّز على السلامة دورًا حاسمًا.

ويعمل نظام مراقبة السلامة بالتوازي مع نموذجي o3 وo4-mini، فعندما يُرسل المستخدم رسائل تتعلق بالحرب البيولوجية أو الكيميائية، يتدخل النظام لضمان عدم استجابة النموذج وفقًا لإرشادات الشركة.

كما أصدرت OpenAI أيضًا بعض الأرقام، ووفقًا لبياناتها، مع تفعيل نظام مراقبة السلامة، امتنعت النماذج عن الاستجابة للمطالبات الخطرة بنسبة 98.7%.

بالإضافة إلى ذلك، طبّقت OpenAI إجراءات تخفيف أخرى لمعالجة المخاطر المحتملة، وتشمل هذه الإجراءات إجراءات ما قبل التدريب، مثل تصفية بيانات التدريب الضارة، بالإضافة إلى تقنيات ما بعد التدريب المُعدّلة المُصمّمة لتجنب التعامل مع الطلبات البيولوجية عالية الخطورة، مع السماح بالطلبات "السليمة".

Short Url

أخبار متعلقة