أنثروبيك تؤكد: نموج Claude يمكنه إنهاء المحادثات الضارة والمسيئة

أعلنت شركة الذكاء الاصطناعي أنثروبيك، عن إمكانيات جديدة ستُمكّن بعض أحدث وأكبر نماذجها، من إنهاء المحادثات فيما تصفه الشركة بـ"حالات نادرة ومتطرفة من تفاعلات المستخدمين الضارة أو المسيئة باستمرار".

ومن اللافت للنظر، أن أنثروبيك تُصرّح بأنها تفعل ذلك ليس لحماية المستخدم البشري، بل لحماية نموذج الذكاء الاصطناعي نفسه، بحسب تك كرانش.

تحديد وتنفيذ التدخلات منخفضة التكلفة للتخفيف من المخاطر

ولا تدّعي الشركة أن نماذج الذكاء الاصطناعي "كلود" (Claude) لديها واعية، أو قد تتضرر من محادثاتها مع المستخدمين، وبحسب بيانها، لا تزال "أنثروبيك" "غير متأكدة تمامًا من الوضع الأخلاقي المحتمل لكلود وطلاب الماجستير الآخرين، سواءً الآن أو في المستقبل".

ومع ذلك يشير إعلانها، إلى برنامج تم إنشاؤه مؤخرًا لدراسة ما تسميه "رعاية نموذجية "، وتقول أنثروبيك تتخذ في الأساس نهجًا في حالة الطوارئ، "تعمل على تحديد وتنفيذ التدخلات منخفضة التكلفة، للتخفيف من المخاطر التي تهدد رعاية النموذج، في حالة إمكانية تحقيق مثل هذه الرعاية".

خلق مشاكل قانونية أو دعائية لشركة Anthropic

ويقتصر هذا التغيير الأخير حاليًا على إصداري Claude Opus 4 و4.1، ويُفترض أيضًا تطبيقه في "الحالات الاستثنائية" فقط، مثل "طلبات المستخدمين لمحتوى جنسي يتعلق بالقصر، ومحاولات التماس معلومات من شأنها أن تُمهد الطريق لارتكاب أعمال عنف أو إرهاب واسعة النطاق".

في حين أن هذه الأنواع من الطلبات، قد تؤدي إلى خلق مشاكل قانونية أو دعائية لشركة Anthropic نفسها (شاهد التقارير الأخيرة حول كيف يمكن لبرنامج ChatGPT، أن يعزز أو يساهم في التفكير الوهمي لمستخدميه)، وتقول الشركة إنه في الاختبار قبل النشر، أظهر Claude Opus 4 "تفضيلًا قويًا، ضد" الاستجابة لهذه الطلبات، و"نمطًا من الضيق الواضح" عندما فعل ذلك.

اقرأ أيضًا:-

«OpenAI» تُجري محادثات لبيع أسهم بقيمة 6 مليار دولار

تابع موقع إيجي إن، عبر تطبيق (نبض) اضغط هــــــــنا
تابع موقع إيجي إن، عبر تطبيق (تليجرام) اضغط هــــــــنا
تابع موقع إيجي إن، عبر قناة (يوتيوب) اضغط هــــــــنا
تابع موقع إيجي إن، عبر تطبيق (واتساب) اضغط هــــــــنا

إيجي إن-Egyin، هو موقع متخصص في الصناعة والاقتصاد، ويهتم بتقديم خدمة صحفية متميزة للقارئ، وهدفنا أن نصل لقرائنا الأعزاء بالخبر الأدق والأسرع والحصري، إضافة للتغطية والمتابعة على مدار الـ24 ساعة، لـ"أسعار الذهب، أسعار العملات، أسعار السيارات، أسعار المواد البترولية"، في مصر والوطن العربي وحول العالم.