الذكاء الاصطناعي التوليدي تحت المجهر، مكاسب ومخاطر في آن واحد

الخميس، 03 يوليو 2025 04:25 م

الذكاء الاصطناعي - صورة أرشيفية

يشهد الذكاء الاصطناعي التوليدي طفرة غير مسبوقة في الاهتمام العالمي، بعدما أصبح محورًا رئيسيًا في التحول الرقمي للقطاعات المختلفة، ورغم حداثة هذه التقنية بشكل نسبي، إلا أن الأفراد والشركات بدأوا بالفعل في دمجها ضمن أنشطتهم اليومية وأصبحت حاضرة بقوة بفضل ما توفره من إمكانات ومنافع مذهلة، خصوصًا في مجالات تحسين الكفاءة وإنشاء محتوى جديد بمختلف الأشكال من نصوص وصور وفيديوهات وبرمجيات وغيرها.

وتتجه الأنظار نحو تعظيم الفوائد الاقتصادية والاجتماعية لهذه التقنية، دون إغفال التحديات والمخاطر التي قد تنجم عن سوء الاستخدام، وفي هذا السياق، أصدرت الهيئة السعودية للبيانات والذكاء الاصطناعي (سدايا) تقريرًا تحليليًا شاملًا يتناول تعريفات وفوائد ومخاطر الذكاء الاصطناعي التوليدي، ويقترح مجموعة من التدابير والإجراءات العملية للحد منها، بما يضمن الاستخدام المسؤول والآمن للتقنية في المملكة.

مخاطر الذكاء الاصطناعي التوليدي وسبل مواجهتها

1. التزييف العميق والتضليل الإعلامي

أوضح تقرير "سدايا" أن من أبرز المخاطر الناتجة عن الذكاء الاصطناعي التوليدي استخدامه في إنشاء محتوى مزيف يصعب التمييز بينه وبين المحتوى الحقيقي.

تشمل هذه الظاهرة إنشاء صور وأصوات ومقاطع فيديو لأشخاص لم يقولوا أو يفعلوا ما يظهر في المحتوى، وهو ما يعرف بالتزييف العميق، وتستغل هذه الإمكانات لأغراض ضارة مثل الاحتيال، وسرقة الهوية، والابتزاز الرقمي.

تدابير التخفيف المقترحة

تضمين علامات مائية يمكن تتبعها في جميع المخرجات التي يتم توليدها بالذكاء الاصطناعي.
تطبيق بروتوكولات "اعرف عميلك" (KYC) لمزودي خدمات السحابة والذكاء الاصطناعي، واستخدام عمليات التحقق المشابهة لتلك المستخدمة في المؤسسات المالية، على سبيل المثال مطالبة المستخدمين بتقديم تفاصيل جواز السفر، ووثائق إثبات الهوية لجعل الوصول إليها أكثر صعوبة على الجهات المحتالة.
إدراج أنظمة للتحقق التلقائي من مخرجات الذكاء الاصطناعي للكشف عن المحتوى الضار أو الاحتيالي، مثل خطابات الكراهية، وطلب تحويل الأموال، واستخدام وجوه الشخصيات العامة وأصواتهم.
نشر حملات توعوية لتعزيز الوعي الرقمي من قبل الشركات الخاصة والمؤسسات العامة، وتسليط الضوء على طرق التمييز بين المحتوى الحقيقي والمزيف، وكذلك أهمية الحد من مشاركة البيانات الشخصية عبر الانترنت، ومخاطر الاتصالات الرقمية التي لم يتم التحقق منها، وغيرها.

2. تهديدات السلامة العامة

يمكن للذكاء الاصطناعي التوليدي أن يستخدم في إنتاج معلومات ضارة أو حساسة، مثل المواد الكيميائية أو البيولوجية أو الأسلحة الرقمية، وقد تُستخدم هذه المعلومات من قبل أطراف خبيثة ما يمثل تهديدًا حقيقيًا على السلامة العامة.

توصيات المواجهة وتدابير تخفيف المخاطر

وضع أنظمة رقابة على المحتوى ومنعه قبل النشر.
تصفية مجموعات البيانات التدريبية للتقليل من إدراج معلومات خطيرة.
تقييد الوصول المفتوح إلى النماذج التي قد تستخدم لأغراض غير آمنة، خاصة النماذج العلمية المعقدة.

3. المعلومات الخاطئة وهلوسة الذكاء الاصطناعي

تعاني بعض نماذج الذكاء الاصطناعي التوليدي من إنتاج معلومات غير دقيقة أو مضللة بثقة زائفة، تعرف هذه الظاهرة بـ "هلوسة الذكاء الاصطناعي"، وغالبًا ما يتم استخدام هذه المخرجات دون التحقق من دقتها، ما قد يؤدي إلى تضليل الجمهور أو المستخدمين.

الضوابط المقترحة وتدابير تخفيف المخاطر

التحقق من دقة المعلومات ومصادرها قبل عرضها.
عرض إشعارات تنبيهية عند وجود مخرجات غير دقيقة.
تمييز المحتوى المنتج عبر علامات مائية.
تعزيز ثقافة التحقق من الحقائق والمحتوى لدى المستخدمين.

4. تسرب البيانات الحساسة

قد يؤدي إدخال بيانات شخصية أو حساسة إلى أدوات الذكاء الاصطناعي التوليدي إلى تسربها دون قصد، نظرًا لأن هذه الأدوات تدرب باستخدام الأوامر والمحتوى الذي يدخل إليها.

توصيات السلامة وتدابير تخفيف المخاطر

تفعيل بروتوكولات صارمة لاستخدام أدوات الذكاء الاصطناعي في الجهات الحكومية والخاصة، وتنفيذ سياسات لاستخدامه الذي يمنع المستخدم من إدخال معلومات مصنفة من أدوات خارجية، وان تتضمن هذه التفاصيل الممارسات المقبولة في إنشاء المحتوى، والاجراءات اللازمة لمنع تسريب البيانات، وضرورة المراقبة والمراجعة بشكل منتظم.
توعية الموظفين بضرورة عدم إدخال معلومات مصنفة أو حساسة، وتدريبهم على الالتزام بسياسات الجهة، والتنظيمات الأوسع لتي تشمل حوكمة البيانات والأمن السيبراني، وتصنيف البيانات الحكومية، وحماية البيانات الشخصية، وحقوق الملكية الفكرية، والاعتبارات القانونية أو السياسية الأخرى ذات الصلة.
منح المستخدمين خيارات للتحكم في استخدام بياناتهم، بما في ذلك مسح سجل الأوامر بالكامل عند الطلب وفقًا للأنظمة والوائح ذات الصلة.

5. الاحتيال في الشهادات والتقييمات

يمثل الذكاء الاصطناعي التوليدي تهديدًا كبيرًا لمعايير الكفاءة التعليمية والمهنية، نتيجة قدرته على إنتاج محتوى متخصص عالي الجودة يشبه إلى حد كبير المحتوى البشري.

ويمكن استخدام الذكاء الاصطناعي التوليدي، في إعداد مقالات، أبحاث، أو حتى إجابات لأسئلة تقييمية، بما يزعزع مصداقية الشهادات الأكاديمية والاختبارات المهنية، ويصعب اكتشافه باستخدام أدوات كشف السرقة الأدبية التقليدية، لأن هذا المحتوى أصلي وغير منقول حرفيًا من مصادر معروفة.

ومع غياب ضوابط صارمة، قد يؤدي سوء استخدام هذه التقنية الحديثة إلى تقويض نزاهة نظم التقييم التعليمية والمهنية وإضعاف ثقة المجتمع والمؤسسات في نتائج الاختبارات المهنية والتعليمية.

الحلول الممكنة وتدابير تخفيف المخاطر

إعادة تصميم آليات التقييم لتكون أكثر مقاومة للاختراق.
اعتماد تقييمات شخصية ومراقبة الأداء الفعلي للمتقدمين.
تدريب الطلاب والمعلمين على الاستخدام الأخلاقي للتقنية، وتطوير سياسات واضحة للتحكم في استخدامها.

6. انتهاك حقوق الملكية الفكرية

تُطرح تساؤلات قانونية حول الملكية الفكرية للمحتوى المنتجج بالذكاء الاصطناعي، خاصة في حالة استخدام مواد محمية بحقوق النشر دون إذن.

آليات الحماية وتدابير تخفيف المخاطر

حصول المطورين على تراخيص قانونية لمواد التدريب ولاأي ملكي فكرية مدرجة في بيانات التدريب.
إجراء العملاء فحصًا قانونيًا قبل استخدام النماذج، الفحص النافي للجهالة الخاص بهم لتأكيد ما إذا كانت هذه النماذج قد تم تدريبها على المحتوى المحمي قبل استخدامها.
تمكين المنشئين الأصليين من سحب أعمالهم من مجموعات التدريب، وتوفير آليات تعويض عادلة، ويجب على أنظمة الذكاء الاصطناعي التوليدي أن تحصل على إذن صاحب المحتوى الأصلي قبل إنشاء المحتوى بناء على الملكية الفكرية.
ويجب أن تضع خدمات الذكاء الاصطناعي التوليدي آليات تعويض مثل أموال المساهمين، لمكافأة المبدعين بشكل عادل إذا تم استخدام ملكيتهم الفكرية في مجموعات التدريب، فعلى سبيل المثال تقدم شاترستوك Shutterstock لمنشئ المحتوى خيار إلغاء استخدام اعمالهم في مجموعات التدريب على الذكاء الاصطناعي وأنشأت صندوق للمساهمين لتعويضهم عند استخدام أعمالهم.

7. تباين المخرجات وعدم استقرار الأداء

قد تختلف المخرجات الناتجة عن أدوات الذكاء الاصطناعي التوليدي باختلاف السياق أو التحديثات، ما يطرح تحديًا في الاعتمادية والثقة.

ضمانات الجودة وتدابير تخفيف المخاطر

توضيح المخرجات المنتجة بالذكاء الاصطناعي عند برمجة الأكواد أو كتابة المحتوى، فيجب على مطوري الأكواد الذين يعتمدون على هذه التقنية مثل ChatGPT وGitHub Copilot إضافة علامة توضيحية داخل الكود المصدري للإشارة إلى أنه تم إنشاؤه بالذكاء الاصطناعي.
اختبار المخرجات بانتظام، خاصة في المجالات الحساسة والتطبيقات المهمة حيث تكون الدقة أمرًا بالغ الأهمية، ويمكن أن يساعد تنفيذ عمليات الاختبار والتحقق الشاملة على تحديد وتصحيح أي تناقضات أو أخطاء في المخرجات.
متابعة التحديثات التقنية وفهم تأثيرها على النتائج، ويمكن يساعد الاشتراك في الإشعارات والتحديثات من المطورين على التكيف مع التعديلات في سلوك الخدمة أو جودة المخرجات.
رفع كفاءة المستخدمين الذين يقومون بأدوار تطوير البرمجيات والترميز تطوير الخبرة في التعامل مع أدوات الذكاء الاصطناعي التوليدي وتحليل مخرجاتها على تلبية متطلبات محددة.

نحو استخدام مسؤول وآمن

أشار تقرير "سدايا" إلى أن الذكاء الاصطناعي التوليدي يمكن أن يكون رافعة قوية للتنمية المستدامة ودعم الابتكار، بشرط اتباع قواعد صارمة للحوكمة الأخلاقية، والالتزام بالتدابير الأمنية اللازمة لحماية المجتمعات من الأضرار المحتملة.

كما أكد أن بناء مستقبل آمن للذكاء الاصطناعي التوليدي يبدأ من اليوم، ويستوجب تضافر الجهود الحكومية، والقطاع الخاص، والمجتمع المدني، لضمان الاستخدام الآمن، والموثوق، والمفيد لهذه التقنية الثورية.

إيجي إن-Egyin، هو موقع متخصص في الصناعة والاقتصاد، ويهتم بتقديم خدمة صحفية متميزة للقارئ، وهدفنا أن نصل لقرائنا الأعزاء بالخبر الأدق والأسرع والحصري، إضافة للتغطية والمتابعة على مدار الـ24 ساعة، لـ"أسعار الذهب، أسعار العملات، أسعار السيارات، أسعار المواد البترولية"، في مصر والوطن العربي وحول العالم.