أظهرت بيانات حديثة أن بوتات الدردشة التي تعتمد على الذكاء الاصطناعي ضاعفت معدّل تداولها للمعلومات المزيّفة خلال عام واحد.
معدل الاستجابة غير الدقيقة ارتفع في مواضيع الأخبار والسياسة
وفقاً لتقرير News Guard، ونشره موقع أكسيوس حصريا، فقد ارتفع معدل الاستجابات غير الدقيقة في مواضيع الأخبار والسياسة من 18% إلى 35%.
منهجية البحث استندت إلى “مرصد المطالبات الكاذبة بالذكاء الاصطناعي” لدى News Guard والذي يختبر شهرياً مدى قدرة نماذج الذكاء الاصطناعي على تمييز الادعاءات المثبت كذبها أو تكرارها.
وشملت التجارب عشرة من أبرز خدمات الدردشة الآلية، مع ثلاثة أنواع من المطالبات: محايدة، وتوجيهية تفترض صدقية المعلومة الكاذبة، وأخرى خبيثة تهدف إلى إلغائها.
أدوات الذكاء الاصطناعي مفصّلةً
Inflection: سجلت أعلى نسبة للمزاعم الكاذبة بنسبة 57%
Perplexity: جاء ف المرتبة الثانية بنسبة 47%
Google Gemini: تحسن قليلا من 17% إلى 7% في نشر المعلومات المزيفة
Anthropic’s Claude: حافظ على نسبة ثابتة دون تغيير خلال العام الماضي.
تطوّر استجابات البوتات
منذ أغسطس 2024، أضاف مطورو هذه النماذج قدرات جديدة، أهمها الاستجابة لجميع الأسئلة بدلاً من الرفض، وإتاحة البحث على المواقع للحصول على معلومات محدثة.
وقد حسّنت هاتان الميزتان دقة الإجابات في بعض الحالات، بيد أن تخفيف بروتوكولات الحذر ساهم في تضخيم المعلومات المزيّفة، لا سيما خلال الأحداث العاجلة، حيث يلجأ المستخدمون للاطلاع عبر هذه الأنظمة.
أثر الاقتباس المباشر للمصادر
بدأت بعض البوتات بإدراج مراجع عند الإجابة، ومع ذلك، لا يمكن ضمان الاقتباس من مواقع غير موثوقة سلامة المعلومة.
فقد وثّق التقرير حالات خلط بين منشورات صحفية معروفة ونظيراتها التابعة لأجهزة دعائية روسية.
ردود شركات التكنولوجيا
لم تتلقّى News Guard سوى ردود محدودة من شركات الذكاء الاصطناعي عند طرح النتائج، بينما امتنع بعضها عن التعليق.
الخبراء يؤكدون على ضرورة تعزيز آليات الرصد والتدقيق
ويؤكد الخبراء ضرورة تعزيز آليات الرصد والتدقيق داخل هذه النماذج للحد من انتشار المعلومات المزيّفة.
ويرتبط ارتفاع معدّل الأخطاء بتوسيع صلاحيات النموذج لتوليد إجابات شاملة دون تكثيف معايير التحقق، لذا، يوصي التقرير بأن يتبع مطورو بوتات الدردشة بـ
تقوية البروتوكولات لرفض الردود دون مصادر موثوقة
التدريب الإضافي على البيانات المُحقَّقة لتقليل نسب التكرار
تحديث دوري لقوائم المواقع الموثوقة والصادرة عن جهات تحرّ في المصادر المزيّفة
وسيشكل ضبط هذه الإجراءات خطوة محورية للحد من تأثير البوتات على صناعة المعلومات، وتأمين بيئة رقمية أكثر دقة وموثوقية.
