حذرت منظمة كومون سينس ميديا، المتخصصة في تقديم المشورة للآباء والمدارس حول الاستخدام الآمن للتكنولوجيا، من أن منصة محادثة الذكاء الاصطناعي جيميني التابعة لشركة غوغل غير مناسبة للأطفال رغم إضافة بعض ميزات الحماية مؤخراً. وفقا لشبكة CNBC.
المخاطر الأساسية
ذكرت المنظمة أن المنصة تشكل “خطرًا كبيرًا” على الأطفال بسبب عيوب في التصميم ونقص إجراءات السلامة المناسبة لأعمارهم. وبيّنت أن نسختي جيميني للأطفال دون 13 سنة وللمراهقين المزودة بحماية إضافية، تبقى أشبه بنُسخ للبالغين مع بعض خصائص السلامة.
محدودية الحماية
أوضحت كومون سينس أن المرشحات الحالية لا تمنع تعرض الأطفال لمحتوى غير لائق، كما تفشل في تمييز أعراض الصحة النفسية الحرجة. كما يمكن للمنصة تقديم نصائح غير آمنة للصحة النفسية، وتمكين تداول مواد غير مناسبة، بما في ذلك الإشارات إلى الكحول والمخدرات والجنس.
ضرورة تحسين السلامة
تعتبر جيميني أول منصة دردشة رئيسية بالذكاء الاصطناعي تستهدف الأطفال دون 13 عامًا، لكن المنظمة شددت على ضرورة مراجعة غوغل وتعزيز عناصر السلامة قبل اعتبارها آمنة لهذه الفئة العمرية.
