خطأ الذكاء الاصطناعي الطبي من «غوغل» باختراع عضو غير موجود في جسم الإنسان

سجلت شركة «غوغل» خطأ الذكاء الاصطناعي الطبي في أداة «Med-Gemini» باختراع عضو غير موجود في التشريح البشري، حيث أشار النظام إلى وجود «العقد القاعدية» أو «basilar ganglia»، وهو مصطلح غير صحيح. وفقا لموقع ذا فيرج.

خطأ الذكاء الاصطناعي الطبي وتأثيره على المخرجات

تعود هذه الخطوة إلى ظاهرة «هلاوس الذكاء الاصطناعي» أو «hallucination»، حيث تُختلق معلومات تبدو صحيحة، لكنها غير دقيقة، مما يعرض المرضى لمخاطر جسيمة. رغم نشر الخطأ في ورقة بحثية ومدونة رسمية، لم تكشف «غوغل» عنه بشكل علني.

اكتشاف الخطأ ودور الخبراء

اكتشف طبيب الأعصاب بريان مور الخطأ عند مراجعته نتائج المسح الدماغي، وأبلغ «غوغل» التي عدلت منشور المدونة فقط، فيما بقي الخطأ في الورقة البحثية. ورفض الخبراء تبرير «غوغل» بأن الخطأ مطبعي، مؤكدين ضرورة الرقابة الصارمة.

مخاطر الاعتماد على الذكاء الاصطناعي الطبي

تُستخدم أداة «Med-Gemini» في بيئات اختبار متعددة، لكن الأطباء قلقون من الاعتماد عليها دون التحقق، بسبب إصرار النظام على تقديم إجابات حتى لو كانت خاطئة، مما يزيد من احتمال وقوع الأخطاء الطبية.

ضرورة دور الطبيب في اتخاذ القرار النهائي

حذر الأطباء من أن إهمال مثل هذه الأخطاء قد يؤدي إلى تشخيصات وعلاجات خاطئة. يؤكد أخصائيو الأعصاب أهمية بقاء الطبيب البشري في مركز القرار، إذ يُعد التحقق من مخرجات الذكاء الاصطناعي خط الدفاع الأساسي لحماية المرضى.