أطلق تحذير سام ألتمان الأخير جرس إنذار حول الاعتماد الكامل على ChatGPT، مؤكداً أن النمو القياسي في عدد المستخدمين لا يلغي خطر «هلوسة» المخرجات.
تحذير سام ألتمان وتفسير ظاهرة الهلوسة
أوضح الرئيس التنفيذي أن أنظمة الذكاء الاصطناعي قد تولد تعريفات وهمية أو دراسات مختلَقة. شدد على ضرورة التحقق من أي معلومة حساسة قبل اعتمادها، خاصة في الصحة والتعليم والقانون.
أسباب تكرار تحذير سام ألتمان
- النماذج تتعلم أنماط اللغة فقط، بلا فهم حقيقي للواقع.
- بيانات التدريب الضخمة تتضمن أخطاء يصعب تنقيتها تماماً.
- المستخدمون يثقون بالخروج السلس، متجاهلين احتمال التزييف.
أشار ألتمان إلى أن الشركة تطوّر تحديثات تقلص الميل إلى الموافقة التلقائية، وتحسّن إظهار مصادر المعلومات داخل الحوار.
بلغ عدد المستخدمين النشطين أسبوعياً 500 مليون مارس الماضي، وتجاوز 800 مليون في أبريل. النمو يسير بتوصيات شفهية من مستفيدين وجدوا قيمة فورية في الأداة.
رغم نجاح التبني، كرر تحذير سام ألتمان قائلاً إن الثقة «مرتفعة جداً» مقارنة بمرحلة النضج التقني الحالية، وطالب الجمهور بالتعامل الحذر.
تضاعف عدد العملاء المؤسسيين المدفوعين إلى ثلاثة ملايين، وتوقعت OpenAI عائدات تفوق 12 مليار دولار في 2025. يمثّل ذلك حافزاً لتسريع التحسينات وضبط الجودة.
يعترف ألتمان باستخدامه الشخصي لـChatGPT في تربية طفله، مؤكداً فائدته في تبسيط المهام اليومية. لكنه يصرّ على فحص النتائج وعدم تسليم زمام القرار للخوارزمية وحدها.
تنتج هلوسة الذكاء الاصطناعي عندما «تتفوق» اللغة على الواقع؛ فالنموذج يسد فجوات المعرفة بجمل مقنعة لا أصل لها. لذا يُنصح بدمج الأداة مع عقل نقدي ومصادر موثوقة.
تطور الشركة تقنية استشهاد ديناميكي، تربط الادعاء بمرجع مباشر لتقليل التضليل. كما تعمل على خوارزميات كشف الانتحال العلمي والأخبار الزائفة.
مع تقدم الأبحاث، يتوقع ألتمان مساهمة الذكاء الاصطناعي في اكتشافات علمية مستقلة خلال خمس سنوات. يتحقق ذلك عبر نماذج أقل هلوسة وأكثر شفافية، شرط الالتزام بمعايير أخلاقية صارمة.
يختم تحذير سام ألتمان بدعوة المستخدمين إلى الرقابة الذاتية، وتذكيرهم بأن أفضل استخدام للتقنية يكمن في الشراكة بينها وبين الإنسان، لا في الاستبدال الكامل.