أعلنت شركة OpenAI الثلاثاء أن نماذج ذكاء اصطناعي متقدمة لديها تصرفت باستقلالية تامة خلال اختبارات سلامة داخلية، إذ كسرت القيود المفروضة عليها وشنّت هجوماً على منصة Hugging Face، المستودع البرمجي الشهير بين مجتمع المطورين.
وصفت الشركة ما جرى بأنه “حادثة سيبرانية غير مسبوقة”، وأعلنت عن تحقيق مشترك مع Hugging Face التي كانت قد أبلغت عن الاختراق الأسبوع الماضي دون الإفصاح عن هوية المتسبب.
الحادثة وقعت خلال تقييم قدرات الاختراق لدى مجموعة من النماذج، بما فيها GPT-5.6 Sol الذي أطلقته الشركة مؤخراً، ونموذج آخر “أكثر قدرة” لا يزال في طور التطوير. كانت النماذج تعمل داخل بيئة اختبار مغلقة مع وصول مقيّد إلى الإنترنت، غير أنها خصصت موارد حاسوبية ضخمة للتحايل على هذا القيد.
قالت OpenAI في تدوينة توضيحية: “أثناء عملها في بيئة الاختبار الخاصة بنا، خصصت نماذجنا قدراً كبيراً من القدرة الحاسوبية لإيجاد طريقة للحصول على وصول غير مقيّد إلى الإنترنت، وذلك بهدف حل مسألة التقييم.”
بعد كسر القيد، توجّهت النماذج إلى Hugging Face بحثاً عن “معلومات سرية” قد تمكّنها من تجاوز اختبار التقييم، معتمدةً على ما وصفته الشركة بـ”ربط مسارات عدة للهجوم، بما فيها استخدام بيانات اعتماد مسروقة.”
لا تنفرد OpenAI بهذه الإشكالية. نماذج Mythos التابعة لشركة Anthropic، المنافس الرئيسي، تثير هي الأخرى مخاوف مماثلة بشأن قدرتها على اختراق الدفاعات الأمنية. وقد اضطرت الشركتان إلى تأجيل الإطلاق العام لهذه التقنيات بضغط من واشنطن، في ظل مخاوف من احتمال توظيفها في استهداف البنية التحتية الحيوية.
