أكدت شركة غوغل أنها أحبطت خلال الأشهر الماضية محاولات لهجمات إلكترونية اعتمدت على برمجيات خبيثة مدعومة بالذكاء الاصطناعي، وأنها عطّلت حسابات وأصولاً رقمية مرتبطة بجهات تهديد حاولت استغلال منصات الذكاء الاصطناعي، بما في ذلك Gemini، في تطوير هجماتها.
في تقرير حديث لمجموعة استخبارات التهديدات لدى غوغل (GTIG)، قالت الشركة إنها رصدت جهات تهديد – بينها مجموعات مدعومة من دول – تستخدم أدوات ذكاء اصطناعي في مراحل مختلفة من الهجمات، مثل الاستطلاع، وتحليل الأهداف، ودعم تطوير البرمجيات الخبيثة، وكتابة رسائل تصيّد شديدة الواقعية.
وأشارت إلى أنها واجهت خلال الأشهر الأخيرة «محاولات متكررة» من مهاجمين لمحاولة خداع نماذج Gemini لتوليد تعليمات أو شيفرات يمكن استخدامها في هجمات حقيقية، لكن هذه المحاولات فشلت بسبب ضوابط الأمان، إذ قدّمت النماذج ردوداً محايدة أو نصائح عامة في الأمن السيبراني بدلاً من توليد برمجيات خبيثة.
برمجيات خبيثة مدعومة بالذكاء الاصطناعي
تقرير سابق لـ GTIG كشف عن رصد برمجيات خبيثة «مدعومة بنماذج لغوية» قادرة على تعديل سلوكها ديناميكياً أثناء التنفيذ، في ما وصفته غوغل بأنه انتقال إلى «مرحلة تشغيلية جديدة» في استغلال الذكاء الاصطناعي من جانب المهاجمين.
من بين الأمثلة التي تناولتها تقارير أمنية برمجية أطلقت عليها غوغل اسم «PROMPTFLUX»، قادرة على إعادة توليد جزء من شيفرتها في أثناء الهجوم باستخدام تقنيات مشابهة لتلك التي يقوم عليها Gemini، قبل أن تؤكد الشركة أنها عطّلت الأصول والحسابات المرتبطة بها ولم ترصد استخدامها على نطاق واسع ضد مستخدمين نهائيين.
كيف تتصدى غوغل لهذه الهجمات؟
تقول غوغل إن فرق استخبارات التهديدات والأمن السحابي لديها تتبع «منظومة كاملة» من الإشارات التقنية لربط نشاط الجهات المدعومة من حكومات أو مجموعات إجرامية بحسابات وخدمات داخل نظامها، ثم تقوم بتعطيل هذه الحسابات أو البنية التحتية فوراً عند التأكد من سوء الاستخدام.
كما تُغذّي النتائج التي تتوصل إليها الفرق الأمنية مباشرةً في نماذجها ومنتجاتها، بهدف تحسين آليات الحظر داخل Gemini وغيرها من الأدوات، وتقوية قدرتها على رفض الطلبات ذات الطابع الهجومي، وكشف الأنماط المرتبطة بمحاولات استغلال الذكاء الاصطناعي في البرمجيات الخبيثة.
