حذر السير كين ماكالوم، المدير العام لجهاز الأمن البريطاني (MI5)، اليوم الخميس من خطر الأنظمة المستقلة للذكاء الاصطناعي التي قد تعمل خارج إشراف الإنسان في المستقبل القريب.
جاء ذلك خلال كلمته السنوية أمام العاملين في المقر المركزي للجهاز “ثامس هاوس” في لندن، وأشار ماكالوم إلى أن الذكاء الاصطناعي يُستخدم حالياً لتعزيز قدرات الأجهزة الأمنية في جمع المعلومات والتحليل السريع.
ماكالوم لفت لاحتمالية استغلال الجماعات الإرهابية لهذه التقنية في الترويج والدعاية
لكن المدير العام لجهاز الأمن البريطاني لفت أيضًا إلى استغلال الجماعات الإرهابية لهذه التقنية في الترويج والدعاية وجمع بيانات عن أهداف محتملة.
وأضاف أن بعض الدول تعتمد على الذكاء الاصطناعي في التلاعب بالانتخابات وتشديد الهجمات الإلكترونية ضد المؤسسات الحيوية.
وقال ماكالوم: “في عام 2025، ومع تعاملنا مع التهديدات الحالية، يجب أن نستشرف أيضًا الجبهة القادمة: مخاطر الأنظمة الذاتية التي قد تهرب من رقابة البشر”.
وأكد ضرورة استخدام لغة دقيقة لتجنب “فن التسطيح والخوف المفرط”، مضيفاً:”لا أتوقع سيناريوهات أفلام الخيال العلمي، لكن من المتهور تجاهل إمكانية تسبب الذكاء الاصطناعي بضرر”.
ماكالوم: العمل جارٍ على تطوير حلول تقنية تحت رقابة بشرية صارمة
وأوضح رئيس MI5 أن العمل جارٍ على تطوير حلول تقنية وتنظيمية تضمن بقاء الأنظمة تحت رقابة بشرية صارمة، وأشار إلى تشكيل فرق مشتركة مع وزارتي الدفاع والداخلية لمتابعة ابتكارات الذكاء الاصطناعي وتقييم مخاطره، كما أعلن عن خطط لتعزيز التعاون الدولي مع الحلفاء لتبادل المعلومات حول التهديدات التقنية.
وقال إن جهازه رصد محاولات للتجسس عبر برمجيات خبيثة مدعومة بالذكاء الاصطناعي، تسعى للحصول على أسرار حكومية وتجارية، وأضاف أن حجم التحقيقات المتعلقة بالتجسس الإلكتروني ارتفع خلال العام الماضي، ما يتطلب موارد إضافية لتعزيز الدفاعات.
ماكالوم يدعو السياسيين لوضع إطار قانوني واضح ينظم الذكاء الاصطناعي
و دعا ماكالوم السياسيين لوضع إطار قانوني واضح ينظم استخدام الذكاء الاصطناعي ويسد الثغرات القانونية، وأشار إلى ضرورة تشريع يحدد المسؤوليات والضمانات بحق الشركات المطورة لهذه التقنيات، كما حث المجتمع المدني والقطاع الأكاديمي على المساهمة في طرح سياسات تراعي الحفاظ على الحقوق والحريات.
وتأتي تحذيرات ماكالوم في وقت تصاعد فيه الجدل حول تكنولوجيا الذكاء الاصطناعي على مستوى العالم، فقد دعا قادة صناعة التكنولوجيا مراراً إلى تنظيمها بشكل يحدّ من المخاطر المحتملة، وبينما يرحب بعضهم بالتطبيقات العسكرية والأمنية للذكاء الاصطناعي، يحذر آخرون من فقدان السيطرة عليه.
