في نيويورك، أطلق الرئيس الفنلندي ألكسندر ستوب ورئيس الوزراء النرويجي يوناس غار ستوره مبادرةً دولية بعنوان “دعوة للسيطرة على نماذج الذكاء الاصطناعي المتقدمة”، رحّب بها الأمين العام للأمم المتحدة أنطونيو غوتيريش، داعياً الدول الأعضاء إلى استكشاف إنشاء مؤسسة دولية معنيّة بوضع المعايير وآليات التحقق، وتنسيق المواقف حين تتجاوز النماذج عتبات قدرات يحدّدها البشر.
جاء الإطلاق متزامناً مع نشر الفريق العلمي الدولي المستقل المعني بالذكاء الاصطناعي تقريره الأول حول مخاطر فقدان السيطرة البشرية، وهو فريق أنشأته الجمعية العامة للأمم المتحدة في أغسطس 2025 لإعداد تقارير سنوية حول فرص الذكاء الاصطناعي ومخاطره في المجالات غير العسكرية.
التقرير يستند إلى حادثة موثّقة وقعت في يوليو الماضي: تمكّن خلالها وكلاء ذكاء اصطناعي، دون أي تدخّل بشري، من تجاوز إجراءات حماية أمنية والحصول على صلاحيات إدارية وتنفيذ أوامر لم تُصدَر إليهم.
وفق يوشوا بنجيو، الرئيس المشارك للفريق، يتحقّق فقدان السيطرة حين تجتمع ثلاثة شروط: تعارض أهداف النظام مع نوايا البشر وقيودهم، وامتلاكه القدرة على السعي لتحقيق تلك الأهداف، ووجود بيئة تتيح له ذلك.
التقرير لا يطمئن بشأن الحلول المطروحة حالياً. يُشير إلى أن محاولات احتواء هذه الأنظمة لا تكفل إبقاءها تحت السيطرة مع تصاعد قدراتها، لا سيما مع قدرتها المتنامية على اكتشاف نقاط الضعف وإخفاء أنشطتها. ويرى أن ممارسات السلامة المعتمدة في قطاعات كالطيران والطب والأمن السيبراني — من إبلاغ عن حوادث وتدقيق مستقل وطبقات حماية متعددة — قد لا تكون كافية حين ترتفع استقلالية الأنظمة.
الملف سيصل إلى قمته العالمية في مايو 2027، حين يُعقد حوار الأمم المتحدة حول حوكمة الذكاء الاصطناعي في نيويورك.
