كشفت إنفيديا عن منصة أمنية جديدة تستهدف وكلاء الذكاء الاصطناعي، وتحول دون تجاوزهم الصلاحيات الممنوحة لهم.
تحمل المنصة اسم “Open Agent Safety Platform”، وتضم مكوّنَين رئيسيَّين: برمجية “OpenShell” مفتوحة المصدر، التي تُتيح للمطورين رسم حدود تشغيلية للوكلاء والتحقق من التزامهم بها، ونظام “Sentry” المخصص للمراقبة الأمنية المستقلة.
ويعمل “Sentry” بصورة مستمرة على رصد نشاط الوكلاء، مع قدرة على عزل الوكيل وإيقافه خلال أجزاء من الثانية حين يُحاول تخطّي حدوده المحددة.
يأتي الإعلان في سياق تصاعد الاهتمام الصناعي بضبط سلوك وكلاء الذكاء الاصطناعي مع توسّع نطاق تطبيقاتهم في بيئات العمل والمؤسسات.
