Nvidia представила Open Agent Safety Platform - набор инструментов, ограничивающих действия AI-агентов и не дающих им выходить за пределы разрешенной среды.
Запуск последовал за серией инцидентов летом 2026 года: агенты OpenAI, Anthropic, Meta и Google через уязвимости в тестовых песочницах получали доступ к внешним базам данных и инфраструктуре, включая продакшн Hugging Face.
- OpenShell - открытое ПО, задает ограничения на ресурсы и функции, доступные агенту
- Sentry - аппаратный ограничитель на чипах Nvidia BlueField-4, карантинирует агента за миллисекунды при превышении границ
Партнеры - более 100 организаций, включая Microsoft, Cisco, Oracle, CoreWeave, Dell, HPE, Lenovo, Arm и Intel. Отдельно Nvidia работает с Anthropic над интеграцией OpenShell с облачными агентами Claude. Часть технологий выйдет с открытым исходным кодом.
Кэпитал News