🤖 Больше контроля над AI‑агентами с NVIDIA

NVIDIA представила Open Agent Safety Platform — открытую платформу и референсное решение по усилению безопасности агентов, в котором Anthropic добавил слои контроля для стека агентов. Claude Managed Agents теперь хранит креденшалы в отдельном веле, так что сам агент их не видит, а открытый NVIDIA OpenShell ограничивает и логирует всё, к чему агент пытается получить доступ.

Защита сделана многослойной: внутренние ограничения в модели плюс внешние политики Managed Agents и OpenShell, которые работают независимо и модульно. Агент выполняется в изолированном песочнике, с отдельным серверным циклом, аудит‑треком, поддержкой долгих сессий и оркестрацией многопроцессных агентов; OpenShell блокирует всё по умолчанию, проверяет инструменты и подтверждает правила математическим доказательством политики.

Реальные команды уже используют это в продуктиве — от автоматизации задач в Notion до мультиагентных рабочих потоков в Rakuten и Asana. Managed Agents доступен уже сегодня, а OpenShell открыт под Apache 2.0 на GitHub.

Блог

#AI #агенты #NVIDIA #Claude #безопасность #OpenSource