— Nvidia выпустила открытую платформу Open Agent Safety Platform, которая позволяет разработчикам задавать границы для ИИ-агентов и не давать им выходить за пределы своих задач
«Нельзя позволять агентам бесконтрольно бродить по компании, поэтому нужно найти способ их изолировать», — заявил глава Nvidia Дженсен Хуанг
Платформа состоит из двух частей:
1. OpenShell — открытое программное обеспечение, которое запускает агентов в изолированной среде и превращает их инструкции в проверяемую политику: оператор определяет, к каким файлам, инструментам, сетям и учетным данным у агента есть доступ.
2. Sentry — работает на чипах BlueField-4 и непрерывно следит за активностью агентов, а при попытке выйти за рамки «изолирует подозрительного агента за миллисекунды».
🧑💻 Этичный хакер