Open Agent Safety Platform – открытый набор средств для запуска автономных агентов в изолированной среде. Основа платформы – OpenShell, среда, которую компания развивает около года.
Второй, необязательный уровень контроля даёт Nvidia Sentry. Это ПО работает на отдельном процессоре обработки данных BlueField вне досягаемости агента, а программная платформа DOCA связывает его с политиками OpenShell.
OpenShell запускает агента в песочнице, где оператор заранее перечисляет доступные файлы, сетевые адреса, инструменты, процессы и ключи. Из коробки поддерживаются Claude Code, Codex, OpenCode и GitHub Copilot CLI, через шаблоны NemoClaw – OpenClaw и Hermes Agent.
Зачем агенту такая изоляция, в Nvidia объясняют дрейфом - при долгой работе, неоднозначных инструкциях или упоре в запрет агент уходит от исходной задачи, и рассчитывать, что он сам удержит себя в рамках, нельзя. Поэтому контроль вынесен за пределы агента, и знать о наблюдении ему не обязательно.
Каждая песочница – отдельный контейнер или Docker, Podman или Kubernetes. Шлюз управляет их жизненным циклом, а движок политик перехватывает каждое исходящее соединение и либо пропускает его, либо подставляет ключи провайдера для разрешённого адреса, либо блокирует и пишет в журнал.
Ключи не попадают в файловую систему песочницы, их передают переменными окружения во время работы. Политики задаются в YAML и охватывают четыре области: файлы, сеть, процессы и провайдеров.
Доступ к файлам и системным вызовам фиксируется при создании песочницы, сетевые правила меняются онлайн с точностью до HTTP-метода и пути, так что агенту можно разрешить чтение API GitHub и запретить запись. По словам Nvidia, OpenShell проверяет ограничения ещё до запуска агента.
Главная площадка для Sentry – системы Vera Rubin POD, где процессор BlueField-4 стоит в каждом вычислительном модуле на единственном пути от узла к модели.
Там Sentry изолирован от хоста, следит за поведением агента и применяет политику OpenShell на скорости линии, а шлюз DOCA проверяет, кто такой агент и какие полномочия ему выданы.
Владельцам систем Vera достаточно обновить ПО, всем остальным установка доступна одним скриптом на Linux, macOS с Apple Silicon и Windows через WSL 2, последний вариант экспериментальный.
Проект в статусе альфа, версия 0.1.0 ещё готовится, развёртывание в Kubernetes и проброс видеокарт в песочницу тоже помечены как экспериментальные.
@ai_machinelearning_big_data
#news #ai #ml