NVIDIA представила Open Agent Safety Platform — систему контроля ИИ-агентов на уровне железа
Продолжение поста

Платформа состоит из двух частей. OpenShell — открытый runtime, который запускает агента в изолированной среде и ещё до старта проверяет, к каким файлам, сетям и учётным данным тот имеет доступ. Sentry — аппаратный надзор на базе процессора BlueField-4, работающий в области, недоступной самому агенту: если тот выходит за разрешённые границы, система блокирует его за миллисекунды.

OpenShell распространяется под лицензией Apache 2.0 и уже опубликован на GitHub. Он оптимизирован под фирменный процессор NVIDIA Vera, но совместим и с платформами Arm и Intel. Важно, что агентов вроде Codex или Claude Code не нужно переписывать — они работают внутри OpenShell без изменений. Политики безопасности проверяются с помощью формальной логики: система доказывает, что в них нет лазеек.

Sentry — опциональный компонент поверх OpenShell. На системах с Vera и BlueField-4 его можно активировать программным обновлением без замены оборудования.

Платформа входит в рамки Open Secure AI Alliance, которую NVIDIA запустила в июле 2026 года под управлением Linux Foundation — в альянсе уже более 120 участников.

Дженсен Хуанг сравнил агентов с автомобилями на автопилоте: каждому нужен минимально необходимый набор прав и независимый надзор снаружи. На вопрос, решаемы ли побеги агентов из тестовых сред технически, он ответил прямо: «Я считаю, что это инженерная проблема. Если бы это было не так — мы бы не могли её решить».

Источник: ITmedia AI+ (🇯🇵)

#NVIDIA #Anthropic #Microsoft #OpenAgentSafetyPlatform #безопасность #агенты