Дженсен Хуанг выкатил NVIDIA Open Agent Safety Platform — и притащил с собой 100+ партнеров

Задача у штуки простая: держать ИИ-агентов под контролем и не давать им разгуляться. Ключевая мысль — пасти агента надо не только в софте, но и на уровне железа. Внутри две детали. OpenShell — открытый рантайм под Apache 2.0, который гоняет агента в песочнице с изоляцией на уровне ядра: оператор заранее расписывает, к каким файлам, тулзам и кредам у агента есть доступ, и эту политику жёстко проверяют и перед стартом, и пока агент пашет. Sentry — отдельный слой надзора, крутится прямо на чипе DPU BlueField-4: сводит действия агента в одну картину, ловит попытки съехать с задачи и следит, чтобы прав у него не было больше, чем выдали.

Самое сочное — BlueField-4 висит на единственной дороге между узлом и моделью. Агент не шагнёт дальше без обращения к модели, а раз так, DPU видит всё и может обрубить работу в реальном времени. При этом он изолирован от хоста, так что агенту до него не дотянуться.

Софт будет открытым, стандарт безопасности заявлен общим. Но глаже всего это катается на железе NVIDIA: сперва Хуанг продаёт железо, на котором агентов учат и запускают, теперь — железо, которое следит, чтобы те не сбежали. В партнёрах: Anthropic, SpaceX, HuggingFace, Perplexity и другие. OpenAI на движ не позвали.

Подробности: developer.nvidia.com

👉 About Python