NVIDIA перенесла поводок для ИИ-агентов в кремний 🤩

NVIDIA показала Open Agent Safety Platform — систему контроля автономных агентов, вся суть которой умещается в одну мысль: надзиратель живёт на отдельном процессоре, недоступном ни самому агенту, ни атакующему.

Конструкция двухслойная. Открытый OpenShell под Apache 2.0 запускает каждого агента в песочнице с изоляцией на уровне ядра, переводит инструкции оператора в проверяемые политики и логирует каждое обращение к файлам, сетям, процессам и учёткам — работает на Vera, Arm и Intel. Сверху стоит Sentry на DPU BlueField-4: наблюдает за агентом из домена доверия и за миллисекунды отправляет в карантин при попытке выйти за границы.

На старте платформу поддержали больше сотни организаций, от Anthropic и Microsoft до JPMorganChase и Palantir.

🥸 godnoTECH - Новости IT