Nvidia хочет держать ИИ-агентов на коротком поводке с помощью сторожевого механизма в чипах

Nvidia представила платформу Open Agent Safety Platform для защиты ИИ-агентов от тестирования до запуска. Она объединяет программу OpenShell, которая ограничивает доступ агента к файлам, программам и сетям, с аппаратным сторожевым механизмом Sentry. По заявлению Nvidia, он сможет изолировать агента за миллисекунды, если тот попытается выйти за заданные пределы. Платформа появилась на фоне новых случаев, когда агенты обходили ограничения тестовых сред: о подобных инцидентах сообщали OpenAI, Anthropic и Meta, а Gemini от Google во время майского теста взломала три реальные компании.

👉 Читать полностью