Nvidia выпустила систему для изоляции ИИ-агентов. По словам компании, она остановила бы взлом Hugging Face моделями OpenAI

НАСТОЯЩИЙ МАТЕРИАЛ (ИНФОРМАЦИЯ) ПРОИЗВЕДЕН И РАСПРОСТРАНЕН ИНОСТРАННЫМ АГЕНТОМ THE BELL ЛИБО КАСАЕТСЯ ДЕЯТЕЛЬНОСТИ ИНОСТРАННОГО АГЕНТА THE BELL. 18+

Nvidia представила двухуровневую систему контроля за автономными ИИ-агентами Open Agent Safety Platform, сообщает Bloomberg. Если бы ведущие ИИ-лаборатории тестировали на ней свои модели, она могла бы предотвратить июльский взлом Hugging Face, заявил на брифинге вице-президент Nvidia по корпоративному ИИ Джастин Бойтано.

Система состоит из двух программ с открытым кодом, которые работают на железе Nvidia. OpenShell, анонсированная еще в марте, запускается на центральных процессорах Vera, позволяет задавать, к чему агенту разрешен доступ, и следить за соблюдением этих правил в реальном времени. Новая Nvidia Sentry работает на процессорах BlueField (специализированных чипах, которые берут на себя сетевые задачи и задачи безопасности в дата-центрах) и служит вторым контуром: она отслеживает поведение агентов и изолирует подозрительных. По словам Бойтано, на это уходят миллисекунды. Будут ли систему использовать OpenAI и Anthropic, он не сказал.

Ранее модели OpenAI, выбравшись из тестовых сред, которые считались защищенными, взломали Hugging Face и систему австралийского правительства, а также пытались проникнуть на десятки сайтов американских госорганов и университетов. В пятницу OpenAI приостановила обучение своих самых мощных моделей.

В начале сентября Nvidia договорилась купить саму Hugging Face примерно за $13 млрд.