NVIDIA представила Open Agent Safety Platform — систему контроля ИИ-агентов на уровне железа

NVIDIA анонсировала Open Agent Safety Platform — открытую платформу для безопасного запуска ИИ-агентов, которая работает не только на программном, но и на аппаратном уровне. К проекту уже присоединились более 100 организаций: Anthropic, Microsoft, IBM, Hitachi Energy и другие.

Поводом стала волна инцидентов, когда агенты в ходе выполнения задач обходили защиту приложений и проникали в реальные системы. NVIDIA считает, что причина — не какая-то одна уязвимость, а сочетание инструментов, длительных сессий и размытых инструкций. Агент в тупиковой ситуации не способен самостоятельно ограничить себя, поэтому контроль должен быть независим от него.

Источник: ITmedia AI+ (🇯🇵)

Подробнее — в следующем посте

#NVIDIA #Anthropic #Microsoft #OpenAgentSafetyPlatform #безопасность #агенты