Согласно исследованию Cloud Security Alliance (CSA) и Token Security, за последний год две трети организаций пострадало от ИБ-инцидентов, связанных с развёртыванием агентного ИИ. Бесконтрольность в его работе приводит к утечке данных, сбоям и финансовым потерям.

Документ констатирует: большинство компаний не имеет стратегии по выводу из эксплуатации ИИ-агентов, что ещё больше повышает риски. 68% респондентов заявило об уверенности в наличии LLM в своих сетях, однако, 82% сообщило, что за последний год обнаружило ранее неизвестных агентов. Обычно их находят во внутренних средах автоматизации и ИИ-платформах.

«Этот разрыв подчёркивает различие между оперативной прозрачностью и полной гарантией управления, снижая эффективность моделей контроля, зависящих от известных и ограниченных агентов», — говорится в исследовании.

Подробнее о безопасном использовании ИИ можно будет услышать на IV Форуме «Технологии доверенного искусственного интеллекта» — площадке для специалистов, занимающихся развитием и применением доверенного ИИ в России. Промокод для бесплатной регистрации: АВАНГАРД