По результатам исследования ГК «Солар», 46% опрошенных компаний уже используют ИИ-агентов с доступом к внутренним системам. При этом контролируют действия агентов, используемые ими инструменты и API только 37%.
Риск зависит от полномочий агента. Доступ к платежному API — возможность переводить деньги. Доступ к базе данных — удалять информацию. Подключение к промышленной системе — менять параметры оборудования.
Особенно уязвимы отрасли, где кибербезопасность долго не считалась приоритетом.
Например, в США в 2021 году из-за хакерской атаки остановились заводы крупнейшего производителя мяса ― защитить их от хакеров никому просто не приходило в голову.
Но теперь под угрозой оказывается буквально все, где внутри системы используется ИИ, или просто имеющее выход в интернет. Можно себе представить даже то, что ИИ-агенты «подкрутят» температуру в промышленных холодильниках с мясом.
Среди основных угроз эксперты называют кражу API-ключей и токенов, обход аутентификации, удаленное выполнение кода и prompt injection — внедрение вредоносных инструкций во внешний контент, который обрабатывает агент.
В исследовании 81% компаний назвали среди критичных рисков утечки данных через ИИ, 60% — галлюцинации и некорректную генерацию, 54% — компрометацию данных и источников знаний.
То есть сейчас бизнес больше боится упустить что-то во внешнюю среду, а не потерять управление внутренними системами.
📰 Монокль в MAX | Подписаться