ИИ-агенты как новая скрытая угроза кибербезопасности

Издание The Goan Network сообщает о растущих рисках, связанных с использованием ИИ-агентов — программных помощников, которые могут читать почту, работать с документами, запускать процессы и принимать решения без участия человека.

Эксперты предупреждают о новом типе атак — «zero-click indirect prompt injection», при которых злоумышленники внедряют скрытые инструкции в обычные письма, файлы или веб-страницы. Пользователю не нужно нажимать на ссылки или открывать вложения: когда ИИ-агент позже обрабатывает такие данные, он незаметно выполняет внедрённые команды.

В результате агент может: собирать конфиденциальную информацию, читать закрытые файлы, передавать данные на внешние серверы.

Опасность усугубляется тем, что ИИ-агенты работают в облаке, вне поля зрения традиционных средств защиты, а функции «памяти» могут превратить их в постоянный внутренний источник утечки данных. Скомпрометированный агент также способен автоматически распространять заражённые сообщения дальше.

Издание подчёркивает, что стандартные системы кибербезопасности не рассчитаны на контроль действий ИИ-сервисов. В качестве мер защиты предлагается ограничивать полномочия агентов, очищать входящие данные, вести детальный аудит их действий и тестировать их на устойчивость к подобным атакам.

Таким образом, ИИ-агенты могут значительно повысить эффективность работы, но при отсутствии строгого контроля они способны превратиться в незаметный инструмент шпионажа и утечки данных.

😎 Лаборатория