ИИ-агенты получают всё больше прав: работают с базами, вызывают внешние API, исполняют код.

Чем больше у агента прав, тем опаснее любой текст, который он читает: письмо, страница в поиске, комментарий в репозитории.

Модель не отличает данные от инструкции, поэтому её нельзя считать доверенной частью системы. Защищать приходится архитектурой вокруг неё.

Вот Лаборатория Касперского выпустила гайд про «Безопасность ИИ-агентов через призму кибериммунитета».

Внутри:
• разборы реальных атак через контекст (EchoLeak, SearchLeak, CamoLeak)
• почему LLM нельзя доверять как компоненту системы
• как изолировать агента и контролировать его инструменты

Полезно всем, кто подключает агентов к рабочим данным, от разработчиков до тех, кто принимает решение о внедрении.

Советую скачать и посмотреть гайд