Подключить ИИ-агента к базе просто. Определить, что ему разрешено делать, сложнее.

Пока агент только отвечает в чате, его ошибку можно заметить и исправить. Когда он получает доступ к данным, внешним API и исполнению кода, ошибка уже может превратиться в действие.

Поэтому заранее стоит определить: какие данные агент видит, какие инструменты вызывает и какие операции требуют проверки.

Эти вопросы разбирает «Лаборатория Касперского» в руководстве «Безопасность ИИ-агентов через призму кибериммунитета». Внутри: атаки через контекст на примере EchoLeak, SearchLeak и CamoLeak, границы доверия к LLM и подходы к изоляции инструментов.

Пригодится разработчикам и архитекторам, которые внедряют агентов в реальные процессы.

Скачать