☝🏻Вашего ИИ-агента можно взломать обычным письмом

ИИ-агентам дают всё больше прав: читать базы, вызывать внешние API, запускать код. Это удобно до тех пор, пока кто-нибудь не подсунет агенту нужный текст.🤖

Атакуют здесь не код, а контекст. Инструкцию прячут в письме, документе или комментарии, и модель выполняет её как свою.

Такие атаки уже случались:
🔻EchoLeak: уязвимость в Microsoft 365 Copilot позволяла атакующему получить доступ к данным через специально сформированное входящее письмо — пользователю даже не нужно было его открывать 
🔻 CamoLeak: скрытый комментарий в пулл-реквесте заставлял GitHub Copilot вытаскивать код из приватных репозиториев
🔻 SearchLeak: ещё один сценарий утечки через контекст, разобран там же

☝🏻Корень проблемы в том, что LLM нельзя считать доверенным компонентом. Она не отличает данные от команд, а логика её решений остаётся чёрным ящиком. Поэтому защищать нужно не саму модель, а всё, что её окружает.

«Лаборатория Касперского» свела это в руководство «Безопасность ИИ-агентов через призму кибериммунитета». Внутри только схемы и факты:
🔻 разборы реальных атак через контекст
🔻 почему LLM не может быть доверенной частью системы
🔻 как изолировать агента и контролировать его инструменты

Пригодится архитекторам, разработчикам и руководителям, то есть всем, кто сейчас подключает агентов к живым данным. 

📥 Скачать руководство