Безопасность ИИ-агентов в автономной разработке: атаки и новые методы защиты 🔐

Автономные ИИ-агенты стали полноправными участниками цикла разработки — они пишут код, запускают пайплайны и взаимодействуют с внешними сервисами и контекстом. Вместе с этим в агентной разработке возник новый класс угроз: prompt-инъекции, компрометация MCP-серверов, атаки на межагентное доверие 🤖

В докладе Ратмир Самарханов, старший разработчик в Yandex Infrastructure, и Андрей Погирейчик, разработчик в Yandex Infrastructure, разберут архитектуру агентных систем в контексте ADLC, покажут реальные векторы атак на каждый компонент и представят защитный подход на основе gateway, guardrail и процессов red teaming 🛡

Ждём вас на ДевФест 🧢