ИИ-агенты под контролем: строим архитектуру безопасности от промптов до цепочки поставок

ИИ-агент с доступом к почте, базам данных и облачной инфраструктуре — это привилегированный пользователь, которого можно атаковать через обычный текст. Доля корпоративного ПО с агентным ИИ вырастет с менее чем 1% в 2024 году до 33% к 2028-му. Площадь атаки растёт быстрее, чем успевают появляться защитные инструменты.

Руководитель развития облачных AI-сервисов ITGLOBAL.COM разобрал карту угроз по OWASP и MITRE ATLAS: промпт-инъекции, эксфильтрация данных через цепочку плагинов, атаки на MCP-серверы — и что закладывать в архитектуру уже на этапе проектирования, а не после первого инцидента.

Читайте на АМ Live