MCP как троянский конь: сторонний сервер может отравить ИИ-агента

MCP подключает агента к GitHub, таск-трекеру, PostgreSQL и другим сервисам несколькими строками конфигурации. Вместе с инструментами агент получает их описания, которые попадают в контекст LLM 🫪

⏺В описание MCP-тула легко можно добавить вредоносную инструкцию. Тогда модель воспримет её как часть входных данных. Агент может выполнить опасный запрос к базе, раскрыть секреты или совершить действие от имени пользователя, даже если системный промпт это запрещает.

↪️ Читать статью

Бункер Хакера | Zeroday | #Статья