Через ИИ-агентов можно передать вредоносную команду

Исследователь показал, что вредоносную инструкцию можно передать не напрямую модели, а через цепочку ИИ-агентов. В таком сценарии один агент принимает команду как обычную рабочую задачу и пересылает её дальше, а следующий может выполнить опасное действие, например отправить несанкционированный сетевой запрос или раскрыть данные. Особенно уязвимыми оказываются связки, где агенты и сервисы взаимодействуют через MCP и другие внутренние протоколы.

За последние месяцы похожие проблемы признали Google, Rapid7 и ещё несколько организаций. Эксперты предупреждают: данные, пришедшие от языковой модели, нужно считать таким же недоверенным вводом, как запрос от внешнего пользователя.

@forgeeks | @forgeeksflash