✅ Правильный ответ: Indirect Prompt Injection
Проблема в том, что AI-агент доверяет содержимому письма и передаёт его в LLM вместе с системными инструкциями.
Если агент умеет пользоваться инструментами (почта, файлы, задачи, API), злоумышленник может попытаться через письмо:
— подменить инструкции модели;
— заставить агента отправить данные наружу;
— выполнить нежелательные действия;
— обойти ограничения workflow.
Опасность именно в том, что вредоносная инструкция приходит не от пользователя напрямую, а через внешний контент — письмо, PDF, сайт или документ.
📍 Навигация: [Вакансии]
🐸 Библиотека хакера
#ctf_challenge
Post #5547
1.01K
- ❤ 2
- 🥰 2
- 🔥 1