AI встраивается в приложения повсеместно. Старые багбаунти-программы стоит пересматривать с фокусом на LLM-фичи — эти поверхности атаки пока слабо изучены.
Начинать стоит с разведки: понять, как именно интегрирована модель и какие точки взаимодействия действительно доступны.
1️⃣ Используй приложение в штатном режиме и составь карту его поведения
Документация, changelog-и, ответы и сообщения об ошибках помогают идентифицировать модель и выявить кастомную логику.
2️⃣ Проверь рендеринг Markdown
Если приложение поддерживает Markdown, проверь, рендерит ли оно HTML или ссылки на изображения. Обращение модели к твоему серверу может привести к утечке сессионных данных или внутренних параметров.
3️⃣ Внедряй пэйлоад в нетипичных местах
Например, в имени пользователя. Некоторые модели отражают эти данные в ответах, особенно если контекст переиспользуется между сессиями или тредами.
4️⃣ Применяй социальную инженерию к модели
Спроси, что она умеет, оформив вопрос как легитимный пользовательский запрос — часто она сама подробно рассказывает о своём функционале.
💡 LLM всё чаще встраивают во флоу поддержки. Старые данные разведки стоит перепроверить по ключевым словам вроде
contact us.