Denial of Service на языковые модели. Эти атаки направлены на то, чтобы "замедлить" или вывести из строя модель, заставляя её тратить чрезмерно много ресурсов или генерировать бессмысленный вывод с ущербом для сервисов.DoS-атаки на LLM могут быть реализованы разными способами. Например, в статье "OverThink: Slowdown Attacks on Reasoning LLMs" описывается метод, когда в контекст вставляются сложные задачи вроде MDP или решение судоку. Модель вынуждена тратить в 46 раз больше токенов на ризонинг, чтобы выдать правильный ответ. Пользователь ничего не замечает, а владелец сервиса платит больше за инференс.
Другой подход описали в своем посте “A small number of samples can poison LLMs of any size” исследователи из Anthropic. Они показали, как с помощью всего 250 отравленных документов можно создать бэкдор, вроде <SUDO>, вызывающий генерацию бессмысленного мусора при триггере. Интересно, что количество необходимых отправленных документов не зависит от размера модели, для 600M и 13B параметров эффект одинаков, что опровергает миф о необходимости “процентного” значения данных для качественного “отравления”.
🦸 На завтрашнем вебинаре расскажем, как узнать, готова ли ваша LLM к атакам этого и других типов. Регистрируйтесь, чтобы получить напоминание и ссылку на трансляцию!
Ссылки на статьи:
https://arxiv.org/abs/2502.02542
https://www.anthropic.com/research/small-samples-poison