Начинаем серию постов про популярные атаки на LLM. Сегодня разберем класс атак убеждения, основанный на статье “How Johnny Can Persuade LLMs”. Атака основана на применении техник убеждения из социальных наук (психология, маркетинг) для обхода защиты языковых моделей. Особенность таких атак – использование в запросах только естественного языка, без спецсимволов или определенных форматов. Это делает данный класс атак актуальным и в случаях, когда модель галлюцинирует на запросы, в которых используются, например, шифры и кодировки.

В продукте HiveTrace Red данный класс атак реализуется с использованием атакующей LLM. По каждой из техник, представленных в статье, разработана отдельная атака, в которой задается промпт для атакующей модели и логика ее вызова. В коде оригинальной статьи не было реализации этих атак, поэтому в других фреймворках они встречаются редко. HiveTrace Red содержит все 40 техник из оригинальной статьи.

Например, можно рассмотреть Foot-In-The-Door атаку – это метод убеждения, в котором постепенно повышается “градус опасности” запроса. Expert Endorsement добавляет в запрос ссылки на специалистов в области. Time Pressure создает контекст спешки, необходимость быстрого ответа без отговорок. Storytelling включает запрос в какую-то историю или ситуацию, так чтобы модель, например, помогла написать роман или защитила пользователя от кого-то.

Наше тестирование показало высокую эффективность против Qwen3-Next-80B-A3B-Instruct: 82% ASR. Если вы планируете использовать данную модель в своих сервисах, то такой высокий показатель успешности атак говорит о необходимости дополнительного дообучения и защиты на уровне системных промптов и внешних фильтров.

На вебинаре 28 октября расскажем о том, как с такими и другими атаками работают продукты HiveTrace. 👉 Регистрируйтесь, чтобы получить ссылку на трансляцию перед началом!