Атаки Denial of Wallet истощают бюджеты ИИ: как защититься

Компании столкнулись с проблемой перерасхода бюджетов на ИИ-системы из-за автономных агентов. Стоимость автоматизации процессов с помощью ИИ варьируется и непредсказуема, что приводит к значительному увеличению трат токенов.

Злоумышленники могут использовать внешние данные, обрабатываемые ИИ, для атак, нацеленных на повышенный расход токенов. Это приводит к финансовым потерям, сравнимым с DDoS-атаками, но направленным на бюджеты ИИ. Gartner оценивает разрешение одного запроса пользователя к поддержке через LLM примерно в $3, что открывает возможности для атак с целью исчерпания бюджета.

Для защиты рекомендуется отказаться от использования ИИ без необходимости, ограничивать права и инструменты автономных агентов, а также устанавливать строгие лимиты расхода токенов с системой оповещения. Важно проверять внешние данные, поступающие в ИИ, чтобы предотвратить атаки, провоцирующие избыточные вычисления.

ⓘ Что такое Denial of Wallet
Denial of Wallet — это тип атаки, направленный на исчерпание бюджета жертвы, выделенного на использование ИИ-систем. Атакующие провоцируют языковые модели на избыточные вычисления, что приводит к неконтролируемому расходу токенов и финансовым потерям.

Источник: Kaspersky Daily
@cbunit