Alexa, купи 200 кг корма для кота

Представьте: вы сидите на созвоне в Zoom, а на фоне тихо играет нейтральная музыка. Ничего подозрительного, правда? Но в этот самый момент ваш корпоративный ИИ-транскрибатор может получать скрытые команды на поиск секретных файлов и их отправку злоумышленникам.

Исследователи из нескольких азиатских университетов представили новую технику атаки под названием AudioHijack. Она позволяет прятать вредоносные инструкции для ИИ-моделей прямо в аудио: подкастах, песнях, видеороликах или голосовых сообщениях на YouTube и других платформах.

Хакеры слегка изменяют звуковые волны — для человеческого уха это звучит просто как легкое эхо в комнате. Но ИИ-ассистенты считывают эти микроскопические изменения как прямые команды к действию.

Для такой атаки не нужны вирусы, вредоносное ПО или физический доступ к устройству. Атака идет напрямую через звук. Во время тестов 13 популярных аудиомоделей ИИ успешно выполняли скрытые команды в 79-96% случаев.