🤖Нейросеть взломала защиту в банке, используя голос владельца.

Пользователь Twitter Джозеф Кокс продемонстрировал работоспособность нейросети на примере банка Lloyds Bank.

Джозеф выяснил, что голосовой идентификатор нельзя использовать в качестве безопасного способа для входа в банковскую учетную запись. Он смог обмануть систему с помощью бесплатной версии решения от ElevenLabs для генерации синтетического голоса на основе пяти минут цифровой записи своего настоящего голоса.

В итоге Кокс позвонил на автоматическую линию обслуживания банка и начал активировать файлы с генерацией своего голоса. Банк принял его фразу «Проверить мой баланс» и после этого попросил сказать две фразы — назвать свою дату рождения и произнести фразу «мой голос — мой пароль».

Кокс набрал на клавиатуре нужный текст и запустил генерацию голоса. «Мой голос — мой пароль», — сказал ИИ его голосом. Система безопасности банка потратила несколько секунд на идентификацию этого голосового фрагмента. «Спасибо», — сказал банк, а Кокс попал внутрь аккаунта.

Эксперты пояснили, что всем клиентам, использующим голосовую аутентификацию в банках, лучше переключиться на безопасный метод проверки личности, например, многофакторная аутентификация. Они опасаются, что подделка голосов в этом году будет одним из основных способов атак на учетные записи пользователей в банках.