👥ИИ способен обмануть 99% систем аутентификации по голосу.

Голосовая аутентификация обычно используется центрами обработки вызовов, банками, правительственными учреждениями и многими другими организациями. Но атаковать такие системы с помощью ИИ – обычно используя машинное обучение для имитации кого–либо и аутентификации под этим именем - стало проще, и исследователи теперь заявляют о 99-процентном успехе нарушения такой безопасности при правильных обстоятельствах.

Аутентификация голоса основана на том факте, что голос каждого человека уникален благодаря физическим характеристикам, таким как размер и форма голосового тракта и гортани, а также социальным факторам, таким как акцент.

Эти системы аутентификации фиксируют эти нюансы в голосовых отпечатках. Хотя звук, генерируемый ИИ, может довольно реалистично имитировать голоса людей, алгоритмы ИИ имеют свои собственные отличительные артефакты, по которым аналитики могут определить искусственно созданные голоса. Разработанная исследователями методика пытается устранить эти особенности, сохраняя при этом общий звук.

Исследователи обучили свою систему на образцах высказываний 107 ораторов, чтобы получить лучшее представление о том, что заставляет речь звучать по-человечески. Чтобы протестировать свой алгоритм, они создали несколько состязательных вариантов, чтобы обмануть системы аутентификации – с вероятностью успеха 72%. Против некоторых систем они добились успеха 99% после шести попыток.