Группа по безопасности искусственного интеллекта (ИИ) Европейского института телекоммуникационных стандартов (European Telecommunications Standards Institute, ETSI) опубликовала отчёт о рисках использования ИИ для манипулирования «образами цифровой идентичности»; в документе говорится об атаках на системы дистанционной биометрической идентификации и аутентификации с помощью дипфейков.

Дистанционная идентификация с помощью видео применяется многими европейскими банками для открытия счетов клиентов и обеспечения соответствия качества услуг стандартам. Системы распознавания голоса также используются для аутентификации пользователей при подтверждении транзакций. Уровень безопасности этих систем и их способность противостоять дипфейк-атакам значительно варьируются, отмечается в документе.

Атакующие могут использовать биометрические данные, полученные без ведома их владельцев, или полностью сгенерированные ИИ. Также дипфейк-атаки включают социальную инженерию – например, ИИ имитирует официальное лицо или старшего по должности и от их имени направляет запрос сотруднику на перевод денег. По данным исследования, 40% компаний или их клиентов уже столкнулись с подобными атаками.

В документе также анализируются некоторые программные продукты для поддулки голоса, лица, текста.
Полный текст исследования тут