📲Мошенники используют ИИ для имитации голосов родственников своих жертв.

Мошенники стали чаще применять технологии имитации голоса на базе искусственного интеллекта для шантажа родственников жертв. По данным Федеральной торговой комиссии США (FTC), в 2022 году власти получили более 36 000 сообщений о том, что людей обманули мошенники, выдающие себя за друзей и членов семьи.

Достижения в области искусственного интеллекта предоставили мошенникам новые инструменты воспроизведения голоса. Множество онлайн-сервисов на базе ИИ могут преобразовать короткий аудиофайл в копию голоса, позволяя мошеннику заставить его «произносить» любой текст.

Эксперты заявили, что регуляторы, правоохранители и суды плохо оснащены средствами предотвращения подобного вида мошенничества. Также большинство жертв не имеет зацепок, позволяющих идентифицировать преступника.

Полиции достаточно сложно отследить звонки аферистов, у судов также мало юридических прецедентов для привлечения компаний, создающих подобные ИИ-инструменты.

По словам эксперта, искусственный интеллект может анализировать уникальные характеристики голоса, включая возраст, пол и акцент. Также современные технологии способны найти похожую речь в больших базах данных и закономерности. Затем ИИ-инструменты воссоздают высоту тона, тембр и отдельные звуки голоса человека, чтобы создать похожий общий эффект. По словам эксперта, для этого требуется короткий образец аудио, взятый из социальных сетей и других публичных площадок в интернете.

Эксперты считают, что суды должны привлекать ИИ-компании к ответственности, если производимые ими продукты наносят вред. Судья Верховного суда США Нил М. Горсач, заявил, что правовая защита, защищающая социальные сети от судебных исков, не должна распространяться на работы, созданные ИИ.