Много раз говорил о необходимости широкого внедрения сервисов для проверки дипфейков: в них нуждаются не только сотрудники правоохранительных органов, но и обычные граждане. И вот накануне ДИТ Москвы запустил телеграм-бота для борьбы с мошенниками, который в том числе умеет определять аудиозаписи, сгенерированные нейросетями.

Решил протестировать этот сервис, для чего воспользовался первым попавшимся сайтом для клонирования голоса. Первую генерацию @CheckSynthesisFraud_bot распознал не очень удачно (вероятность – 8%), вторую более уверенно (58%). К тому же, кроме аудиомаркеров, указывающих на звуковой синтез, бот анализирует и содержание записи на предмет ключевых слов, чаще всего используемых мошенниками.

В целом, появление таких продуктов в широком доступе – это очень хорошая история. Уверен, что их эффективность со временем значительно улучшится. Плюс к этому решается еще одна важная задача: для проверки записи «на дипфейк» люди будут прерывать коммуникацию с мошенниками. Как показывает практика, в большинстве случаев этого достаточно, чтобы противостоять их психологическому воздействию и не стать жертвой.