Минцифры России рассматривает возможность создания специального сервиса, который позволит пользователям проверять, создан ли тот или иной контент при помощи искусственного интеллекта

Заместитель главы ведомства Александр Шойтов отметил, что система будет работать по принципу, схожему с уже существующим сервисом "Мультисканер", который используется для выявления вирусов. Пользователь сможет отправить файл на проверку и получить заключение о его подлинности

По словам Шойтова, подходы к выявлению ИИ-контента уже существуют, но пока не дают стопроцентной гарантии. Технологии постоянно совершенствуются, и между методами генерации и способами обнаружения таких материалов продолжается своеобразная "гонка вооружений"

Основная проблема, что ИИ-контент представляет угрозу не только для медиа и социальных сетей, где его можно вовремя отфильтровать, но и для сферы персональной коммуникации

Наиболее опасными считаются случаи использования дипфейков в мошеннических целях, когда злоумышленники, имитируя голоса или образы знакомых людей, обманывают пользователей

Поэтому разрабатываемые инструменты должны учитывать технологические особенности различных каналов коммуникации и обеспечивать своевременное реагирование на новые формы цифрового обмана

Очевиден масштаб вызовов, связанных с развитием генеративного искусственного интеллекта. Так что создание доступных сервисов проверки подлинности контента может стать важным шагом к формированию цифровой среды, где есть средства защиты от манипуляций и дезинформации