🕵️‍♂️В России появится сервис для маркировки ИИ-контента и его выявления.

«Яндекс» совместно с Институтом системного программирования Российской академии наук (ИСП РАН) разрабатывает систему маркировки для фото-, видео- и аудиоконтента, сгенерированного искусственным интеллектом (ИИ), в частности нейросетью «Яндекса» для генерации картинок «Шедеврум».

Речь идет не о каком-то видимом «водяном знаке», который можно было бы закрасить или обрезать, а о микроскопическом артефакт‑маркере, который был бы заметен анализатору, но не человеческому глазу. Для того чтобы пользователи могли проверить, было ли изображение сгенерировано с помощью ИИ, «Яндекс» разрабатывает сервис по распознаванию маркировки. Технология может быть стандартизирована и выложена в опенсорс для всех участников рынка.

Такая технология включает в себя два направления исследований. Во-первых, это стеганографические метки, когда в изображения, аудиодорожки или кадры видео внедряются алгоритмические паттерны, которые незаметны человеку, но обнаруживаются специальными инструментами, отметил Бедеров. Во-вторых, технология предполагает выявление артефактов генерации. Речь идет о статистических следах в контенте, остающихся при работе нейросетей.

В настоящее время дипфейки выявляются криминалистами и специалистами по информационной безопасности вручную при анализе конкретного видео. Они смотрят на такие признаки генерации, как муар вокруг изображений, дрожание, запаздывание речи, склейки, нарушение потоков аудиозаписи и особенности гистограмм.