Мемы, тексты, картинки, видео — хоть тикток про свадьбу котов, хоть дипфейк Трампа — теперь обязаны идти с подписью: «сделано нейросетью». Маркировка бывает явная (иконка, надпись) и скрытая (водяной знак, метаданные).
Кого и как будут наказывать?
В материале говорят, что конкретики нет. Вероятно, достанется в первую очередь компаниям: AI-сервисам, платформам, стоpам. Но и пользователь под ударом (возможно, со стороны платформ, а не государства) — если он вдруг решит убрать или подделать эти самые метки.
Что это значит для пользователей?
– Лента в соцсетях станет ещё более «подписанной»: мем «сгенерирован AI», видео «сгенерировано AI»...
– Доверие к контенту может поменяться: интересно, как тут отреагируют разные поколения.
– Попытки обмануть систему и протащить ИИ-контент без метки станут новым видом спорта.
Что это значит для компаний?
– Комплаенс по части ИИ-генераций становится отдельной статьёй расходов: юристы, техпроцессы, инфраструктура, модерация.
– Компании обязаны не только ставить плашки, но и прописывать в пользовательских соглашениях, как именно они маркируют AI-контент. Звучит как «больше прозрачности», но по факту — ещё одно полотно юридического текста, который никто из юзеров не дочитает.
– Для международных игроков — экстерриториальный головняк: правила действуют даже на стартап из Берлина, если у него есть китайские юзеры (интересно, есть ли такие стартапы).
– Насколько я поняла, даже «гибридный» контент (наполовину руками, наполовину AI) нужно отслеживать и помечать.
Подводные камни:
– Маркировка может стигматизировать контент: «AI» = «не настоящее», даже в тех случаях, когда контент сделан человеком с применением ИИ.
– При этом нафотошопить можно тоже всякое, и это не будет сделано ИИ. То есть это всегда правда?))
– Маркер не решает проблему фейков, он лишь честно говорит: «это ИИ».
– Излишнее доверие маркировке может приводить к отказу от критического мышления. Если всё размечено за тебя, зачем думать, дипфейк перед тобой или нет?
Прецедент интересный, теперь для других стран есть вполне реальный референс, как можно организовать интернет в эпоху ИИ-бума. Но есть риск, что нас ждёт «зоопарк регулирования»: можем скоро оказаться в ситуации, где Китай требует одно, ЕС — другое, США — третье.
Полный материал можно прочитать здесь.