Опубликована первая версия проекта Кодекса практик по обеспечению прозрачности синтетического контента

Друзья, что мы больше всего любим на этом канале? Правильно – кодексы практик 🤩. Не успели мы отойти от Кодекса практик для ИИ общего назначения, а уже на подходе новый документ – Кодекс практик по обеспечению прозрачности контента, созданного с помощью ИИ (Code of Practice on Transparency of AI-Generated Content). Отдельно отмечу, что это пока что лишь первый драфт, финальный документ мы увидим ближе к лету.

Что это за кодекс?

Статья 50 Регламента ЕС по ИИ возлагает на Европейский AI Office обязанность по разработке кодексов практик, которые помогают операторам систем и моделей ИИ соблюдать законодательные требования. В данном случае кодекс направлен на соблюдение требований главы VI Регламента о прозрачности для отдельных операторов систем и моделей ИИ.

Из чего состоит кодекс?

Документ состоит из двух разделов: первый – для поставщиков, второй – для эксплуатантов, что позволяет совмещать разные технические и визуальные требования внутри всей цепочки поставки.

Раздел 1: Правила для поставщиков (providers) систем ИИ

Главная цель – внедрить машиночитаемую маркировку и обеспечить детектируемость синтетического контента.

Основные обязательства:

- Поставщики должны внедрить многоуровневую маркировку: метаданные с цифровой подписью, водяные знаки, фингерпринтинг/логирование. Маркировка должна фиксировать всю цепочку происхождения контента (provenance chain) – от полностью созданного системами ИИ до частично обработанного с помощью систем ИИ. Для открытых моделей маркировка внедряется на уровне параметров модели.

- Дополнительно внедряются методы форензического обнаружения (механизмы, определяющие генерацию даже без активной маркировки, анализируя артефакты генерации).

- Поставщики должны предоставлять бесплатные инструменты верификации (API/интерфейсы) и запрещать удаление маркировки в своих политиках. Также требуется тестирование методов в реальных условиях и обучение персонала.

Раздел 2: Правила для эксплуатантов (deployers) систем ИИ

Главная цель – сделать дипфейки и сгенерированный текст, опубликованный с целью информирования общественности, легко распознаваемыми для граждан.

Основные обязательства:

- Эксплуатанты должны ставить видимую метку на контенте. Кодекс вводит двухуровневую классификацию контента: полностью сгенерированный (fully AI-generated) и ИИ-ассистированный (AI-assisted).

- Пока единая метка ЕС не выработана – используется аббревиатура на языках стран-членов (AI, KI, IA). В перспективе должна быть создана интерактивная иконка с информацией о том, что именно сгенерировано. В скриншотах можно посмотреть, какие примеры рассматриваются рабочими группами.

- Для дипфейков критерии зависят от модальности: постоянная иконка для видео, звуковой дисклеймер для аудио, неинтрузивное размещение для художественных произведений.

Важное исключение для текстов: если контент прошел человеческий редакторский контроль и за публикацию несет ответственность конкретное лицо, а видимая маркировка не требуется.