Как маркировать аудио, созданное ИИ?

Еврокомиссия опубликовала доклад "Technical solutions for marking and detecting AI-generated audio content in the context of Article 50(2) AI Act".
Оказалось, что требования AI Act к маркировке не сможет выполнить одна технология. Нужна комбинация метаданных, водяных знаков и инструментов проверки происхождения контента, т.е. идеального решения пока нет.

👀 Сейчас используются:
1️⃣ Метаданные, которые позволяют хранить подробную информацию об источнике аудио, но их можно удалить или изменить.

2️⃣Цифровые водяные знаки сохраняются внутри аудиосигнала и лучше переживают обработку файла, значит хорошо использовать для сохранения маркировки после распространения файла. Однако пока остаются проблемы со стандартизацией и совместимостью между платформами.

3️⃣ Аудиоотпечатки хорошо работают для проверки уже известных записей, но не помогают выявлять новый ИИ-контент.

4️⃣ Анализ следов конкретных ИИ-моделей способен находить синтетическое аудио даже без маркировки, но требует постоянного обновления и легко устаревает по мере развития моделей.

Авторы предлагают использовать многоуровневую систему, где используются сразу несколько механизмов, т.е. объединять метаданные, водяные знаки и методы выявления ИИ-контента. Кроме этого:
▪️ развивать открытые стандарты совместимости;
▪️разрабатывать системы, где метаданные, водяные знаки, аудиоотпечатки и методы выявления ИИ дополняют друг друга, чтобы потеря одного слоя не делала проверку невозможной.
▪️ создавать доверенные реестры и инфраструктуру проверки происхождения контента, через которые платформы, регуляторы и другие участники смогут автоматически проверять маркировку и происхождение аудио;
▪️запускать открытые наборы данных и тесты для оценки устойчивости решений;
▪️ внедрять сертификацию технологий маркировки.

❕Напоминаем, что общие требования ст. 50 AI Act о прозрачности и маркировке ИИ-контента начинают применяться со 2 августа 2026 года, для обязанности по машиночитаемой маркировке синтетического контента (ст. 50(2) AI Act) предусмотрен переходный период до 2 декабря 2026 года в рамках пакета упрощений требований Digital Omnibus. Именно поэтому сейчас активно обсуждаются технические решения для маркировки и выявления аудио, созданного ИИ.

📌 Cистема маркировки контента, созданного ИИ (добровольный кодекс правил ЕС);
Знак ЕС для маркировки контента, сгенерированного ИИ;

#LawAndDisorder #AIShelf #UXWatch
————
@pattern_ai | AI GDPR Navigator