Разъяснения высшей судебной инстанции КНР о применении ИИ

7 сентября Верховный народный суд КНР выпустил разьяснительные положения о рассмотрении споров, связанных с ИИ.

Из практических положений документа интересны несколько.

1. Обучение моделей на персональных данных. Использование для обучения информации, которую человек сам сделал публичной либо которая была опубликована законно, в разумных пределах не считается нарушением прав на персональные данные, если человек прямо не возражал. Но для обработки, существенно затрагивающей его права, потребуется согласие. При оценке допустимости суд должен учитывать цель обработки, функцию модели, чувствительность данных и контекст, в котором информация первоначально была опубликована.

Это довольно важная конструкция: китайский подход не исходит из презумпции, что любые публичные персональные данные автоматически закрыты для обучения.

2. Дипфейки и клонирование голоса. Создание узнаваемого цифрового образа человека без его согласия может нарушать право на имя и изображение. Использование голоса человека как тренировочного материала для генерации узнаваемой синтетической речи также может повлечь ответственность. Отдельно регулируется цифровое «воскрешение» умерших: их родственники смогут требовать защиты имени, изображения и репутации умершего.

3. Ответственность ИИ-платформ. Сам факт того, что модель сгенерировала незаконный контент, не означает автоматической ответственности провайдера. Но после получения обоснованного уведомления правообладателя сервис должен принять меры, например, прекратить генерацию соответствующего контента или заблокировать определенные инструкции. Если этого не сделать, появляется основание для ответственности. Пользователь, который намеренно добивается от модели незаконного результата с помощью промптов, отвечает самостоятельно.

4. Авторское право и обучение моделей. В спорах о нарушении авторских прав суды будут учитывать источник тренировочных данных, устройство сервиса, участие различных сторон и предпринятые ими меры защиты. Если разработчик утверждает, что нарушения не было, суд может потребовать сведения об источниках тренировочных данных, процессе обучения и принципах работы модели.

5. Open source разработчики получают safe harbour защиту. При определении ответственности разработчиков OSS суды должны учитывать лицензию, раскрытие информации и меры безопасности. Если разработчик бесплатно предоставил отдельный модуль, описал его функции и риски, а нарушение возникло уже при использовании модуля третьим лицом, суд может освободить первоначального разработчика от ответственности.

6. ИИ и патенты. Изобретателем остается человек. Использование ИИ не мешает признанию человека изобретателем, если именно он внес творческий вклад в существенные признаки изобретения. Одновременно изобретения, совершенные с ИИ, в принципе могут патентоваться, если отвечают обычным критериям технического решения.

7. ИИ в суде. Если сторона использовала ИИ при подготовке процессуального документа или подборе судебной практики, она обязана проверить достоверность законов, решений и других материалов, сообщить суду об использовании ИИ и самостоятельно отвечает за точность представленного.

Какие интересные тренды можно заметить?

1) Регулирование AI смещается от абстрактных принципов к распределению ответственности к конкретным нарушениям. Вопрос в том, кто отвечает на конкретном участке цепочки: разработчик модели, провайдер сервиса, поставщик продукта или пользователь.

2) Происхождение датасета, история обучения модели, архитектура системы, предупреждения о рисках и технические логи могут оказаться столь же важны в процессе, как договоры и переписка. Для разработчиков это постепенно превращает traceability из хорошей инженерной практики в юридическую необходимость.

3) Новые технологические споры встраиваются в существующие конструкции. Специальное законодательство может появиться позже, но судебная практика формируется уже сейчас.

4) Верховный суд отдельно предлагает учитывать различия между general-purpose и специализированными моделями, open-source и closed-source решениями, а также реальные возможности каждого участника контролировать риск.

И, пожалуй, главное: следующий этап ИИ-регулирования - это регулирование всей цепочки создания и использования ИИ: от датасетов до конечного пользовательского результата. Собственно, считаю это самым правильным.