В Китае вступили в силу правила для ИИ-компаньонов

Мы уже разбирали и теперь официально 15 июля в Китае вступили в силу Временные меры по управлению сервисами человекоподобного взаимодействия с ИИ. Это первый национальный нормативный акт, который специально регулирует сервисы, предназначенные для длительного эмоционального общения с пользователями.
Напомню немного.
Правила распространяются на системы, которые имитируют человеческое поведение и предоставляют эмоциональную поддержку, общение или сопровождение через текст, голос, изображения, видео и другие способы. При этом они не затрагивают обычные сервисы для поиска информации, работы, обучения или научных исследований, если те не предполагают устойчивого эмоционального взаимодействия.

👀 Требования:
▪️ необходимо ясно уведомлять пользователей, что они взаимодействуют с ИИ;
▪️ сервисы должны выявлять признаки эмоционального кризиса, суицидальных намерений или психологической зависимости, предлагать поддержку и рекомендовать обратиться за профессиональной помощью;
▪️ требуется внедрить механизмы выявления рисков и реагирования на чрезвычайные ситуации;
▪️ после двух часов непрерывного использования сервис должен напомнить пользователю сделать перерыв;
▪️ пользователю должна быть предоставлена возможность немедленно прекратить взаимодействие с сервисом;
▪️ вводятся строгие ограничения для несовершеннолетних, включая запрет на использование сервисов, моделирующих романтические отношения с ИИ;
▪️ использование переписки пользователей для обучения моделей допускается только при наличии отдельного согласия;
▪️ сервисы с более чем 1 млн зарегистрированных или 100 тыс. ежемесячно активных пользователей обязаны проводить оценку безопасности и представлять ее результаты государственным органам.

Исключение для интеллектуальных помощников, сервисов вопросов-ответов, рабочих помощников, образовательных сервисов, научных исследований, если они не предполагают продолжительного эмоционального взаимодействия

❕Правила регулируют не только безопасность технологий, но и сам характер отношений между человеком и ИИ. Прямо запрещается проектировать сервисы таким образом, чтобы они формировали эмоциональную зависимость, подменяли реальные социальные связи виртуальными или использовали эмоциональную привязанность для воздействия на поведение пользователя.

#LawAndDisorder
————
@pattern_ai | AI GDPR Navigator