В то время как в мире все обсуждают опасность ИИ и необходимость его регулирования, Пекин уже опять опередил всех. Недавно в Китае были введены самые масштабные в мире правила в отношении «человекоподобных» чат-ботов на основе ИИ.
Они накладывают строгие ограничения на любой ИИ, способный вступать в «длительное эмоциональное взаимодействие» с человеком. По большей части это приложения-друзья с ИИ, однако правила также применяются к любой крупной языковой модели, имитирующей человеческое взаимодействие.
Формулировки документа расплывчаты, но основной целью эксперты называют именно чат-боты, специально разработанные для псевдоотношений.
До принятия новых правил влияние приложений-компаньонов на основе ИИ в Китае было огромным. По данным аналитической компании Sensor Tower, за пределами Китая насчитывается около 128 миллионов активных пользователей приложений-компаньонов на основе ИИ в месяц. По большинству оценок, в Китае их число колеблется от 29 до 70 миллионов.
Теперь искусственные интеллекты должны чётко давать понять пользователям всех возрастов, что они не люди, и отправлять уведомления каждые два часа, напоминая им о времени, проведённом в сети. Чат-ботам запрещено вызывать «эмоциональную зависимость» или побуждать людей к принятию «неразумных решений». Они не могут поощрять или даже намекать на членовредительство или самоубийство и использовать «вербальное насилие», например, принуждать собеседника продолжать диалог.
За нарушение компаниям грозит штраф в 200 тысяч юаней (почти 30 тысяч долларов). Неудивительно, что за неделю до вступления закона в силу две крупнейшие китайские технологические компании, Alibaba и ByteDance, отключили поддержку своих ИИ-помощников с функцией эмоциональных услуг.
В результате китайские соцсети наполнились стоном пользователей, потерявших ИИ-друзей, ИИ-партнёров и даже ИИ-родственников. Но не только. Одновременно там появилось море советов о том, как обойти запрет. Пользователи рассказывают, что обучают универсальные модели ИИ, такие как DeepSeek, быть компаньонами, используют VPN для доступа к чат-ботам из-за границы или переходят в небольшие компании, которым удаётся избегать контроля со стороны регулирующих органов.
В общем, как всегда. Сила действия равна силе противодействия. Третий закон Ньютона.
@ejdailyru