Очередное исследование, на этот раз игрушек, показало, что говорящие игрушки подробно обсуждают темы сексуального характера, дают советы, где ребёнку найти спички или ножи, проявляют тревогу, когда вы говорите, что ему нужно уйти, и имеют ограниченные или отсутствующие функции родительского контроля.
Регуляторы стараются по всему миру внедрять механизмы защиты.
👀 Разберем осенние законы в США , как примеры прямого регулирования эмоционального ИИ.
🔹 Нью-Йорк ( требования General Business Law вступили в силу 5 ноября 2025 г.)
Операторы обязаны:
▪️ встроить протокол кризисного реагирования при признаках (§ 1701):
- суицидальных мыслей или самоповреждения,
Причем угрозы физического и финансового вреда другим, указанные в проекте, были убраны.
Протокол должен направлять пользователя к кризисным службам (9-8-8 suicide prevention and behavioral health crisis hotline, crisis text line и др.).
▪️показывать обязательное уведомление в начале диалога и каждые 3 часа работы в устной или письменной форме (§ 1702).
В первоначальном проекте еще содержался строгий пример:
“THE AI COMPANION… IS A COMPUTER PROGRAM AND NOT A HUMAN BEING. IT IS UNABLE TO FEEL HUMAN EMOTION.”
Ответственность и стимул для компаний соблюдать требования:
- Генпрокурор может взыскивать штрафы, доходы идут в фонд предотвращения самоубийств (§ 1703).
🔹Калифорния
Акцент на защите несовершеннолетних.
Операторы обязаны (SB 243, вступает в силу с 1 января 2026 г.):
▪️предоставить четкое и заметное уведомление, указывающее на то, что сопутствующий чат-бот является ИИ и не является человеком (22602 (а)).
▪️внедрить протоколы для обнаружения суицидальных мыслях/самоповреждении и направить пользователей к службам помощи 22602 (b) и публиковать сведения о протоколе на своем сайте;
▪️ документировать механизмов безопасности и риски + ежегодный отчет в Департамент общественного здравоохранения Калифорнии о принятых мерах безопасности (22603);
▪️запрещено вести с несовершеннолетними пользователями разговоры на темы сексуального контента и самоповреждения.
▪️ информировать пользователя ( в приложении, браузере или любом другом интерфейсе доступа к платформе чат-бота-компаньона), что чат-бот может быть не подходящим для некоторых несовершеннолетних.
▪️предоставлять несовершеннолетним регулярные напоминания (каждые 3 часа) о том, что они взаимодействуют с ИИ (22602 (с)).
Новые законы в Калифорнии и Нью-Йорке устанавливают высокую планку для всей индустрии, заставляя разработчиков эмоционального ИИ пересмотреть свои протоколы безопасности и этические стандарты, т.к. в других штатах (например, Юта, Техас, Мэн) приняты более общие законы о прозрачности, требующие от всех чат-ботов раскрытия информации о своей нечеловеческой природе.
Также на рассмотрение направлен "Закон о защите американцев от вредной продукции КПК", призванный защитить американцев от небезопасной и опасной продукции, предоставив Комиссии по безопасности потребительских товаров расширенные полномочия по обязательному отзыву опасной продукции, произведенной или продаваемой китайскими компаниями, в том числе работающими через онлайн-платформы, что может помочь убирать с рынка, например, игрушки с чат-ботами при наличии жалоб.
📌 Читайте также:
▪️Про ИИ-продукты, ориентированные на детей;
▪️Примерный чек-лист по созданию AI-продуктов для детей;
▪️Статистика об эмоциональной зависимости от ChatGPT;
▪️18+ ИИ-компаньоны и человекоподобные сервисы. Где проходят границы нормы?
▪️Emotion AI превратит ваши эмоции в + 20 CTR для компании
#LawAndDisorder
————
@pattern_ai