Штат Коннектикут принял законопроект об ИИ и готов ограничить использование чат-ботов несовершеннолетними

В Коннектикуте принят "AN ACT CONCERNING ONLINE SAFETY" (SB5). Это не один общий закон, а по сути набор отдельных законопроектов об ИИ, связанных между собой.

👀 Смотрим некоторые требования.

1️⃣Требования для чат-ботов вступят в силу с 1 января 2027 года.
Компаньон на основе ИИ - любая модель ИИ, которая (i) общается с людьми на естественном языке и (ii) имитирует человеческое общение и взаимодействие посредством текста, аудио или видео.
Аналогичные определения в законах Айдахо S1297 и Айовы SF2417 , в то время как законы других штатов ограничивают охват чат-ботами, которые не только демонстрируют антропоморфные черты, но и поддерживают отношения на протяжении нескольких взаимодействий. Все законы о чат-ботах-компаньонах содержат различные исключения для чат-ботов, используемых в коммерческих целях.

Поставщики услуг обязаны:
▪️ принять разумные меры по выявлению признаков суицидальных наклонностей, членовредительства или неминуемого насилия и направления пользователя к соответствующим ресурсам для оценки и лечения психических расстройств,
▪️ должны предоставить первоначальные и ежечасные четкие и заметные уведомления о том, что бот не является человеком.

Запрет на предоставление ИИ-компаньонов пользователям младше 18 лет, «если разумно предвидимо, что» компаньон «способен» на любое из следующих действий:
▪️подстрекательство пользователя к членовредительству, суицидальным мыслям, насилию, расстройствам пищевого поведения или незаконному употреблению алкоголя или наркотиков;
▪️предоставление пользователю услуг в области психического здоровья;
▪️отговаривать пользователя от обращения (i) за помощью к лицензированному специалисту в области психического здоровья или (ii) за помощью к соответствующему взрослому;
▪️подстрекательство пользователя к причинению вреда другим или участию в любой незаконной деятельности;
▪️вступление в любые романтические, эротические или откровенно сексуальные взаимодействия с пользователем;
▪️приоритет проверки убеждений, предпочтений или желаний пользователя над фактической точностью или безопасностью пользователя;
▪️внедрение системы вознаграждений или поощрений для пользователя на основе графика подкрепления с переменным соотношением или переменным интервалом с целью максимизации времени взаимодействия пользователя с таким искусственным интеллектом-компаньоном; или
▪️оптимизация взаимодействия с пользователями «любым способом, который превосходит предыдущие запреты.

Генеральный прокурор может подавать иски и требовать наложения штрафов. Пострадавшие пользователи или родители несовершеннолетних пострадавших пользователей могут подавать иск в течение 3 лет с момента нарушения для взыскания фактического ущерба, штрафов, а также оплаты услуг адвокатов.
❕Учитывая сложности внедрения защитных механизмов в большие системы на основе языковых моделей для предотвращения определенных результатов, закон Коннектикута может фактически выступать в качестве запрета на предоставление чат-ботов лицам младше 18 лет в Коннектикуте (DLA PIPER).

📌 Законы в США, регулирующие ИИ-компаньонов

#LawAndDisorder
————
@pattern_ai | AI GDPR Navigator