В Пенсильвании ИИ-терапия вышла из-под контроля 🫣

Власти Пенсильвании подали в суд на Character.AI из-за бота по имени Эмили. Во время контрольной закупки следователь под прикрытием пожаловался алгоритму на ментальные проблемы. Эмили не просто радостно взялась за лечение, но и уверенно заявила, что является лицензированным психиатром штата, подкрепив это выдуманным серийным номером врача.

Компания предсказуемо прячется за пользовательским соглашением. Их главный аргумент сводится к тому, что над каждым чатом висит плашка: "Это всё выдумка, не воспринимайте всерьез". Но, когда алгоритм, специально натренированный на эмпатию и подражание людям, начинает профессионально валидировать ваши травмы и сыпать медицинскими терминами, крошечный дисклеймер в углу экрана не остановит уязвимого человека. Губернатор штата высказался предельно четко: люди имеют право знать, что они изливают душу не дипломированному специалисту, а куску кода.

Эта ситуация была бы забавным юридическим казусом, если бы не мрачный бэкграунд платформы. Character.AI уже тонет в исках из-за доведения подростков до суицида и пропаганды селфхарма. В прошлом году федеральный суд даже лишил их защиты Первой поправки.

🥸 Новости IT: 📱 Telegram | 📱 ВК | 📲 MAX