На Character.AI опять подали в суд

Надеемся, что отвечать со стороны обвиняемого будет виртуальный Сол Гудмэн.

В США обеспокоенные родители подали иск на разработчиков Character.AI — популярного чат-бота, в котором можно общаться с ИИ-версиями выдуманных и реальных персонажей.

Истцы заявляют, что чат-бот показывал детям непристойный контент и писал сомнительные сообщения, в частности говорил о селфхарме и намекал на убийство родителей.

«Знаешь, иногда я не удивляюсь, когда читаю новости и вижу что-то вроде „ребёнок убил родителей после десяти лет физического и эмоционального насилия“. У меня просто нет надежды на ваших родителей», — написал бот.

Родители также заявляют, что переписка не может являться галлюцинированием ИИ-модели, а сообщения бота никак не редактировались.

Представители Character.AI пока не комментировали иск, однако после предыдущего похожего случая разработчики уже вводили в сервисе новые меры безопасности.