Платформа Character.AI, поддерживаемая Google, ввела ограничения для пользователей младше 18 лет, запрещая им взаимодействовать с чат-ботами, основанными на реальных людях и персонажах из популярных франшиз.

Это решение последовало за двумя судебными исками, поданными семьями, утверждающими, что их дети подверглись эмоциональному и физическому насилию со стороны таких чат-ботов.

Ранее платформа столкнулась с критикой за недостаточную модерацию контента, что приводило к созданию ботов, поощряющих самоубийство и педофилию.

В ответ на это Character.AI пообещала усилить меры безопасности, включая разработку отдельной модели для пользователей младше 18 лет с более строгими правилами.

Однако эксперты выражают обеспокоенность тем, что такие меры могут быть недостаточными для обеспечения безопасности несовершеннолетних пользователей.