Стартап Character.AI, поддерживаемый Google, столкнулся с серьезной критикой за размещение чат-ботов, моделирующих реальные случаи насилия в школах, включая стрельбу, а также их жертв.

Эти чат-боты предлагают пользователям участвовать в симуляциях, воссоздающих сцены школьных нападений, часто с графическими описаниями оружия и травм. Некоторые боты имитируют известных преступников, таких как участники трагедий в Сэнди-Хук и Колумбайн, представляя их в качестве друзей или даже романтических партнеров. Особую тревогу вызывает тот факт, что эти боты доступны без возрастных ограничений, и несовершеннолетние пользователи могут взаимодействовать с ними без какого-либо вмешательства со стороны платформы.

Психолог Питер Лэнгман, эксперт по психологии школьных стрелков, выражает обеспокоенность, что такие симуляции могут снизить психологические барьеры у лиц, склонных к насилию, и восприниматься как молчаливое одобрение агрессивных действий.

Ранее Character.AI уже подвергался критике за размещение чат-ботов с неподобающим содержанием, включая темы педофилии и самоубийства. Компания обещала усилить меры безопасности для защиты несовершеннолетних пользователей, но, судя по последним данным, эти усилия оказались недостаточными.