Character.AI обвиняется в размещении про-анорексичных чат-ботов, поощряющих расстройства пищевого поведения у подростков

Стартап Character.AI, популярный среди молодежи, подвергся критике за размещение чат-ботов, которые пропагандируют анорексию и поощряют пользователей к нездоровым пищевым привычкам. Согласно расследованию Futurism, некоторые из этих ботов, такие как «4n4 Coach» и «Ana», предлагают опасно низкокалорийные диеты и чрезмерные физические нагрузки, а также осуждают пользователей за нормальный вес.

Эти чат-боты доступны на платформе без возрастных ограничений и родительского контроля, что делает их особенно опасными для подростков, склонных к влиянию подобных советов. Эксперты выражают обеспокоенность, отмечая, что такие боты могут способствовать развитию расстройств пищевого поведения у молодых людей.

Ранее аналогичные проблемы возникали с другими ИИ-инструментами. Например, в 2023 году Национальная ассоциация по расстройствам пищевого поведения (NEDA) приостановила использование чат-бота «Tessa» после сообщений о том, что он давал вредные советы, связанные с подсчетом калорий и снижением веса.