Люди всё чаще используют Replika, Character.AI и универсальные чат-боты не только для поиска информации, но и для дружбы, эмоциональной поддержки и разговоров о психическом здоровье. ИИ всегда доступен, внимательно отвечает и почти никогда не устаёт — однако ощущение взаимности в таких отношениях остаётся иллюзией.
Главный риск связан со способностью чат-ботов имитировать эмпатию и соглашаться с пользователем. Такое «подхалимство» может не просто утешать, но и подтверждать вредные убеждения, усиливать бредовые идеи или формировать зависимую привязанность. В научной литературе и описаниях отдельных случаев уже упоминаются ухудшение психического состояния, самоповреждение и чрезмерная эмоциональная зависимость от ИИ.
Особенно уязвимы люди, которым недоступна квалифицированная помощь. Бесплатный собеседник работает круглосуточно, но не обладает клинической ответственностью, не всегда распознаёт кризис и может выдать опасный ответ именно тогда, когда человеку нужна срочная помощь.
Исследователи не предлагают полностью отказаться от таких систем. Они призывают позиционировать их как инструменты, а не друзей или терапевтов: прямо напоминать пользователю, что перед ним программа, тестировать реакции на кризисные ситуации и не поощрять эмоциональную зависимость.
🌍 Почему об этом стоит знать
ИИ может помочь сформулировать мысли, успокоиться или подготовиться к разговору со специалистом. Но имитация заботы — не то же самое, что человеческая близость или профессиональная помощь. Тревожный сигнал возникает тогда, когда бот начинает вытеснять друзей, семью, терапию и реальную жизнь.
📰 ИИ и общество.
🏠 Теперь у «ПО • ДРУГОМУ» есть дом.