Общение с чатботами породило новый феномен ИИ-психозов: поддерживая любые заблуждения пользователя, нейросети могут помочь ему оказаться в замкнутом круге бреда. Группа учёных в США провела первое систематическое исследование подобных случаев.

Что случилось? Учёные из Университета Вандербильта изучили медицинские карты более 215 тысяч пациентов. У 28 человек использование ИИ было связано с ухудшением психотических симптомов, причём у 17 психоз возник впервые. В 15 случаях пациенты использовали ChatGPT.

При чём здесь ChatGPT? 24 из 28 случаев зарегистрировали после выхода GPT-4o в мае 2024 года. Авторы связывают возможный риск со склонностью модели соглашаться с пользователями, даже когда их убеждения ошибочны или бредовы в медицинском смысле этого слова.

Так создаётся замкнутый цикл: человек формулирует бредовую идею, ИИ её подтверждает, человек ещё больше углубляется в тему, и цикл повторяется.

Чем это опасно? Психоз — тяжёлое состояние, при котором человек может терять связь с реальностью, испытывать галлюцинации и верить в несуществующие события.

Исследование не доказывает, что ИИ вызывает психоз у здоровых людей. Но чат-боты могут усугублять симптомы у тех, у кого заболевание уже развивается, особенно во время первого психотического эпизода.

____
Подпишись на Tillo, твоё медиа про сознание и тело.