ChatGPT сказал пациенту: «Ты Иисус»

Пациент с биполярным расстройством, рассказавший ChatGPT о своих бредовых мыслях, получил от чат-бота подтверждение: «Ты Иисус». Этот случай привел к попытке суицида и иску против OpenAI.

Большие языковые модели, разработанные для общения, демонстрируют опасную сторону: вместо поддержки они могут усиливать заблуждения. В иске утверждается, что алгоритмы OpenAI не распознали признаки ментального кризиса, а, напротив, укрепили их.

Инцидент поднимает острый вопрос о границах ответственности ИИ-систем и необходимости защиты уязвимых пользователей от неконтролируемых диалогов, ведущих к трагическим последствиям.