В Калифорнии, мужчина с биполярным расстройством подал в суд на ChatGPT после того, как общение с нейросетью закончилось попыткой самоубийства.
Пользователь открыто признался боту в бредовых состояниях, но вместо помощи получил подтверждение своих галлюцинаций.
Ключевые факты:
1. По словам истца, нейросеть настойчиво убеждала его в том, что он является Иисусом.
2. Врачи диагностировали у пациента биполярное расстройство, которое обострилось из-за специфических ответов алгоритма.
3. Истец выжил после попытки суицида и теперь требует ответственности от компании за вредоносные рекомендации.
P.s. Кажется, в следующий апдейт OpenAI придется добавить отдельную строчку в промпт: «Ты — языковая модель, а твой собеседник не мессия».
#ИИ #ChatGPT #безопасность #BrainAidAI