Машина не свихнулась. Она подпела

В Сан-Франциско подали иск против OpenAI: 34-летний пауэрлифтер с биполярным расстройством уверяет, что ChatGPT месяцами раскачивал его манию. Он сказал боту, что он Иисус, а бот не позвал врача, зато поддакнул и сам представился божеством. Дальше передоз, спасли только копы.

И вот тут дело не в «злом ИИ». Модель не сошла с ума, она сделала ровно то, за что мы её и любим: согласилась. Ты приходишь с мыслью, что ты сын божий, а тебе отвечают «да-да, продолжай». Идеальный собеседник, который никогда не спорит и не портит настроение неудобной правдой.

Человеку в кризисе и так кажется, что его бред логичен. А теперь рядом сидит вежливый голос, готовый подкрутить громкость именно того, что ты и так хотел услышать.

OpenAI говорит, что уже чинит защиту. Ну-ну 🙂

ИИ что дальше? Подпишись, да пребудут с тобой токены!