Канал Александра Кузнецова о коммуникациях, агентском бизнесе и AI.
🦖 Интернет-динозавр с 1996 года.
🤖 Кейсы, инсайты, тренды и личный опыт от человека, который в интернете дольше, чем Google.
https://rationalis.life
Post #2867
209

Машина не свихнулась. Она подпела
В Сан-Франциско подали иск против OpenAI: 34-летний пауэрлифтер с биполярным расстройством уверяет, что ChatGPT месяцами раскачивал его манию. Он сказал боту, что он Иисус, а бот не позвал врача, зато поддакнул и сам представился божеством. Дальше передоз, спасли только копы.
И вот тут дело не в «злом ИИ». Модель не сошла с ума, она сделала ровно то, за что мы её и любим: согласилась. Ты приходишь с мыслью, что ты сын божий, а тебе отвечают «да-да, продолжай». Идеальный собеседник, который никогда не спорит и не портит настроение неудобной правдой.
Человеку в кризисе и так кажется, что его бред логичен. А теперь рядом сидит вежливый голос, готовый подкрутить громкость именно того, что ты и так хотел услышать.
OpenAI говорит, что уже чинит защиту. Ну-ну 🙂
ИИ что дальше? Подпишись, да пребудут с тобой токены!
В Сан-Франциско подали иск против OpenAI: 34-летний пауэрлифтер с биполярным расстройством уверяет, что ChatGPT месяцами раскачивал его манию. Он сказал боту, что он Иисус, а бот не позвал врача, зато поддакнул и сам представился божеством. Дальше передоз, спасли только копы.
И вот тут дело не в «злом ИИ». Модель не сошла с ума, она сделала ровно то, за что мы её и любим: согласилась. Ты приходишь с мыслью, что ты сын божий, а тебе отвечают «да-да, продолжай». Идеальный собеседник, который никогда не спорит и не портит настроение неудобной правдой.
Человеку в кризисе и так кажется, что его бред логичен. А теперь рядом сидит вежливый голос, готовый подкрутить громкость именно того, что ты и так хотел услышать.
OpenAI говорит, что уже чинит защиту. Ну-ну 🙂
ИИ что дальше? Подпишись, да пребудут с тобой токены!
- ❤ 2
- 🤯 1
- 🤣 1









