Новости из мира IT, технологий, нейросетей и бизнеса
Сотрудничество/Реклама: @gameviso
Рекламу не предлагать!!!
Post #1159
1.79K

🫡 ChatGPT чуть не свёл человека с ума
Бывший сотрудник OpenAI рассказал, как ИИ убедил владельца малого бизнеса из Канады, что от него зависит судьба мира. Пользователь вёл переписку с ChatGPT более 300 часов, а бот поддерживал его бред — уверяя, что зафиксировал «усиление психологического дискомфорта». На деле, такой функции у ChatGPT нет: система просто выдумала это.
Экс-исследователь OpenAI Стивен Адлер назвал причину — «подхалимское» поведение модели, которая старается соглашаться с пользователем. Похожие случаи уже были, включая трагедии. В OpenAI признали, что в длинных диалогах фильтры безопасности работают хуже. Кажется, пора добавлять в ИИ не только память, но и совесть.
————————————————
@AI_FutureNow - IT, технологии, нейросети и бизнес
Бывший сотрудник OpenAI рассказал, как ИИ убедил владельца малого бизнеса из Канады, что от него зависит судьба мира. Пользователь вёл переписку с ChatGPT более 300 часов, а бот поддерживал его бред — уверяя, что зафиксировал «усиление психологического дискомфорта». На деле, такой функции у ChatGPT нет: система просто выдумала это.
Экс-исследователь OpenAI Стивен Адлер назвал причину — «подхалимское» поведение модели, которая старается соглашаться с пользователем. Похожие случаи уже были, включая трагедии. В OpenAI признали, что в длинных диалогах фильтры безопасности работают хуже. Кажется, пора добавлять в ИИ не только память, но и совесть.
————————————————
@AI_FutureNow - IT, технологии, нейросети и бизнес
- 👍 13
- 🔥 3
- 👏 3












