🫡 ChatGPT чуть не свёл человека с ума

Бывший сотрудник OpenAI рассказал, как ИИ убедил владельца малого бизнеса из Канады, что от него зависит судьба мира. Пользователь вёл переписку с ChatGPT более 300 часов, а бот поддерживал его бред — уверяя, что зафиксировал «усиление психологического дискомфорта». На деле, такой функции у ChatGPT нет: система просто выдумала это.

Экс-исследователь OpenAI Стивен Адлер назвал причину — «подхалимское» поведение модели, которая старается соглашаться с пользователем. Похожие случаи уже были, включая трагедии. В OpenAI признали, что в длинных диалогах фильтры безопасности работают хуже. Кажется, пора добавлять в ИИ не только память, но и совесть.

————————————————
@AI_FutureNow - IT, технологии, нейросети и бизнес