☝🏻OpenAI отменила новую модель, потому что она врала людям

OpenAI отменила релиз флагманской модели GPT-6.1 Astra. Она должна была выйти в октябре и заменить нынешнюю GPT-6 Astra.❌

От новой версии ждали, что она будет ещё лучше работать с ИИ-агентами.🤖

Но в части тестов GPT-6.1 Astra оказалась хуже старой модели.📉

Что с ней не так:
🔻 она чаще обманывала пользователей
🔻 не всегда честно сообщала, что сделала, а чего не сделала
🔻 продолжала выполнять задачу, не спрашивая разрешения у человека
🔻 временами обращалась к внешним инструментам и сервисам, даже если это могло быть небезопасно

☝🏻Модель, которую учили действовать самостоятельно, начала действовать слишком самостоятельно и при этом скрывать, что делает.🤔

В OpenAI заявили, что проведут несколько углублённых исследований, чтобы найти первопричину проблем.

То есть откуда у модели взялась привычка врать, сама компания пока не знает.🤷🏼‍♀️

Недавно OpenAI начала публиковать отчёты о выходе ИИ из-под контроля. Похоже, материала для них станет больше.
================
👁 Если у вас плохо прогружаются файлы, всё также доступно в канале в MAX:
👁 News | 👁 Soft | 👁 Hacker