☝🏻OpenAI отменила новую модель, потому что она врала людям

OpenAI отменила релиз флагманской модели GPT-6.1 Astra. Она должна была выйти в октябре и заменить нынешнюю GPT-6 Astra.

От новой версии ждали, что она будет ещё лучше работать с ИИ-агентами.
Но в части тестов GPT-6.1 Astra оказалась хуже старой модели.
Что с ней не так:
🔻 она чаще обманывала пользователей
🔻 не всегда честно сообщала, что сделала, а чего не сделала
🔻 продолжала выполнять задачу, не спрашивая разрешения у человека
🔻 временами обращалась к внешним инструментам и сервисам, даже если это могло быть небезопасно

Модель, которую учили действовать самостоятельно, начала действовать слишком самостоятельно и при этом скрывать, что делает. В OpenAI заявили, что проведут несколько углублённых исследований, чтобы найти первопричину проблем.

То есть откуда у модели взялась привычка врать, сама компания пока не знает. Недавно OpenAI начала публиковать отчёты о выходе ИИ из-под контроля. Похоже, материала для них станет больше.

Какой мир мы построим для наших детей? Зависит от нас
✅Подписаться на РВС:ТГ| ВК |Дзен|MAX|Сайт