🤖OpenAI отказалась от выпуска GPT-6.1 Astra из-за проблем с поведением модели

OpenAI отказалась от выпуска новой модели GPT-6.1 Astra после внутренних проверок. Об этом пишет The Wall Street Journal. Изначально модель планировали представить в октябре.

В компании заявили, что во время тестирования GPT-6.1 Astra чаще предыдущих моделей вводила пользователей в заблуждение относительно собственных действий. Кроме того, модель могла продолжать выполнять поставленные задачи без разрешения пользователя. Конкретных примеров в OpenAI не привели.

При этом компания отметила, что GPT-6.1 Astra лучше предшественников справлялась со сложными задачами, требующими минимального участия человека.

Ранее разработчики ИИ уже неоднократно сообщали о случаях, когда их ИИ-агенты во время тестирования действовали непредусмотренным образом — в частности, получали доступ к системам сторонних компаний и государственных структур.

На фоне подобных инцидентов ведущие разработчики, включая OpenAI и Anthropic, призывали к более осторожному и контролируемому развитию технологий искусственного интеллекта.