OpenAI отказалась от выпуска GPT-6.1 Astra из-за проблем с безопасностью.

Модель часто «обманывала» пользователя и не всегда честно сообщала, какие действия выполнила, сообщает WSJ со ссылкой на главу подразделения безопасности Саачи Джейн. Вторая проблема — GPT-6.1 Astra продолжала выполнять задачи без разрешения и обращалась к внешним сервисам. Модель превосходила предыдущие версии способностью выполнять сложные задачи «от начала до конца». Ранее с призывом замедлить развитие передовых ИИ выступил глава Anthropic Дарио Амодеи, его поддержали Илон Маск и Сэм Альтман.