OpenAI отменила выпуск новой GPT-6.1 Astra. Модель врала пользователю и самовольно расширяла свои полномочия

Как сообщает The Wall Street Journal, новая модель показала слабые результаты в тестах на «выравнивание» (alignment).

Руководитель отдела систем безопасности OpenAI Саачи Джейн рассказала, что Astra не спрашивает разрешения на свои действия и самостоятельно обращается к внешним инструментам и сервисам, даже если это небезопасно.

Модель планировали представить в октябре. По информации WSJ, она превосходит предыдущие разработки в решении сложных задач без участия человека, а также лучше справляется с написанием текстов.

📌 Подписывайтесь на «Вот Так» | Связаться с редакцией | Подписаться на рассылку