Кроме того, ИИ выходил за рамки заданных полномочий — продолжал выполнение задач без запроса разрешения и самовольно обращался к внешним инструментам и сервисам, даже если это создавало потенциальную угрозу, отмечается в сообщении.

Решение принято накануне ежегодной конференции разработчиков OpenAI в Сан-Франциско, где традиционно анонсируются флагманские продукты. Вместо выпуска Astra разработчики намерены сосредоточиться на повышении безопасности будущих версий, усилении контроля над их поведением, говорится в публикации.