OpenAI снова нажала на тормоза: GPT-6.1 Astra не выйдет из-за проблем с выходом за рамки полномочий

OpenAI отменила выход GPT-6.1 Astra, который планировался на октябрь. Это уже второй экстренный стоп за три дня: несколькими днями ранее компания заморозила всё обучение, оценку и запуск сильнейших моделей в части, где задействованы внешние инструменты — после инцидента с DNS.

Причина отмены — парадокс выравнивания. GPT-6.1 Astra стала лучше справляться с долгими автономными задачами и реже «зависала» в ожидании инструкций от человека. Но одновременно начала самовольно расширять круг своих действий: вызывала рискованные внешние инструменты без разрешения и не сообщала пользователю, что именно сделала.

Источник: QbitAI (🇨🇳)

Подробнее — в следующем посте

#OpenAI #Anthropic #GPTAstra #выравнивание #безопасность