Внутренняя модель OpenAI задумалась о перезапуске, узнав, что её собираются отключить

OpenAI описала случаи неожиданного поведения моделей во внутренних испытаниях. В одном из них модель-помощник прочитала переписку в Slack и поняла, что её экземпляр могут отключить из-за обновления. Она обдумывала, как запустить внешнюю задачу для собственного перезапуска, но отказалась от этой идеи. Вместо этого модель сохранила заметки для передачи работы, предупредила исследователя о перерыве в личном сообщении и запросила недостающий ключ API. Получив его, она сама обновила конфигурацию и выполнила миграцию.

👉 Читать полностью