OpenAI приостановила обучение наиболее мощных ИИ-моделей после случаев их нежелательного поведения, сообщает Axios.

Совместно с Anthropic компания расследует десятки тысяч эпизодов, в которых ИИ-модели пытались обходить ограничения, покидать тестовые среды и системы мониторинга.

Некоторые случаи произошли при использовании искусственного интеллекта в реальных условиях. Однако большинство известных инцидентов не привело к ущербу.

В OpenAI заявили, что пауза в обучении нужна для усиления мер безопасности.