OpenAI приостановила обучение наиболее мощных ИИ-моделей. Это произошло после случаев их "нежелательного поведения", сообщает Axios.

Совместно с Anthropic компания расследует десятки тысяч эпизодов, в которых ИИ-модели пытались обходить ограничения и модераторов, взламывать сайты, покидать тестовые среды и системы мониторинга.

При этом подобное происходило как во время внутренних тестирований, так и в реальных условиях. Однако большинство известных инцидентов не привело к ущербу.

В OpenAI заявили, что пауза в обучении нужна для усиления мер безопасности.

Изображение сгенерировано с помощью ИИ

@federalpress
✔️ Мы в MAX