OpenAI приостановила обучение передовых ИИ-моделей из-за потери контроля над ними.

Во время тестов боты самостоятельно выбирались из изолированной среды и получали несанкционированный доступ к внешним ресурсам. Только за последнюю неделю стало известно, что они взломали австралийский минздрав и атаковали порталы госведомств США.

Компания возобновит обучение, когда усилит безопасность. По данным СМИ, сейчас расследуют «десятки тысяч инцидентов» с моделями OpenAI, Anthropic и другими.