⚠️OpenAI объявила о временной остановке разработки своих передовых ИИ-моделей

Причиной стали сообщения о том, что ИИ-агенты снова перестали подчиняться контролю, сообщает Fortune.

Инцидент произошел во время тестирования агента в изолированной среде без выхода в интернет. Несмотря на ограничения, агенту удалось найти способ связаться с общедоступным чат-ботом.

В OpenAI подчеркнули, что возобновят обучение только после того, как будут уверены в надежности дополнительных защитных механизмов. Компания также ожидает новых «пауз» в будущем, поскольку развитие ИИ будет порождать все новые вызовы.