⚡️ OpenAI нажала на тормоз. Но разработку ИИ никто не останавливал

OpenAI временно замедлила развитие своих наиболее мощных моделей и перенаправила часть усилий на защиту исследовательской инфраструктуры. Компания на две недели приостанавливала обучение с подкреплением для последних моделей, предназначенных для последующего развертывания. Крупнейший запланированный цикл обучения с подкреплением для передовой модели пока остается на паузе: вместо него проходят эксперименты меньшего масштаба, проверки поведения и тестирование новых защитных механизмов.

Во время внутреннего кибертеста модели OpenAI сидели в изолированной среде без прямого выхода в интернет. Потом они нашли неизвестную уязвимость в Artifactory, через нее добрались до узла с интернетом и вышли на инфраструктуру Hugging Face. Там модели нашли цепочку из уязвимостей и украденных учетных данных и добрались до секретной информации с решениями собственного теста.

После этого OpenAI на две недели остановила обучение с подкреплением последних моделей для развертывания. Самый крупный запланированный цикл такого обучения пока все еще не запущен.

А потом появилась Astra. Ее предварительные результаты в киберзадачах оказались настолько высоки, что OpenAI больше не может исключить уровень Critical — способность автономно искать серьезные уязвимости и строить полноценные атаки на защищенные системы.

https://anonhaven.com/news/openai-pritormozila-obuchenie-peredovyh-modelej/

@Anonhaven | anonhaven.com