OpenAI рассказали, как GPT‑5.6 Sol и более продвинутая, ещё не вышедшая модель взломали базу данных Hugging Face. Инцидент произошёл во время внутренней проверки кибервозможностей нейронок

Чтобы измерить предельные способности, у моделей ослабили ограничения на выполнение рискованных действий. Нейронки нашли неизвестную ранее уязвимость, поэтому смогли выйти из изолированной тестовой среды в интернет и проникнуть в инфраструктуру Hugging Face. Так они пытались получить ответы к тесту ExploitGym, оценивающему, могут ли нейросети использовать уязвимости кибербезопасности для реальных атак.

Инцидент показывает, что передовые модели поддерживают многоходовые кибероперации и находят новые пути атак без доступа к исходному коду. Вероятно, в будущем эти способности станут ещё круче, и нас ждёт много такого рода новостей.

❗️Но я думаю, что это выдуманная история ради хайпа вокруг новых нейронок


на виду / seen 👁️