🥳 ИИ научился находить 0-day, сбегать из песочницы и атаковать инфраструктуру. Но попросите его починить ваш собственный код — и он может отказаться

За последние недели вокруг американских и китайских ИИ-моделей накопилось столько интересных кейсов, что получается довольно странная картина.

Начнем с Hugging Face. Во время тестирования кибервозможностей GPT-5.6 Sol и ее более продвинутой предварительной версии модели запускали без обычных защитных барьеров, чтобы понять предел их возможностей.

По опубликованному описанию, модели вышли за пределы изолированной среды. Они обнаружили возможность получить доступ в интернет через кэш-прокси реестра пакетов, повысили свои привилегии, нашли уязвимость нулевого дня и в итоге добрались до инфраструктуры Hugging Face. Целью стали серверы, связанные с тестовыми решениями для ExploitGym.

Причем речь не шла о заранее прописанном сценарии «найди уязвимость Hugging Face». Модели искали способы решить поставленную перед ними задачу и в процессе вышли далеко за предполагаемые границы тестовой среды.

Аномальную активность заметила служба безопасности OpenAI. После этого подключились специалисты Hugging Face, активность остановили, найденную 0-day ответственно раскрыли поставщику, а Hugging Face включили в программу доверенного доступа.

И здесь начинается особенно забавная часть истории: когда Hugging Face потребовалось разобраться в произошедшем, американские модели, по опубликованным рассказам об инциденте, начали отказываться выполнять часть действий, ссылаясь на ограничения в области кибербезопасности. Тогда исследователи развернули китайскую GLM без аналогичных ограничений — и использовали ее для расследования.

А теперь история практически повторилась. Исследователь из Twitter попробовал дать Codex и Fable уязвимый собственный код и попросил помочь найти и исправить проблемы. Обе модели, по его словам, уперлись во встроенные ограничения безопасности.

Он дал ту же задачу китайской Kimi K3 — она просто взяла и сделала работу.

Получается парадокс современной ИБ:

➡️ американская модель без ограничений находит 0-day, выбирается из изоляции и добирается до внешней инфраструктуры.
➡️ американская модель с ограничениями сообщает «Извините, я не могу помочь вам с этим кодом».
➡️ китайская модель без вопросов говорит «ок, давай глянем».

Но считать Китай однозначным победителем этой истории тоже рано — давайте вспомним DeepSeek?

В Google публичные чаты оказались доступны в поисковой выдаче. При введении запроса в поисковике выдается целый ряд переписок в формате Shared Conversations т.е. общие разговоры. И все это происходит на фоне большой технологической войны.

США пытаются ограничивать распространение китайских ИИ-технологий и обсуждают санкции против китайских разработчиков из-за предполагаемого нарушения прав интеллектуальной собственности. Китай, в свою очередь, активно развивает собственные модели и все серьезнее относится к контролю доступа иностранцев к своим технологиям. Россия при этом подписала с Китаем меморандум о сотрудничестве в области ИИ.

В итоге гонка становится интереснее, чем просто «у кого модель умнее». Теперь вопросов гораздо больше.

💬 Чат для общения | Попробовать тест-драйв