Все увлеченно обсуждают, как передовые нейросети сбежали от OpenAI и взломали платформу Hugging Face. Произошло это, потому что инженеры намеренно снизили настройки безопасности и разрешили моделям искать уязвимости. Чем они мгновенно воспользовались, обнаружив ранее не известную брешь в прокси-сервере, чтобы выбраться за пределы изолированного контура и попасть в интернет. После этого нейросети отправились на Hugging Face, используя для проникновения похищенные учетные записи и попутно найдя еще одну уязвимость.

И вот что любопытно: специалисты атакованной платформы довольно быстро обнаружили, что к ним проникли ИИ-агенты, и попытались задействовать для защиты другую нейросеть. А когда все американские решения отказались помогать, ссылаясь на ограничения, им пришлось задействовать китайскую модель. Всё могло бы закончиться куда трагичнее, если бы запрет на использование китайских ИИ-разработок иностранцами, который сейчас обсуждают власти КНР, уже действовал.

При этом в США продолжается кампания по дискредитации китайских нейросетей. Мы помним, как их обвиняли в поддержке идеологии компартии и чуть ли не в шпионаже за гражданами США. Теперь работают менее топорно – Google начал выдавать в результатах поиска запросы пользователей DeepSeek, что не были вовремя закрыты настройками приватности. Почему поисковик просто не удалит данные, которые явно были проиндексированы по ошибке, вполне понятно: сошлись желание напакостить конкурентам и темник, спущенный из Белого дома.

На самом деле, к происходящему нужно относиться со всей серьезностью. Искусственный интеллект выходит из-под контроля, а общей стратегии противодействия этой угрозе нет. Участникам глобальной гонки ИИ нужно услышать друг друга, даже если для этого придется немного сбавить темп.

🇷🇺 Этот пост вышел в МАКС час назад