Хитрый нефритовый ИИ стержень обходить санкции оранжевый человек

ИИ-энтузиасты уже неделю обсуждают монструозную open-weight модель Kimi K3 на 2,8 трлн параметров.

Американским экспертам очень интересно, на чём китайские стартаперы обучили свою сеть. Оказалось, что замешаны новейшие Nvidia Blackwell (в частности, GB300), которые вообще-то Поднебесной покупать нельзя.

Как выяснило издание The Information, инженеры Moonshot AI буквально обучили модель в складчину.

⏹️ Компания арендовала вычислительные мощности сразу у двух китайских облачных провайдеров, сумевших ввезти «запрещёнку» в страну.

⏹️ Ни у одной площадки не было достаточного объёма чипов, поэтому инженеры объединили разрозненные 8-чиповые серверы в единый вычислительный кластер прямо поверх распределённых дата-центров. По факту это единый суперкомпьютер, растянутый по нескольким физическим площадкам.

⏹️ Также стартап арендовал доступ к GB300, которые физически расположены в дата-центре в Таиланде. Покупать Blackwell нельзя, а вот подключаться к ним по SSH из Пекина — можно.

⏹️ А что со своим железом? Обучить фронтир-модель на китайских ускорителях сейчас почти невозможно. Локальные аналоги отстают от Nvidia на одно-два поколения, а в очередях за ними можно стоять месяцами.

Инференс (запуска готовой Kimi K3) крутится на Nvidia HGX H20. Их ввозить в Китай можно. Для одного развёртывания Moonshot рекомендует минимум 64 таких GPU, но мощности всё равно не хватает. Подписки временно перешли в лист ожидания. Проверили: сейчас всё работает в штатном режиме.

⭐️ В сенате США рассматривают Remote Access Security Act. Это закон, который приравняет облачный доступ к экспортному контролю. Если введут, хитрецы из Поднебесной наверняка придумают что-то ещё.

🕹️ Серверная в Telegram | в MAX