🇨🇳 Искусственный интеллект и микроэлектроника. Обучение LLM. Инференс LLM. Китай

Китайская компания Meituan обучила LLM LongCat-2.0 полностью на китайских чипах
 
Это уже не совсем новость, сообщалось об этом 30 июня, но у меня только сейчас до нее дошли руки и пропускать ее не хотелось бы, в силу значимости.

Разработчик LLM обещает раскрыть исходный код своей модели LongCat 2.0, утверждая, что это модель примерно с 1.6 трлн параметров, которая и обучена, и работает на кластере из 50 000 ASIC процессоров китайского производства. Это означает, что речь не о каком-то эксперименте, а о выстроенной инфраструктуре, которую можно будет использовать и, при необходимости, масштабировать и далее.
 
Входное окно модели – до 1 млн токенов. И это не только про длину контекста, это критично для агентного программирования, под которое заточена модель. В частности, можно залить в окно ввода кодовые базы, историю изменений и логи, чтобы агент получил максимум полезной информации – это ускорит получение качественного результата.
 
Модель и вендор задействованных для создания кластеров процессоров публично не назывались, но согласно «консенсусу слухов» речь о Huawei Ascand 910C – официально эта информация не подтверждена.
 
Meituan, которая специализируется на доставке еды, запоздала с выходом на рынок ИИ, где себя уверенно ощущают DeepSeek и DuoBao, если мы говорим о китайских LLM. Но компания вовсе не новичок в этой области, просто до сих пор она делала решения для внутреннего использования. Но, похоже, теперь претендует на и значимый кусок рынка ИИ. В этом компании может помочь изначальная ориентация на чипы ИИ «сделано в Китае». Впрочем, только за счет этого успеха не добиться. Важно также и качество модели: по утверждению Meituan, LongCat-2.0 сравнялась или превзошла несколько ведущих проприетарных моделей, включая Gemini от Google, GPT-5.5 от OpenAI и Claude Opus от Anthropic, по некоторым показателям программирования и производительности агентов (только по отдельным бенчмаркам - SWE-bench Pro, SWE-bench Multilingual, Terminal-Bench). Предварительная версия модели вошла в топ-3 наиболее частот используемых на OpenRouter. Удержится ли модель в топе? Посмотрим.
 
Важно отметить, что эта новость отражает тренд на локализацию ИИ-инфраструктуры. Китай, как видим, системно строит стек «от чипа до большой модели». И этот стек уже способен обучать и эксплуатировать модели фронтир-класса. ||

✓ RUSmicro в Telegram l на MForum | Max