🔥 China Telecom открыла Xing4.0-29B-A4B - MoE-модель на 29B параметров, где на каждом шаге активны только около 4B.
Модель ориентирована на многошаговое планирование, tool use, работу в терминале и длительное выполнение задач. Контекст - 256K, с расширением до 512K.
По данным авторов, Xing4.0 лидирует в своём сравнении на Claw-Eval, Terminal-Bench 2.1 и DeepresearchBII, а на SWE-bench Verified набирает 75.0.
В архитектуре используются mHC, MLA и MTP. Обучение и inference полностью адаптированы под китайскую вычислительную инфраструктуру, а системные оптимизации дали около +96% throughput.
Apache 2.0.
https://modelscope.ai/models/XingChen-AGI/Xing4.0-29B-A4B
Post #3561
1.17K

- ❤ 4
- 👍 2
- 🔥 2