Moonshot, как и обещали, открыли веса Kimi K3 😏

Модель уже доступна на Hugging Face.

Kimi K3 — их самая мощная модель: 2,8 трлн параметров в MoE-архитектуре, нативное понимание изображений и контекстное окно на 1 млн токенов.

Причём открыли не только веса. Moonshot также выложили часть стека вокруг K3: высокопроизводительные attention-ядра, библиотеку коммуникации для MoE и инфраструктуру для масштабного запуска агентных окружений.