GigaChat Ultra & Lightning: открытые MoE-модели нового поколения

Сбер представил отечественные разработки в сфере LLM. Открытые MoE-модели GigaChat 3 Ultra Preview (702B-A36B) и GigaChat 3 Lightning (10B-A1.8B), обученные с нуля на собственных данных.

Ключевые характеристики:
• Ultra Preview: 702B параметров, 36B активных, контекст 131К токенов. Топ-1 на MERA.
• Lightning: 10B параметров, 1.8B активных, контекст 256К токенов. Оптимизирована для локального развертывания.

Обе модели имеют открытые веса и коммерческую лицензию, совместимы с Hugging Face и стандартными пайплайнами.

👉Читать статью

#статьи