⚡️ Trinity Nano и Trinity Mini - новое семейство открытых MoE-моделей:
- 6B и 26B MoE (1B/3B активных параметров)
- 128 экспертов, 8 активных, 1 общий
- GQA и gated attention
- 128k контекст
- 10T токенов, обучено на 512 H200 в bf16
- Apache 2.0 и полностью открытые веса
- Созданы для агентов, function calling и долгих рассуждений
- Разработано совместно с Datology и Prime Intellect
https://huggingface.co/arcee-ai/Trinity-Mini
Post #2385
3.37K

- 👍 5
- 🔥 3
- 🤔 3