Сбер представил GigaChat 3.5: собственная архитектура, скорость и Open Source ⚡️
GigaChat 3.5 — отечественная модель с масштабированной архитектурой на линейном внимании. Модель умнее, быстрее и почти вдвое компактней предыдущей Ultra
Главное про релиз:
🔘До 4 раз быстрее на длинном контексте: новая архитектура решает проблему замедления модели при работе с большими текстами.
🔘Эффективность: модель требует вдвое меньше памяти, что упрощает её самостоятельное развёртывание.
🔘Качество ответов: наибольший прирост в задачах на кодинг и математику. Ответы стали точнее и структурнее.
🔘Новый датасет: разработчики изменили подход к обучению, сделав упор на тщательно отфильтрованные «человеческие» тексты, а не на синтетику.
Поработать с новой моделью можно уже сейчас на GitVerse и HuggingFace. А подробности, включая детали реализации гейтов и рецепт стабилизации, — коллеги расписали в своём канале и в статье на Habr.
Post #1677
1.43K
- 👍 4
- 🔥 2
- ❤ 1
- 😁 1