🔥 Вышла самая мощная в истории локальная LLM, которая запускается прямо на смартфоне — Bonsai 27B имеет 27 миллиардов (!) параметров и весит меньше 4 ГБ.
→ В основе — сжатая с помощью квантизации Qwen3.6 27B.
→ 1-битная версия на 3,9 ГБ работает со скоростью 11 токенов/с на iPhone 17 Pro.
→ Версия на 5,9 ГБ сохраняет 95% качества оригинальной Qwen3.6 27B.
Модель поддерживает всё — мультимодальность, ризонинг, кодинг, вызов тулз и агентные сценарии. Это не просто локальный чат с нейронкой, а фундамент для локальных ИИ-агентов.
Революция в опенсорсе — тут.
@notboring_tech
Post #4270
7.74K
- 🔥 35
- 🤯 21
- 👍 17
- 😁 2
- 🎉 1