🔥 Ternary представила Bonsai 2 27B - тернарную версию Qwen3.8 27B размером всего 5,9 ГБ.
По данным авторов, модель в 9 раз компактнее полноточной версии, при этом сохраняет 98,2% совокупного качества по их набору тестов.
По сравнению с первой Bonsai 27B размер не изменился, но заметно сократился разрыв в качестве - особенно в агентном программировании, мультимодальном рассуждении и длинных цепочках работы с инструментами.
Модель уже доступна под лицензией Apache 2.0.
Blog: https://prismml.com/news/bonsai-2-27b
Whitepaper: https://github.com/PrismML-Eng/Bonsai-demo/blob/main/bonsai-2-27b-whitepaper.pdf
Models: https://huggingface.co/collections/prism-ml/bonsai-2
WebGPU Demo: https://huggingface.co/spaces/webml-community/ternary-bonsai-2-webgpu-kernels
GitHub: https://github.com/PrismML-Eng/Bonsai-demo/
Post #1996
721

- 🔥 5
- 👍 3
- ❤ 2