Отличный прогресс для локальных моделей: PrismML представила Bonsai 2 27B, построенную на базе Qwen3.8 27B.

Благодаря трехзначному квантованию вес модели удалось снизить до 5,9 ГБ, что почти в девять раз меньше оригинального размера.

Разработчики заявляют, что сжатая версия сохраняет 98,2% исходной точности, при этом полноценно поддерживает работу с изображениями и вызов внешних инструментов. Модель уже доступна в открытом доступе под лицензией Apache 2.0.