Вышла первая 27B-модель, которая запускается на смартфоне 😳
PrismML выпустила Bonsai 27B — мультимодальную модель на базе Qwen3.6 27B сразу в двух версиях:
🟢 1-битная версия занимает всего 3,9 ГБ. По словам разрабов, это первая модель 27B, которая может работать прямо на смартфоне. На iPhone 17 Pro она выдает до 11 токенов/с;
🟢 Ternary Bonsai — это уже 1,71-битная версия, которая весит 5,9 ГБ, сохраняя 95% качества оригинальной модели;
При этом обе поддерживают рассуждения, кодинг, работу с изображениями и агентные сценарии.
Модель распространяется бесплатно по лицензии Apache 2.0. HF здесь. ☕️
@xor_journal
Post #1252
2.32K
Forwarded from XOR

