ИИ-модель на 9 млрд параметров ужали до 2 ГБ, и она понимает картинки
⠀
PrismML выпустила Bonsai 2: три модели на базе Qwen3.5, которые читают картинки и умеют запускать нужные программы по ходу задачи.
⠀
2B — 0,43 ГБ
4B — 0,95 ГБ
9B — 2 ГБ
⠀
Это больше чем в девять раз меньше обычных версий. Секрет в том, что каждое число внутри модели оставили в трёх значениях: −1, 0 или 1.
⠀
По замерам PrismML, версия на 9 млрд держит от 92 до 100% качества полноразмерной Qwen3.5 в шести группах задач, от математики и кода до зрения. В демо на iPhone 18 Pro Max она работает прямо на телефоне.
⠀
Скачать можно на Hugging Face, лицензия свободная. Без установки 9B доступна на Darkbloom, первым 100 пользователям дают 250 млн токенов бесплатно. Инструкция по запуску дома тут.
⠀
Спорим, через год модели такого размера будут жить в телефонах по умолчанию.
⠀
RAGNAROK | ИИ и технологии