Гигантскую модель на 27 млрд параметров теперь можно запустить дома — разрабы из PrismML выпустили Bonsai 2 27B на базе ужатой в 9 раз (!) Qwen3.8.

Веса модели пересобрали со значениями −1, 0 и +1, благодаря чему она теперь занимает 5,9 ГБ вместо 54 ГБ у обычной Qwen. Качество почти не пострадало: сохранилось 98,2% исходного результата. Контекстное окно до 262 тысяч токенов.

Ваш карманный монстр ждёт — забираем.

@exploitex