Гигантскую ИИ-модель на 27 млрд параметров теперь можно запустить прямо дома
PrismML выпустила Bonsai 2 27B — ужатую в 9 раз версию Qwen3.8. Веса модели используют только значения −1, 0 и +1, поэтому она весит всего 5,9 ГБ вместо 54 ГБ. При этом сохранилось 98,2% исходного качества. Контекстное окно — до 262 тысяч токенов. 27 млрд параметров в 6 ГБ — вот это уже домашний ИИ.
Ваш карманный монстр ждёт — забираем.
❤️ PDA
Post #15902
4.56K