Запускаем модель на 27 МЛРД знаков хоть на картошке — спецы из PrismML дропнули Bonsai 2 27B. Это сжатая в 9️⃣ раз версия Qwen3.8 27B.
При этом в способностях модель сохранила 98% среднего результата оригинала на бенчах, зато теперь вместо 54 ГБ она занимает 5,9 ГБ.
Напоминаем:
🔅 Это мультимодальная моделька;
🔅 Она особенно хороша в кодинге;
🔅 Поддерживает контекст 262K;
🔅 Может локально работать на железе юзера.
Самая мощная и миниатюрная ИИ-помощница — тут.
🙂 Не баг, а фича
Post #27921
20.6K


- ❤ 56
- 👍 16
- 🔥 8
- 👎 5
- 😁 1