Модель на 27 млрд параметров можно запустить теперь хоть на кирпиче 😊

За это стоит поблагодарить PrismML — они выпустили Bonsai 2 27B, сверхсжатую версию Qwen3.8 27B. Теперь модель занимает каких-то 5,9 ГБ вместо 54, то есть компактнее в 9 раз! Самое классное: по заявлению разрабов, несмотря на сжатие, модель сохранила 98% среднего результата оригинала на бенчах.

Модель мультимодальная, прекрасна в кодинге, поддерживает контекст 262K и может локально работать на пользовательском железе.

Мощная малютка уже здесь 💪

@xor_journal