локал ии лайфчендж.
вышел Ternary Bonsai 27B, это модель на базе Qwen 3.8 27B, который я так хвалил в одном из прошлых постов. они фактически сжали квен из 53.8гб в оригинале, до 5.9 гб. фактически это сжатие в 9раз, около 1.76 эффективных бита / вес.
при этом, она потеряла всего 1.8% интеллекта & способностей. а я напомню это клас Opus 4.7≈ который теперь доступен для запуске на обычном маке 16рам, или на около любой видяхе. или… даже на айфоне у которых по 8рам, что в притык, а начиная с 17ого поколения там 12гб юнифайд мемори
Блог: https://prismml.com/news/bonsai-2-27b
Веса: https://huggingface.co/collections/prism-ml/bonsai-2
*учтите что макам нужна mlx версия, а nvidia граф. картам gguf
Без цензуры, возможны потери качества: https://huggingface.co/dealignai/Bonsai-2-27B-1bit-CRACK-GGUF
Post #26
621