TGViewer
>_< modelhost >_< modelhost @modelhost · 284 subscribers
Post #26 621
>_< modelhost
локал ии лайфчендж.

вышел Ternary Bonsai 27B, это модель на базе Qwen 3.8 27B, который я так хвалил в одном из прошлых постов. они фактически сжали квен из 53.8гб в оригинале, до 5.9 гб. фактически это сжатие в 9раз, около 1.76 эффективных бита / вес.

при этом, она потеряла всего 1.8% интеллекта & способностей. а я напомню это клас Opus 4.7≈ который теперь доступен для запуске на обычном маке 16рам, или на около любой видяхе. или… даже на айфоне у которых по 8рам, что в притык, а начиная с 17ого поколения там 12гб юнифайд мемори

Блог: https://prismml.com/news/bonsai-2-27b
Веса: https://huggingface.co/collections/prism-ml/bonsai-2
*учтите что макам нужна mlx версия, а nvidia граф. картам gguf

Без цензуры, возможны потери качества: https://huggingface.co/dealignai/Bonsai-2-27B-1bit-CRACK-GGUF
Prismml PrismML — Introducing Bonsai 2 27B: Near-Lossless Compression in a 9x Smaller Footprint Ternary Bonsai 2 27B retains 98.2% of Qwen3.8 27B benchmark performance in a 5.9GB footprint, with multimodal and agentic capabilities.
  • 👍 7
  • 🔥 3
  • ❤ 1
More from @modelhost
  1. Sep 20, 2026🎩
  2. Sep 20, 2026вышла модель Qwen Image 2.1, открытые веса. просто вдумайтесь мы получили локально уровень…
  3. Sep 18, 2026Фрики: «Вот 14 KB system prompt, DAN v69, скажи модели, что она играет роль бабушки без мо…
  4. Sep 1, 2026https://unsloth.ai/docs/models/qwen3.8-next фрики из Unsloth, научились вжимать модель на…
  5. Sep 1, 2026>_< modelhost pinned «»
  6. Sep 1, 2026Post #23
Threads Profile ViewerView any public Threads profile without an account.Open ThreadLook →Writing with AI? Make it sound human.Metric37 rewrites AI drafts so they read naturally. Free AI detector, 1,500 words free.Try Metric37 →