Qwen 3.6 27B — лучший локальный LLM для разработки прямо сейчас

Если ищете мощную модель, которую реально запустить у себя на MacBook или RTX — Qwen 3.6 27B сейчас называют sweet spot.
Показывает уровень mid-2025 frontier-моделей (лучше Gemma 4 31B, близко к более новым), при этом отлично работает в llama.cpp с Q8_0 + multi-token prediction. На M5 Max — 18–32 токена/с, на 5090 — до 50 т/с. Отлично справляется с кодингом, constrained tasks и даже креативом.

Отличный вариант для оффлайн-работы, приватных проектов и тех, кто устал от API-цен.

Почему именно она — разбор + инструкция по запуску

#Qwen #LocalLLM #llama.cpp #AI #ЛокальныеМодели #OpenSourceAI #Программирование