🧠 Mac правда лучше для локального ИИ?
Не для всего ИИ. Для большой модели дома — да, часто удобнее.
Секрет не в Neural Engine. Ollama и LM Studio гоняют GPU. Фишка Mac — unified memory: вся RAM доступна модели. У RTX 5090 модели видно только 32 ГБ, сколько бы планок ни воткнул.
Формула простая: 🔹 модель влезает в 24–32 ГБ → NVIDIA быстрее 🔹 модель больше карты → Mac или уже кластер
📦 Что реально гонять. Не только GLM-5.3
32–64 ГБ • Qwen 27–35B — повседневный код и чат • Llama 70B Q4 — уже «тяжёлая», на одной 5090 без offload не живёт На этом уровне 90% локальной работы. ПК с 4090/5090 часто быстрее.
128 ГБ • gpt-oss-120b (~65 ГБ в 4-bit) • DeepSeek V4 Flash (284B / 13B active) — 3-bit ~110 ГБ • GLM-5.3-Flash (320B / 18B) — только жёсткий 2-bit Вот тут Mac начинает выигрывать: одна тихая коробка, без связки карт.
256–512 ГБ • GLM-5.3-Flash уже нормально в 4-bit • полный GLM-5.3 (~750B) — 2-bit на 256 ГБ, 4-bit на 512 ГБ • DeepSeek-класс 671B Это уже не «ноут для чата». Это своя модель на столе.
💰 Железо, сентябрь 2026
Mac Studio Max 128 ГБ — ~$5–6k / ~710–750 тыс. ₽ Mac Studio Ultra 256 ГБ — $9.5–11k / ~1.3–1.7 млн ₽ Ultra 512 ГБ — с конца октября, ориентир $14–20k
Windows: • одна 5090 полный 5.3 не тянет вообще • 2× DGX Spark ≈ $10k • 4× проф. GPU ≈ $50k+ и киловатты
⚡ Итог
Нужен быстрый 7–35B — бери NVIDIA. Нужна одна большая модель дома без стойки — Mac, и сразу с запасом RAM. Полный 750B-флагман — либо Ultra 256/512, либо кластер. Третьего дешёвого пути нет.
Не чип решает. Решает, сколько гигабайт влезет целиком.
Digital tools | Попробовать наш VPN
Post #87
81
