Часть 2
Плюсы
- Приватность — код не покидает машину; критично для регулируемых сфер и клиентов с запретом внешнего AI.
- Нулевая предельная цена — после железа безлимит, без токенов/квот/лимитов.
- Нет зависимости от провайдера — никаких подорожаний, закрытий, депрекейтов моделей.
- Железо сохраняет ценность — игры, другие задачи, перепродажа.
- Хватает на большинство задач — 80–90% повседневного: юнит-тесты, API-интеграции, CLI, home automation, k8s-админка.
- Меньше галлюцинаций на узких задачах.
- Быстро улучшается — за 2 года от 7B-бессвязности до агентных 35B.
- Заставляет инженерить лучше — декомпозиция, спеки, явная архитектура; «остаёшься в курсе того, что строится».
- Контроль и тюнинг — расширяемый харнесс, AGENTS.md, квантизация как ручка скорость/качество.
- Устойчивость к рыночным потрясениям.
Минусы
- Ниже сырая способность — не думает архитектурно, не достраивает невысказанное. «Не скажешь убрать debug — не уберёт».
- Ненадёжный edit-тул — самая частая боль: несовпадение пробелов, hex-дампы, 5–6 неудачных попыток правки, хуже с ростом контекста.
- Loop'ы — застревает в рассуждениях, перечитывает файлы вместо повтора правки.
- Нужен постоянный контроль — явно задавать архитектуру/скоуп; не set-and-forget.
- Лимит контекста — деградация после ~100–150K даже на 256K-моделях; 65K мало для реальных кодовых баз.
- Дорогое железо на старте — от $2K (Mac Mini 48GB) до $4.4K+ (две 3090); окупаемость годами.
- Электричество — круглосуточный риг/Studio, часто забывают в расчётах.
- Слабо в UI/фронте — polish отдают фронтиру.
- Плохо меняет уровни абстракции — имплементация ↔ архитектура не так гладко.
- Сложная настройка — харнесс, инференс-движок, квант, KV-cache, chat-template, сэмплеры — всё влияет, нужен глубокий технический бэкграунд.
- Когнитивная нагрузка «криво держу?» — постоянное гадание «промпт или модель».
- Нереально для не-инженеров — без 512GB+ RAM и настройки.
- Компромиссы квантизации — Q4 быстрее но больше ошибок/loop'ов; Q8 меньше loop'ов но ~3× медленнее.
- Бенчмарки завышают — open-weight бенчи могут геймиться, реальное ощущение хуже.
Post #862
999
- 👍 17