В июне мы рассказывали, как запускать ИИ прямо на компьютере. Теперь разберёмся с главным вопросом: что туда ставить, если у вас не игровой монстр, а обычный ноутбук?
Для старта можно ориентироваться так 👇
💻
Хотите просто попробовать → Qwen3 4B
Небольшая модель, которая нормально подходит для текстовых задач: придумать идеи, переписать текст, сделать краткое саммари или помочь с несложным запросом. В 4-битной квантовке ей нужно около 2–3 ГБ под веса, поэтому на компьютере с 16 ГБ остаётся достаточно памяти для системы и других программ.
🍏
16 ГБ на Mac с Apple Silicon → Qwen3 8B
Более мощный вариант для повседневной работы с текстом. В Q4 веса занимают примерно 4,5–5,5 ГБ, поэтому 16 ГБ — вполне рабочий сценарий. Но чем длиннее контекст и больше одновременно запущенных приложений, тем сильнее растёт нагрузка на память.
🔥
Хотите модель помощнее → Gemma 3 12B
Тоже можно попробовать на 16 ГБ, но здесь уже без иллюзий: это вариант на грани комфортной работы. В Q4 веса занимают около 7 ГБ, а память дополнительно нужна для контекста, самой программы и операционной системы. Поэтому с длинными запросами и кучей открытых приложений ноутбук может начать заметно тормозить.
И важный нюанс: если модель весит, например, 7 ГБ, это не значит, что ей нужно ровно 7 ГБ оперативки. В работе добавляются контекст, KV-кэш и память самого приложения.
Поэтому правило простое: чем меньше памяти у компьютера, тем важнее смотреть не на «самую большую модель, которую удалось запустить», а на ту, которая работает без превращения ноутбука в обогреватель 🚒
А если хочется начать без терминала — LM Studio позволяет скачивать GGUF-модели и запускать их через обычный интерфейс чата.
А какая модель стоит у вас локально?