🔥 Qwen3.8-27B можно запускать локально на Mac с Apple Silicon - вышла 4-битная сборка для MLX.
Команда LM Studio подготовила версию модели на 27 млрд параметров, оптимизированную для чипов Apple. Она поддерживает текст и изображения, а файлы занимают около 16,1 ГБ.
Но 16,1 ГБ на диске не означает, что хватит Mac с 16 ГБ памяти. Дополнительная память нужна системе, вычислениям и кешу контекста.
В исходной публикации ориентир - 24 ГБ объединённой памяти, а для изображений и длинных рассуждений — 32 ГБ. В карточке сборки эти требования не подтверждены; расход памяти зависит от настроек и длины контекста.
https://huggingface.co/lmstudio-community/Qwen3.8-27B-MLX-4bit
Post #5778
4.2K

- 🔥 15
- 👍 7
- ❤ 2