🟣Unsloth
Вышла квантизация Unsloth https://huggingface.co/unsloth/Muse-Glimmer-30B
https://huggingface.co/unsloth/Muse-Glimmer-30B-GGUF
И подробный гайд https://unsloth.ai/docs/models/muse-glimmer
🟣MLX
MLX — тут будут версии fp4, 8bit и другие https://huggingface.co/models?other=base_model:finetune:meta-models/Muse-Glimmer-30B
Post #1869
9.08K