کیفیت یک مدل لزوما به جدید بودنش نیست!
اتفاقا یکم مدل نسبتا جدید مثل Qwen 3.5 9B
اگر درست تیون بشه میتونه نتایج خیلی خوبه بده
این نمونه، به مدل ornith 1 که post train از qwen بوده، یک MTP اضافه و کوانتایز کرده که سرعتش بره بالا
*Multi-token prediction
https://huggingface.co/protoLabsAI/Ornith-1.0-9B-MTP-GGUF
@DevTwitter | <Arta/>
Post #12905
6.53K
- 👍 14
- 🍌 7
- ❤ 3