Post #347
381
Tabiiy Intellekt 2-bit kvantlangan Qwen3-8B. Bir necha oydan beri ekstrim kvantizatsiya ustida ishlayapman. Bir narsalarni bo'lishsam bo'lar ekan. Mana: https://huggingface.co/gitarist/Qwen3-8B-BPDQ-2bit Model barcha quvvatini ushlab qolmagan, lekin ko'p qismini olib…

Kecha yangi modellar chiqgan ekan. Ozgina kernel improve qilib berishdi.
- ❤ 3
- 😁 2