Развлечения ради квантанул свежевышедшую gemma-3-27b-it через GPTQ (генно-модицированной версией с парой примбамбасов).
Картиночную SigLIPовскую тушку не трогал, она все равно маленькая.
Евалы на бенчах надеюсь добавить позднее, но вроде отвечает связно на паре VLM примерчиков.
[Карточка модели на лицехватс]
UPD 20.03.25
Метрики на OpenLLM Leaderboard v1 добавил.
Post #446
2.86K

- ❤ 13
- 👾 1