TGViewer
КПД КПД @quant_prune_distill · 3.49K subscribers
Post #446 2.86K
Развлечения ради квантанул свежевышедшую gemma-3-27b-it через GPTQ (генно-модицированной версией с парой примбамбасов).

Картиночную SigLIPовскую тушку не трогал, она все равно маленькая.

Евалы на бенчах надеюсь добавить позднее, но вроде отвечает связно на паре VLM примерчиков.

[Карточка модели на лицехватс]

UPD 20.03.25

Метрики на OpenLLM Leaderboard v1 добавил.
  • ❤ 13
  • 👾 1
More from @quant_prune_distill
  1. Oct 7, 2026А еще есть красивая демка
  2. Oct 7, 2026⚙️ Метод MMD есть мера различия между двумя распределениями P, Q. Задается некоторый полож…
  3. Oct 7, 2026🧠 Representation-Space MMD for Diffusion Language Models 📄 Статья Первое, что приходит в…
  4. Oct 7, 2026А вообще, можно энкодить все на языке brainfuck и иметь Тьюринг-полную систему.
  5. Oct 7, 2026Jev не генеративен, потому что он не выбирает следующий токен, а выбирает один из варианто…
  6. Oct 6, 2026Совпадение? Не думаю!
Threads Profile ViewerView any public Threads profile without an account.Open ThreadLook →Writing with AI? Make it sound human.Metric37 rewrites AI drafts so they read naturally. Free AI detector, 1,500 words free.Try Metric37 →