35B‑модель на RTX 5080 и RTX 3060: 109 ток/с через PCIe Gen2 x4 #habr
https://habr.com/ru/articles/1093074/
Tags: llama.cpp, локальные llm, moe, gguf, инференс llm, vram использование, pcie, qwen3.6, qwen 3.6 27b, локальный ии
Author: intelidev
Post #325419
88