Post #3043
1.53K
Протестировал много моделей для анализа малвари, в итоге пока остановился на варианте Jackrong/Qwopus3.6-27B-Fusion-GGUF (Q3_K_M) с 48к контекста для 16 ГБ врам. После заполнения контекста правда скорость примерно 16 токенов в секунду. Попробуйю найти подобное по качеству, но с MTP