Post #3044
1.41K
Order of Six Angles Протестировал много моделей для анализа малвари, в итоге пока остановился на варианте Jackrong/Qwopus3.6-27B-Fusion-GGUF (Q3_K_M) с 48к контекста для 16 ГБ врам. После заполнения контекста правда скорость примерно 16 токенов в секунду. Попробуйю найти подобное…

с МТП гораздо быстрее