Посты с Хабра + бонусом opennet
Бот на гитхабе: https://github.com/shpaker/feedforbot
Подписывайтесь на меня чтоб мне было радостней: @g33ks
Советы/предложения/камни в спину ловит: @shpaker
Post #322874
91
Qwen3.8–27B на двух RTX 3060 12ГБ: как я разогнал OpenCode с ~9 до ~40 токенов/с при 128K контекста #habr
https://habr.com/ru/articles/1086742/
Tags: Qwen3.8, llama.cpp, RTX 3060, local LLM, MTP, speculative decoding, multi-GPU, GGUF, OpenCode, KV cache
Author: webthefirst
https://habr.com/ru/articles/1086742/
Tags: Qwen3.8, llama.cpp, RTX 3060, local LLM, MTP, speculative decoding, multi-GPU, GGUF, OpenCode, KV cache
Author: webthefirst