Нежданчиком аккурат между двумя лидерами локального инференса прошлого поколения залетела в рейтинг моделька K2 Horizon 7B.
Модель на 7 миллиардов параметров, почти в 4 раз меньше Qwen3.6-27B (эта модель была лидером среди локальных моделей до выхода Qwen3.8-27B месяц назад).
Общий размер весов без квантизации BF16 18GB и целиком влезает на одну карту RTX3090 и остается место под контекст.
А контекст у нее, на секунду, 512к токенов 😱
В общем, закупайтесь картами пока не поздно )