Btw релизнули свой первый результат в рисерче.

Выкатили первые квантизованные версии моделей Qwen 3.5.

За счет совместной оптимизации квантизации и движка инференса нам удалось заметно обойти Unsloth/llama.cpp и MLX по ключевому компромиссу «качество vs скорость». На устройствах Apple от iPhone до мощных Mac модели выдают на 40–60% больше токенов в секунду без потери качества.

Пост

hf collection