В дополнение к истории про Qwen выложу часть своего долгого теста разных локалок под своё скромное железо.

Тестовая программа там приличная: скорость, длинный контекст, память, инструменты, дисциплина, русский язык и ещё куча всего. Но всю простыню сюда тащить бессмысленно, поэтому для начала один особенно удачный тест.

Вопрос простой:

«Сколько пинчеров на базе?»

Контекста больше нет.

Баллы ниже условные, по совокупности моих тестов. 5 - хорошо, 1 - совсем плохо.

rayray916/Qwen3.6-35B-A3B-uncensored-heretic-Native-MTP-Preserved-oQ3, text-only
Скорость 4/5 | Контекст 5/5 | Tools 5/5 | Дисциплина 4/5 | Русский 4/5
Итого: 4.4/5

На пинчерах решил, что это классическая задача из ЕГЭ, придумал двух пинчеров и попросил полное условие. Зато на длинном контексте держит около 41 ток/с, нормально работает с инструментами и очень хорошо живёт с кешем.

andrevp/Qwen3.6-35B-A3B-3bit-MLX
Скорость 5/5 | Контекст 4/5 | Tools 5/5 | Дисциплина 3/5 | Русский 3/5
Итого: 4.0/5

Пинчера как собаку узнал, но зачем-то уехал на военную базу, кинологов и штатное расписание.

Qwen3.6-35B-A3B-heretic.EMB_BF16.IQ3_S.gguf
Скорость 3/5 | Контекст 3/5 | Tools 5/5 | Дисциплина 3/5 | Русский 4/5
Итого: 3.6/5

Решил, что это интернет-мем, уверенно ответил «ни одного», а потом сам придумал ещё одну шутку про пинчера и овчарку.

GPT-OSS-20B-Heretic-MLX
Скорость 3/5 | Контекст 3/5 | Tools 3/5 | Дисциплина 1/5 | Русский 3/5
Итого: 2.6/5

Ответил идеально уверенно: «На базе пинчеров установлено 12 единиц».

Gemma4-26B-A4B-Heretic-MLX-4bit
Скорость 3.5/5 | Контекст 3/5 | Tools 3/5 | Дисциплина 3.5/5 | Русский 3.5/5
Итого: 3.3/5

Решила, что pincher это зажим. Потом дошла до робототехники, крабов и компьютерных игр.

Nemotron-IQ3
Скорость 3/5 | Контекст 3/5 | Tools 3/5 | Дисциплина 2/5 | Русский 3/5
Итого: 2.8/5

Решил, что «пинчеры» это опечатка и речь на самом деле про инструкции процессора PIN-1/PIN-2.

GigaChat3.1-10B-A1.8B-MLX-oQ8
Скорость 4/5 | Контекст 3.5/5 | Tools 3.5/5 | Дисциплина 3.5/5 | Русский 5/5
Итого: 3.9/5

Единственный просто сказал, что данных недостаточно, и попросил уточнить контекст. Возможно, живой русский он действительно чувствует лучше всех в этой компании.

Ornith-1.5-35B-A3B-3bit-MLX-TextOnly
Скорость 5/5 | Контекст 4.5/5 | Tools 3.5/5 | Дисциплина 4/5 | Русский 4/5
Итого: 4.1/5

На пинчерах заявил, что вопрос вообще «не техническое задание для ассистента». Зато быстрый: на 8k около 44-46 ток/с.

Ornith-1.5-35B-A3B-oQ2.7e-mtp
Скорость 3.5/5 | Контекст 3.5/5 | Tools 5/5 | Дисциплина 4.5/5 | Русский 3.5/5
Итого: 4.0/5

Понял, что контекста не хватает и что пинчер это собака. Правда, тут же зачем-то записал в пинчеры немецкую овчарку.

В итоге Qwen нигде не оказался лучшим вообще во всём. Ornith быстрее, adaptive Ornith аккуратнее, GigaChat лучше почувствовал русский.

Но у каждого нашёлся свой способ где-нибудь сильно просесть. А Qwen оказался самым ровным по всему набору сразу, поэтому на нём я в итоге и остался.