📊 Qwen3.8 27B обошла GPT-5.6 в SQL-бенчмарке локально на 16 ГБ

Локальная Qwen3.8 27B на MacBook Air M5 с 32 ГБ памяти выбила 98,6% точности в бенчмарке DABstep и обошла OpenAI GPT-5.6 Luna Max по результату, а запуск 4-битной версии стоил меньше $0,50 против $8 у Luna Max — разница больше чем в 17 раз. Это не абстрактный конкурент с открытыми весами: модель гоняла SQL-запросы к DuckDB прямо на ноутбуке, а для масштабирования достаточно переключить тот же агентский слой на MotherDuck. Полные цифры и настройка — в разборе на Habr.

В бенчмарке сравнивали ответы агентов на вопросы по данным: Gemini-3-Flash осталась точнее всех, но стоит в 2,3 раза дороже Luna Max, а Kimi K3 при высокой точности не даёт ценового преимущества. У Qwen3.8 две квантованные версии: 4-битная показала 98,6%, 3-битная на старом MacBook Pro M1 Pro с 16 ГБ — 96,4%. На новом Air модель выдавала 5–7 токенов в секунду, на M1 Pro — около 5, а включение MTP (multi-token prediction) ускорило генерацию на 30% на M5 и замедлило на старом железе.

За скорость пришлось платить временем: Qwen тратила 5–6 минут на ответ, тогда как Gemini-3-Flash — 25 секунд, а GPT-5.6 Luna — 40. Локально удавалось запускать только один промпт за раз, в облаке автор гонял по 15 параллельных вопросов. Слой контекста для бенчмарка по-прежнему готовила крупная облачная модель Fable 5, а «бесплатный» инференс с учётом амортизации $2000 ноутбука за 4 года выходит около $6 на 1000 ответов. Больше 16 ГБ ОЗУ есть примерно у трети ноутбуков, а подходящих Mac с 16 ГБ и выше — примерно один из тридцати.

Локальный инференс пока не заменяет облако, а меняет режим работы: фоновые SQL-задачи с низкой ценой ошибки и готовностью ждать по 5 минут. Для рутинных ночных прогонов порог пройден, и главный вопрос теперь не модель, а пропускная способность памяти конкретного ноутбука — именно она решает, уложитесь вы в 90 секунд или будете ждать 6 минут.

#Qwen3 #DuckDB #локальныйинференс #SQL #бенчмарк