🖥 Qwen3.8-27B обогнала GPT-5.6 в SQL-тесте: запуск дешевле в 17 раз

Автор эксперимента прогнал тест DABstep: он проверяет, как модель отвечает на вопросы по данным через запросы к базе. Тест запустили на открытой модели Qwen3.8-27B локально на ноутбуке и сравнили с облачной GPT-5.6 Luna Max от OpenAI.

По замеру автора локальная модель оказалась точнее. Запуск обошёлся дешевле $0,50 с учётом электричества, а прогон на GPT-5.6 Luna Max — дороже $8: разница больше чем в 17 раз.

Источник один, независимых проверок нет.

Qwen3.8-27B — открытая модель на 27 млрд параметров от Alibaba по лицензии Apache 2.0, понимает текст и изображения. Держит в памяти до 262 тысяч токенов (фрагментов текста), а при дополнительной настройке — до миллиона.

Для запуска модель сжимают, подбирая версию под объём памяти ноутбука. На ноутбуке с 32 ГБ автор использовал менее сжатую версию (точность около 99%), на ноутбуке с 16 ГБ — более сжатую (точность около 96%). Разница в качестве почти не заметна, а требования к памяти заметно ниже.

🔗 Источник

💬 Telegram | 💬 MAX

#новости #qwen #selfhosted