Нужно это для того, чтобы верно выбрать тип модели под конкретную задачу. Разберемся, что означают символы на примере qwen3-coder-30b-a3b-instruct-fp8.
Qwen3 — название и поколение модели
В примере — семейство от Alibaba третьего поколения. Аналогично Llama3, Gemma3, Mistral и другие.
Coder — специализация
В примере — модель дополнительно обучена на коде. Встречаются и другие профили, например math, vision или audio. Если специализации нет, модель универсальная.
30B — размер модели
В примере — 30 миллиардов параметров. Чем их больше, тем модель умнее и требовательнее к ресурсам.
A3B — активные параметры
В примере — архитектура MoE (Mixture of Experts / Смесь экспертов). Модель весит как 30B, но при обработке запроса задействует только три миллиарда параметров. Это делает ее быстрее и экономичнее.
Instruct — уточнение типа модели
В примере — дообученная на диалогах модель, которая понимает формат взаимодействия в чате. Именно такие модели используют в ИИ-ассистентах. Без этого тега пишут базовые модели, которые предсказывают следующий токен, но не умеют «общаться».
FP8 — квантование (сжатие)
В примере обозначение показывает, что веса модели хранятся в формате 8-битных чисел. Чем ниже разрядность, тем меньше места занимает модель и больше вероятность неточности.
Сохраняйте шпаргалку. Она пригодится при выборе в Foundation Models Catalog — нашем каталоге преднастроенных моделей с готовым API ➡️