Supersonic Labs представила Julia 1 - компактную мультиязычную модель для принятия решений без генерации длинного текста.
Она получает контекст, вопрос и от 2 до 20 вариантов, после чего выбирает лучший и возвращает оценки для каждого варианта.
Главное:
- всего 144,3 млн параметров;
- работает полностью на CPU;
- построена на базе
mmBERT-small;- 73,15% на Typed Decisions против 72,7% у Jev reference;
- 71,5% на MASSIVE сразу по 52 языкам;
- на Apple M4 — до 51,2 решения/с в batch-режиме;
- запускается даже на Android-планшете;
- обучение и эксперименты обошлись команде примерно в $104.
Модель подходит для routing, классификации, yes/no решений, ранжирования и выбора действий.
Веса открыты под Apache 2.0.
Проект:
https://supersoniclabs.ia.br/julia-1/