И судя по некоторым постам, человечество опять изобрело новый вид нейросетей. Поэтому давайте быстренько разберёмся, что там на самом деле.
Jev — это не LLM в привычном смысле. Он вообще не генерирует текст.
На вход ему дают
state + набор типизированных вопросов, а на выходе получают choice / score / probability с вероятностями. Причём все решения считаются параллельно, без авторегрессивного token-by-token decode.То есть условно:
LLM:
текст → reasoning → JSON → надеемся, что JSON нормальный → парсимJev:
состояние → [A: 0.73, B: 0.21, C: 0.06]TypeSafe называет это System One Model(кстати сразу заметен всплеск System1 моделей на hf, но это конечно же в основном ерунда) и утверждает, что специально под такую задачу сделали новую архитектуру, parallel sampler и objective RLCD — Reinforcement Learning for Calibrated Decisions.
Официальный анонс: Introducing System One Models & Jev — TypeSafe AI
И вот тут как раз начинается самое интересное.
Чем это отличается от LLM?
LLM — универсальная generative-модель. Она умеет писать код, тексты, рассуждать и т.д., но для банального
это spam или not_spam? всё равно запускает довольно дорогой генеративный тракт.Jev сознательно выбрасывает генерацию строк и оставляет только decision layer: classification, routing, ranking, scoring, moderation, выбор tool'а и подобные задачи.
Поэтому он потенциально намного дешевле и быстрее.
Но погодите. А BERT мы забыли?
Нет 🙂
BERT + classification head делает примерно то же самое уже много лет:
BERT: Pre-training of Deep Bidirectional Transformers
Но обычный BERT-классификатор обучается под фиксированный набор классов. Изменили taxonomy — обычно снова fine-tuning.
У Jev классы/вопросы задаются прямо во время запроса. Сегодня определяем sentiment, завтра выбираем один из 70 tools, послезавтра оцениваем вероятность fraud — отдельную модель под каждый кейс обучать не надо.
Впрочем, и это не появилось вчера.
Например, zero-shot NLI давно позволяет подсовывать произвольные labels.
А ещё есть GLiClass — open-source generalist classifier из 2025 года: dynamic labels, zero-shot/few-shot и один forward pass:
GLiClass: paper | GitHub
Совсем свежий Laya пошёл ещё дальше и фактически воспроизводит саму идею System One: open weights, ModernBERT/mmBERT backbone, typed decisions, probabilities, multilingual:
Laya model/source: 🤗 HF
Так что лично для меня главное в Jev — не «они изобрели классификацию».
Интересна комбинация:
dynamic tasks + calibrated probabilities + отсутствие autoregressive decoding + машинно-типизированный API + отдельный training objective именно под принятие решений.
Это реально очень правильная идея для агентов. Большой LLM совершенно не обязательно должен принимать каждое микрорешение в системе.
Но пока я бы немного придержал слово «революция»: TypeSafe ещё не выложили ни веса, ни полноценный paper с архитектурой и рецептом обучения. Есть официальный анонс, API, бенчмарки и уже первые независимые работы с Jev: Calibrated Decisions at Scale — Jev
В общем — направление мне нравится. Особенно сама идея разделения дорогого «думания» и очень дешёвого decision layer.
Также интересно было бы посмотреть реализацию этого подхода с учётом тренда на рекуррентные и looped transformers.
А я тем временем перестаю читать чужие анонсы, прямо сейчас начинаю претрейн с нуля нашей собственной LLM(подробности позже) и вообще улетаю в отпуск.
Stay tuned ^_^