Пока все соревнуются в том, кто лучше генерирует текст, TypeSafe предложила другой слой для агентных систем — Jev.
Jev не пишет ответ токен за токеном. Он получает состояние задачи и набор разрешённых решений, а возвращает одно из трёх типизированных действий:
— выбор из вариантов;
— оценку по шкале;
— ответ «да / нет»;
— плюс вероятность и confidence.
То есть вместо цепочки
LLM → JSON → парсер → retry, потому что JSON сломалсяможно сделать так:
state → Jev → choice / score / boolean → обычный код.Для агента это «умный if»: выбрать следующий tool или субагента, решить
retry / stop / ask human, оценить риск действия, отсортировать источники RAG или проверить, нужен ли ручной контроль.Почему это интересно
Многие решения внутри агентного цикла вообще не требуют красивого текста. Нужен быстрый и строго ограниченный выбор. Jev не может вернуть вариант вне заданного списка — но это не означает, что он всегда выбирает правильный вариант. Ошибки смысла остаются, поэтому нужны
other, пороги confidence и fallback на человека либо сильную LLM.TypeSafe заявляет до 193× меньше latency и до 445× меньшую стоимость по сравнению с LLM-workflow. Это собственные eval’ы компании, а не независимый бенчмарк. Цена в early access — $0,042 за миллион входных токенов; оригинальный Jev пока закрытый и работает как внешний US API.
Аналоги уже появились
Под именем OpenJev возникло несколько независимых открытых проектов:
— один читает logits обычной Qwen3.5‑4B: модель один раз понимает контекст, затем параллельно оценивает заранее написанные варианты без генерации текста;
— другой дообучает Qwen3.5‑4B как NLI cross-encoder: «утверждение следует из текста / противоречит ему / нейтрально»;
— обычные reranker-модели решают более узкую задачу — ранжируют найденные документы, но не являются полноценным диспетчером агентного цикла.
Это не клоны Jev. У открытых вариантов пока нет доказанной калибровки вероятностей и нет гарантии, что они повторяют качество/экономику оригинала. Но как локальный decision-layer они уже интересны.
На базовом Mac mini M4 с 16 ГБ 4B-версия в Q4 поместится без проблем. Это не замена Claude/Codex, а небольшой локальный сервис перед ними: дешёво сортирует поток, а сложное и неуверенное отдаёт сильной модели.
Рабочая схема выглядит так:
жёсткие правила в коде → локальный OpenJev/классификатор → сильная LLM или человек для сложных случаев.Для российского корпоративного контура это особенно практично: оригинальный Jev лучше не кормить рабочими документами, а OpenJev-подобный слой можно запускать локально или воспроизводить на российском API со structured output.
Оригинальный Jev · Jev в Vercel AI Gateway · OpenJev browser lab · Qwen3.5‑4B OpenJev
