В Doom новая модель Jev от создателя CрatGPT принимает около десяти решений в секунду. Пока большая языковая модель расписывала бы следующий ход, в игре уже давно было пора уворачиваться и стрелять.
За Jev стоит TypeSafe и Диогу Алмейда, соавтор InstructGPT и один из людей у истоков ChatGPT. После двух лет в стелсе команда представила System One Models — модели для быстрых решений. В архитектуре ИИ появилось новое слово, за которым стоит конкретный способ ускорить агентов.
Обычная генеративная LLM собирает ответ последовательно, токен за токеном. Jev получает контекст и параллельно оценивает заданные вопросы. Результат типизирован: программа заранее знает, какие варианты ответа и вероятности ей придут.
Например, прилетело обращение в поддержку. Клиент недоволен? Проблема срочная? Нужен человек? Вместо сочинения о чувствах клиента код получает оценки по всем трём вопросам и выбирает дальнейшее действие.
На таких развилках и проходит жизнь агента. Какой инструмент вызвать, какой документ подходит, можно ли продолжать, получился ли нужный результат. Заставлять большую модель каждый раз писать ответ — дорогое удовольствие, умноженное на число шагов.
TypeSafe обучает Jev методом RLCD — обучения с подкреплением для калиброванных решений. Метод здесь нацелен на выбор решения и калибровку уверенности.
Выдала модель 82% уверенности для группы похожих случаев — примерно в 82% из них она должна оказаться права. Тогда уверенность становится числом, по которому можно писать программную логику: выше заданного порога продолжать, ниже — отправлять на дополнительную проверку.
У Every получился показательный опыт: 37 документов, по 21 вопросу к каждому. Jev вернула 777 оценок менее чем за 0.7 секунды. Всё вместе обошлось примерно в четверть цента.
Цена Jev — $0.042 за миллион входных токенов. Выход бесплатный. Во внутренних тестах TypeSafe на задачах со структурированными решениями получила до 193.6x ускорения и до 444.6x снижения стоимости относительно генеративных моделей OpenAI, Anthropic и DeepSeek.
При такой экономике проверку можно ставить на каждом шаге. В тот же бюджет помещается больше попыток, больше сравнений, больше исправлений до того, как результат попадёт к человеку. Вот откуда берётся настоящий прогресс агентов.
Для Hermes отсюда складывается архитектура: Astra-подобный оркестратор держит длинный контекст и строит план. Jev быстро оценивает развилки, выбирает действия и проверяет результат. Код пишут
Эта штука способна придать новое дыхание ИИ-революции.
Запуск · Тест Every · Разбор Futuris · График