Кажется, в AI появляется интересный поворот: вместо «давайте сделаем LLM ещё умнее» — «давайте сделаем модель, которую нормально вызывать из кода».
TypeSafe AI представили Jev — первую модель из класса System One Models.
Идея довольно простая: Jev не генерирует текст. На вход получает неструктурированные данные/состояние системы, а на выходе отдаёт типизированное решение + вероятность.
То есть условно не:
«Изучив обращение клиента, я считаю, что его следует передать в billing…»
а что-то вроде:
route = BILLING
confidence = 0.97
Для разработчика разница фундаментальная.
Обычная LLM — это генератор строк. Даже если просить JSON, всё равно приходится думать про schema validation, retries, hallucinations и ситуацию, когда модель внезапно решила ответить не совсем тем, что ожидает код.
Jev изначально ограничивает пространство возможных ответов заданными типами. TypeSafe утверждает, что type errors здесь невозможны архитектурно.
Второй интересный момент — скорость.
LLM генерирует токены последовательно. Jev выдаёт свои решения параллельно. Компания заявляет latency примерно 70–500 мс и в своих workflow-тестах показывает очень большую разницу по стоимости и скорости относительно frontier LLM.
И вот здесь становится интересно.
Последние несколько лет AI в основном строился вокруг интерфейса:
human → prompt → LLM → text → human
А System One Models предлагают другой паттерн:
software → state → model → typed decision → software
По сути, AI превращается в «умный if».
Классифицировать.
Маршрутизировать.
Оценивать риск.
Выбирать следующий шаг.
Извлекать признаки.
Проверять результат другой модели.
Причём таких вызовов потенциально можно делать сотни или тысячи внутри обычного workflow.
Это менее эффектно, чем очередной AI-агент, который «сам всё делает». Но с инженерной точки зрения подход мне кажется гораздо интереснее: вместо попытки дать модели максимум свободы — максимально ограничить контракт и сделать intelligence обычным компонентом программы.
Если заявленные характеристики Jev подтвердятся на реальном проде, может оказаться, что один из самых полезных способов использования AI — вообще не чат.
А очень быстрый и дешёвый вероятностный оператор внутри обычного кода.
Оригинальный анонс: TypeSafe AI — Introducing System One Models & Jev
Post #142
113