Сейчас большие языковые модели используют почти для всего.
Нужно написать текст, выбрать инструмент для агента или принять решение — вызываем LLM. Хотя во многих таких задачах сложного рассуждения вообще не требуется.
По сути, мы зовем профессора математики решить, на какую кнопку нажать.
И, похоже, для таких задач начинает формироваться отдельный класс ИИ-моделей — модели решений.
Они не генерируют текст, а получают описание текущей ситуации и возвращают конкретное решение с вероятностью.
Один из примеров — Jev от TypeSafe AI. Компания называет такие модели System One Models — по аналогии с «Системой 1»: быстрым автоматическим мышлением без длинной цепочки рассуждений.
Но мне здесь интереснее не сама Jev, а новый подход к принятию решений агентами.
Раньше мы выбирали между обычным условием, например
«if amount > 10000», и большой языковой моделью.Теперь появляется третий вариант:
«if P("операция подозрительна") > 0.9».Условие остается частью программы, но становится вероятностным. И экономика уже позволяет использовать такие решения массово.
TypeSafe указывает цену Jev $0,042 за миллион входных токенов, выход отдельно не тарифицируется, а заявленная задержка — 70–500 мс.
Если одно смысловое решение становится настолько дешевым, ИИ можно запускать почти на каждом событии в системе.
Пришло письмо — определили срочность и важность, или появился лид — оценили вероятность сделки. И такой подход уже начали использовать.
Уже можно создать браузерного агента, где Jev выбирает следующее действие. Есть pg-jev для PostgreSQL, позволяющий прямо внутри SQL задавать смысловые условия вроде «клиент сильно недоволен». Jev также можно использовать как модель-судью для проверки работы других агентов.
Jev в собственных тестах TypeSafe до 193 раз быстрее и до 444 раз дешевле языковых моделей.
Но независимый тест показал 0,33 секунды против 1,17 у GPT-5.6 Terra и $0,015 против $0,609 за тысячу решений. При этом на более сложной задаче точность Jev была 78,8% против 84%.
Я тоже провел эксперимент: прогнал сотню писем и попросил определить их срочность, важность и несколько других признаков.
Jev обработал их меньше чем за секунду и $0,01, а GPT-5.6 Luna потребовалось около 30 секунд и $0,07. Это, конечно, не независимый бенчмарк, но хорошо показывает возможную экономию.
Поэтому Jev — это не «GPT, только в сто раз дешевле». Мне кажется, так на подобные модели смотреть неправильно.
Самый интересный сценарий — каскад разных уровней интеллекта:
• Сначала обычный код решает все, что можно определить точно;
• Затем модель решений обрабатывает дешевые смысловые задачи;
• Если она не уверена — подключается небольшая языковая модель;
• Потом более сильная модель рассуждения;
• И только в самых сложных случаях — человек.
Можно собрать сотню примеров с правильными ответами, прогнать их через Jev и большую модель, на отдельной выборке определить порог уверенности и все спорные случаи передавать более сильной модели или человеку.
Конечно, модели решений не заменят LLM.
Структурированный ответ еще не означает правильный ответ. Для стратегии, исследований, программирования и планирования большие модели по-прежнему подходят намного лучше. Но сам ИИ-стек может поменяться.
Причем всего через несколько дней после Jev уже появилась открытая модель Laya с похожим подходом.
Пока рано говорить о новом полноценном рынке. Но, похоже, действительно начинает формироваться отдельная технология — модели решений.
Большая языковая модель может остаться «мозгом» агента, а модели решений заберут его «рефлексы».
👉 Полная статья
#технологии
