🤖⚡️ Jev: ИИ без генерации текста, который принимает решения за доли секунды
Стартап «ТайпСейф ИИ» (TypeSafe AI) представил модель Jev, предназначенную не для написания текста, а для быстрого принятия решений внутри программ и ИИ-систем. Компанию основал бывший исследователь OpenAI Диогу Алмейда – один из авторов работы GPT, сыгравшей важную роль в создании моделей, способных выполнять пользовательские инструкции.
Главная особенность Jev в том, что модель вообще не формирует текстовый ответ. Обычная большая языковая модель даже при простой задаче последовательно генерирует токены: пишет объяснение, формирует JSON, расставляет скобки и только после этого передаёт результат программе.
Jev работает иначе. Ей заранее задают допустимые варианты, после чего модель сразу определяет, какой из них наиболее вероятен, и показывает степень уверенности в решении. Например, при обработке электронной почты Jev может одновременно определить, является ли сообщение мошенническим, насколько оно срочное, относится ли к рекламе или деловой переписке и требуется ли передать его человеку.
📌 Для этого предусмотрены три основных режима работы:
– определение вероятности того, что заданное утверждение верно;
– выбор одного варианта из заданного перечня;
– оценка по шкале, например от «не требует внимания» до «необходимо ответить немедленно».
🔻 Именно отказ от генерации текста обеспечивает основное преимущество Jev.
Для актуальной версии модели заявлен контекст до 64 тыс. токенов, задержка порядка 70–500 мс и стоимость 0,042 доллара за 1 млн входных токенов. Выходные токены отдельно не оплачиваются, поскольку сама модель их не генерирует. По данным TypeSafe, в отдельных тестах Jev работала до 193 раз быстрее и более чем в 400 раз дешевле традиционных больших языковых моделей.
Появились и первые независимые проверки. В одном из экспериментов Jev обработала 37 документов и выдала 777 отдельных оценок менее чем за 0,7 секунды. В другом сравнении модель оказалась примерно в 25 раз быстрее крупной языковой модели, однако по качеству немного уступила ей, пропустив одну из специально внесённых ошибок.
🔻 Отдельный интерес представляет способ обучения Jev.
В TypeSafe разработали собственный подход, который обозначают RLCD. Его смысл заключается в том, что модель учат не только выбирать правильный вариант, но и правильно оценивать степень собственной уверенности. Если Jev указывает вероятность 90%, разработчики стремятся добиться того, чтобы при большом числе аналогичных решений модель действительно оказывалась права примерно в девяти случаях из десяти.
Это важно для автоматизации. Например, решение с вероятностью 99% программа может выполнить самостоятельно, результат с вероятностью 70% отправить на дополнительную проверку другой моделью, а при низкой уверенности – передать человеку.
🔻 Наиболее интересное применение Jev – многошаговые ИИ-системы.
Сегодня крупную модель вроде Claude, GPT или Qwen нередко запускают даже для простейших промежуточных решений: определить сложность запроса, выбрать подходящий инструмент, проверить готовый ответ или понять, требуется ли более мощная модель. Jev позволяет вынести такие операции в отдельный дешёвый слой.
Таким образом, дорогая большая языковая модель занимается только той работой, для которой действительно необходимы генерация и сложные рассуждения, а Jev берёт на себя многочисленные короткие решения между отдельными этапами работы системы.
🔵 Поэтому Jev – не замена GPT, Claude или Qwen.
Она не предназначена для написания статей, программ или проведения полноценного исследования. Её задача гораздо уже: быстро оценить имеющиеся данные, определить наиболее вероятный вариант и решить, что системе делать дальше.
Если подход TypeSafe покажет устойчивые результаты на больших объёмах данных, Jev может занять отдельное место между большой языковой моделью и обычным программным кодом – там, где сегодня для простого выбора зачастую запускают гораздо более тяжёлую и дорогую модель.