Что за Jev и почему о нём все говорят

Интернет взбаламутила новая модель под названием Jev. Как её только не называли – и новым классом искусственного интеллекта, и возможной заменой больших языковых моделей, и чуть ли не появлением новой архитектуры ИИ-сервисов. Теперь, когда первый шум улёгся, можно разобраться, что именно показал стартап TypeSafe AI и почему довольно простая, на первый взгляд, технология вызвала такой интерес.

Последние несколько лет индустрия развивалась в сторону усложнения – модели становились больше, умнее и универсальнее, пытаясь одновременно писать, программировать, искать информацию и управлять другими сервисами. Jev задаёт вопрос: а что, если значительной части задач вообще не нужна большая языковая модель? Он не умеет писать тексты, генерировать картинки или вести диалог. Более того, модель вообще не генерирует контент в привычном смысле, зато умеет кое-что другое – принимать решения. Ей можно дать несколько вариантов и попросить выбрать наиболее подходящий, оценить результат по заданной шкале или определить вероятность какого-то утверждения. Например, решить, к какой теме относится письмо, какой инструмент должен использовать ИИ-агент или достаточно ли хорошо он выполнил задачу.

Зачем вообще понадобилось отдавать принятие таких решений отдельной модели? Дело, как нетрудно предположить, в меняющейся экономике ИИ. По мере распространения ИИ-агентов выяснилось, что большая часть их работы заключается не в написании романов и решении олимпиадных задач, а в принятии сотен небольших решений: куда пойти дальше, какой сервис вызвать, как проверить результат, нужно ли попробовать ещё раз. Сейчас для этого часто используются мощные и дорогие модели – их запускают ради ответа, который сводится к числу или выбору «да/нет». Jev создан для избавления от этой избыточности – TypeSafe обещает ответы за доли секунды и стоимость около четырёх центов за миллион входных токенов.

Причём возник Jev не в вакууме. Масштаб проблемы заметен даже на уровне государственной политики: в Китае заговорили о «токен-экономике», которая должна обслуживать распространение ИИ-агентов и многократный рост вычислений. Похожий разворот происходит и на уровне самих моделей. Например, Needle умеет даже на микроконтроллерах разбирать команды и выбирать нужные действия без обращения к большой LLM, другие компании тоже создают подобные решения. Направление единое – вместо одной универсальной нейросети на все случаи жизни появляются отдельные модели для разных видов работы.