Jev предлагает более дешёвый способ принимать решения с помощью ИИ

Во многих корпоративных ИИ-системах языковая модель не пишет текст и не общается с пользователем, а решает, куда направить обращение, подходит ли документ для RAG, выглядит ли транзакция подозрительной или какую модель выбрать для запроса. Такие решения часто получают, попросив модель сгенерировать текст, а затем превратив его в метку. Выпущенная TypeSafe AI 15 сентября в раннем доступе Jev отвечает иначе: получает состояние приложения и вопросы с заданными типами ответов, а возвращает варианты, оценки и ответы «да» или «нет» с вероятностями. По данным компании, ответ занимает 70–500 миллисекунд и стоит $0,042 за миллион входных токенов; выходные токены бесплатны. За несколько дней для Jev появились интеграции с платформами наблюдаемости и фреймворками ИИ-агентов, включая Pydantic AI и LangChain. TypeSafe пришлось приостановить очередь заявок, а многие стали пользоваться моделью через OpenRouter. На GitHub и Hugging Face тем временем начали появляться открытые альтернативы. Но сам подход старше Jev: это классификация.

👉 Читать полностью