Последние дни в тредсах и телеграм-группах только и разговоров про Jev

Jev модель, которая не пишет текст, а сразу выдаёт готовое решение в заданном формате: категорию, оценку, вероятность. Обычные LLM пишут токен за токеном по цепочке, а Jev считает все ответы сразу, параллельно.
Поэтому он кратно быстрее: 70–500 мс против секунд у обычных моделей по их собственным замерам, на задачах вида «классифицируй, разметь, выбери».
Стоит $0,042 за миллион токенов на входе, выход бесплатный. Регистрация открыта, новым аккаунтам дают $5 (примерно 120 миллионов токенов)

И главное он не может выдать ответ вне заданной структуры. Ошибиться в самой категории всё ещё может, поэтому к каждому ответу идёт вероятность уверенности: низкая - отправляем на человека.

По сути это умный if прямо в коде: classify, route, score там, где обычная логика слишком хрупкая. Текст при этом он не пишет вообще, только размечает и маршрутизирует.

Теперь про мой опыт.

Под руку подвернулась задача: проанализировать 30 000 входящих сообщений в GetCourse. Отсортировать по типам запросов, внутри типов квалифицировать, вытащить исторические данные ответов кураторов. И потом понять, что из этого вообще может заменить ИИ.

Вот тут Jev и пригодился. Скорость молниеносная, расход мизерный - весь прогон обошёлся в копейки. Но есть нюанс, качество классификации ОЧЕНЬ сильно зависит от того, какие параметры вы задаёте на входе и как квалифицируете.
Мне потребовалось три прогона, чтобы прийти к нормальному результату

Сколько на это ушло бы вручную - даже не представляю.