Друзья, привет, неделя релизов продолжается.
Наткнулся на подробный разбор Jev на хабре - новой модели от TypeSafe. Через два дня после запуска браузерный агент уже искал авиабилеты за семь секунд, появился торговый бот, а разработчик заявил, что за час пересобрал Tesla Full Self‑Driving на Jev. Ещё через день Jev появился в шлюзах, базах данных, плагинах и фильтрах контента.
Но самое интересное здесь не просто новая нейронка, а принципиально иной способ работы с ИИ.
Обычная LLM генерирует текст, JSON или код. Jev работает иначе: разработчик заранее задаёт конечный набор допустимых решений, а модель распределяет между ними вероятности.
Три базовых режима:
• Noul - ответ «да/нет»;
• Choice - выбор варианта из списка;
• Score - оценка по шкале от 2 до 10.
Например, обращение клиента можно одним запросом проверить на срочность, направить в нужный отдел и оценить уровень раздражения. Модель не сможет внезапно написать стихотворение, вернуть системный промпт или дать неправильную консультацию.
И это радикальный метод борьбы с галлюцинациями. Да, модель может по-прежнему неправильно выбрать варианты или не так проставить оценку. Но при этом пространство для ошибки сужается.
При этом нейронка работает в основном меньше одной секунды и потребляет в сотни раз меньше токенов.
✈️ Пример кейса: поиск авиабилетов за 7,073 секунды. Агент сделал 17 запросов к Jev, 11 действий в браузере и два обращения к другой модели для генерации текста. На Jev пришлось 90 558 входных токенов и около $0,0038. Бронирования не было: агент только нашёл результаты Google Flights, а первоначальная навигация и финальная проверка не вошли в таймер.
То есть Jev - не замена LLM и не универсальный «мозг агента». Скорее, это быстрый и дешёвый слой принятия решений между моделью и обычным кодом.
Где он выглядит особенно уместно:
• маршрутизация запросов между моделями и инструментами;
• модерация, классификация и ранжирование;
• проверка действия агента перед исполнением;
• выбор следующего шага из разрешённого списка.
А генерацию текста, кода, планов, работу с датами и необратимые действия авторы рекомендуют оставлять другим моделям и обычному коду.
По мне главная идея Jev - не «модель без галлюцинаций», а архитектура с ограниченной свободой. Ну и работа в формате JSON в режиме близком к реальному времени дает возможность автоматизации.
Это может сделать агентов быстрее и безопаснее. Но только если нужный ответ есть в списке, состояние собрано корректно, а опасное действие проверяет не сама модель.
Как вам такой подход: шаг вперёд для ИИ-агентов или просто хорошо упакованный классификатор?
PS: к самой нейронке через консоль пока доступа нет (не справляется с нагрузкой), но как появится, протестируем :)
#релиз
� ген ии | MAX