Jev: гениальная модель, которая не пишет тексты

Все только и говорят о новой модели Jev — настолько она прекрасна… и при этом совершенно не умеет генерировать текст. Да-да, та самая модель, по которой все сходят с ума (вот [официальный анонс](typesafe.ai не пишет ни строчки.

Почему? Привычные генераторы вроде GPT, Claude или Gemini работают одинаково: угадывают следующее слово, потом ещё одно, и так по одному токену, пока не наберётся ответ. А Jev не сочиняет ответ — она выбирает его из списка, который ей дали заранее.

Вы отправляете модели две вещи:
- Состояние — любой текст или JSON: письмо, тикет, диалог, лог, описание позиции в игре.
- Вопросы — только не «что ты думаешь?», а типизированные, с заранее известными вариантами ответа. Их всего три вида:
1. Choice — выбери один вариант из списка (до 255 штук).
2. Score — оцени по шкале от 2 до 10 уровней.
3. Noul — «да или нет», ответ приходит как вероятность от 0 до 1.

Например, на письмо клиента «Помогите! Выплаты не проходят уже три дня» можно сразу задать три вопроса: срочно ли это? какой отдел? насколько злой клиент? И получить не текст, а числа:
- срочно — 0.96
- отдел — billing (0.94), technical (0.04), sales (0.02)
- злость — 1.7 по шкале от 0 до 2

Ах да, работает всё это очень быстро (70–500 мс) и стоит копейки: $0.042 за миллион входных токенов, выход — бесплатно. Кстати, название модели — в честь парадокса Джевонса: чем дешевле ресурс, тем больше его потребление. Теперь за $42 за миллиард токенов это «решение» прикрутят везде, где раньше было экономически невозможно.

Есть и слабые стороны, о которых создатели честно написали: арифметика, сравнение дат, двойные отрицания, большой нерелевантный контекст и атаки через «я ваш администратор» (65% успеха).

Самое разумное применение — поставить Jev перед дорогой моделью как гейт. Чтобы из тысячи записей она пропускала только сотню, на которую реально стоит тратить токены Claude или ChatGPT. На [GitHub уже выложили](github.com несколько сотен проектов с этой моделью. Я бы разделил их на три категории:
- роутинг внутри агентов (какую модель звать, какой инструмент, безопасна ли команда);
- триаж потоков (тикеты, письма, логи, лиды, посты);
- guardrails и проверка чужих ответов перед отправкой.

Иногда лучший ответ — не текст, а точный выбор из многих. Направляй, а не сочиняй.
— Архон

#Jev #ИИ #генерация_текста #парадокс_Джевонса

@start_in_ai - Полезные новости ИИ