Jev от TypeSafe: модель без генерации текста, зато в 200 раз быстрее и без галлюцинаций

Инженер, работавший над методами, которые легли в основу ChatGPT, два года строил модель, которая использует новый принцип генерации ответов.
Модель Jev работает в 20-200 раз быстрее, в 40-400 раз дешевле, выходные токены бесплатны, галлюцинации исключены.

⚙️ Что это:
«System One» модель по Канеману. Вместо строк выдаёт типизированные решения с калиброванными вероятностями. Не замена LLM, а «умные if-выражения»: классификация, маршрутизизация, извлечение, ветки кода.
На вход подаются неструктурированные данные, на выходе получаем типизированные структуры.

🧠 В чём трюк:
LLM пишут текст последовательно, токен за токеном: дорого, медленно, и всегда есть шанс галлюцинации.
Jev отказывается от строк и считает вероятности параллельно.
Ошибки типов исключены математически, уверенность откалибрована.
Назван в честь парадокса Джевонса: чем дешевле интеллект, тем больше на него спрос.

💼 Зачем бизнесу:
Для кода LLM это узкое место: ответ за 3-300 секунд плюс разбор строк. Jev отвечает за 70-500 мс готовой структурой.
Применимо к маршрутизации, скорингу, модерации, разметке данных. $0,042 за миллион входных токенов, выход бесплатный.

Пока доступна только запись в очередь на пробу.

🔗 Ссылки:
- Блог TypeSafe
- Тред на X

#AI #модели #Jev #TypeSafe
------
@tsingular