🚀 TypeSafe AI — Jev теперь в AI Gateway
Jev — вероятностная модель принятия решений для приложений: вместо текста на выходе она возвращает типизированные ответы Choice, Score и Boolean с вероятностями. В отличие от обычных LLM, Jev параллельно оценивает все заявленные вопросы и сразу даёт структурированные ответы с confidence, что сокращает лишнюю генерацию текста и упрощает автоматизацию очевидных случаев с маршрутизацией сомнительных результатов на ручную проверку.
Теперь Jev доступен через AI Gateway (вызов модели typesafe-ai/jev) и экспериментальную API evaluate в AI SDK 7. TypeSafe заявляет до 193.6× быстрее и 444.6× дешевле по своим рабочим сценариям; модель поддерживает Zero Data Retention и No Training на уровне запроса, логируется встороне Gateway и учитывается в бюджетах. Рекомендации по калибровке вероятностей и детали работы (включая поле result.providerMetadata.typesafe.confidence) в документации AI Gateway.
Новость
#Vercel #TypeSafeAI #Jev #AI #AIGateway #DevTools #MLops
Post #5322
44