⚡️ Liquid AI выпустила модели, которые принимают решения и не генерируют ни одного токена

Liquid AI представила decision models, первая из них называется d1. Модель получает контекст в виде текста или JSON и за один вызов возвращает откалиброванные вероятности по заранее заданным вариантам ответа.

Вопросы бывают трёх типов: «да или нет» с вероятностью от 0 до 1, выбор из нескольких вариантов с распределением вероятностей и оценка по шкале. Несколько вопросов можно задать в одном запросе.
Ответ не нужно парсить, ошибок схемы не бывает, задержка низкая и предсказуемая, а три вызова LLM сливаются в один. Вместе с ответом приходит уверенность модели, поэтому спорные случаи легко отправить на большую модель или человеку.

Архитектурную разницу между конкретными весами d1 и Jev компании пока публично не раскрывают.

Модели: https://docs.liquid.ai/lfm/models/decision-models

Гайд по миграции: https://docs.liquid.ai/guides/decision-model-guide

Демо: https://github.com/Liquid4All/cookbook/tree/main/examples/road-decider

@ai_machinelearning_big_data

#LiquidAI