🚀 FRIDA Decisions переносит русскую классификацию с LLM на энкодер

FRIDA Decisions от Сбера решает задачи выбора метки, оценки, ответа «да/нет» и ранжирования без генерации текста: энкодер сразу выдаёт оценки для заданных вариантов. На бенчмарке razvilka модель набрала 0,893 против 0,897 у API TypeSafe Jev; разница на 735 примерах статистически незначима. По данным Habr, модель обрабатывает запрос за 28–34 мс на RTX 5060 Ti, а веса и код инференса доступны по MIT.

Ускорение здесь не только за счёт компактности: текст кодируется один раз, а варианты и вопросы упаковываются в общую последовательность с сохранением состояния. Поэтому каталог из 243 интентов модель разбирает за 0,44 секунды вместо 4,65 секунды при простом запуске кандидатов по отдельности. Новые метки можно передать в запросе, не переобучая модель.

Но область применения ограничена закрытым списком вариантов, а тексты длиннее 512 токенов выходят за диапазон обучения; по умолчанию вход обрезается до 384. И razvilka — небольшой бенчмарк на 15 задачах, так что результат ещё нужно проверить на собственных обращениях, особенно при редких классах и нестандартных формулировках.

Я бы рассматривал FRIDA не как замену LLM, а как отдельный слой принятия решений там, где ответ уже выбирается из известного меню. Выигрыш будет не в каждом запросе, а там, где длинный текст приходится сравнивать с десятками или сотнями вариантов.

#FRIDA #DecisionModels #RussianNLP #Инференс