🤖Не Jev, а FRIDA-Decisions

FRIDA-Decisions: @artyfishl поделился рецептом как в кратчайшие сроки сделали свою decision-модель — FRIDA Decisions, всего на 0,8B и по качеству сравнимую с оригинальным Jev на бенчмарках.

Спойлерить не буду, читайте статью, из которой вы узнаете:
• почему роутинг, guardrails и реранкинг не обязательно отдавать LLM
• упаковка: как прогнать текст через модель один раз сразу для всех вариантов ответа и ускорить запрос в разы
• какие результаты показывают модели на razvilka, новом открытом бенчмарке,
• честный разбор скорости и цены, вплоть до рублей за тысячу запросов
• как устроено обучение: один текст, несколько вопросов, своя функция потерь на каждый тип.

💡Полезно тем, кто строит LLM-пайплайны и платит за каждый вызов судьи.

📝 Habr
🎮 Демо
🤗 Модель
🖥 Код
📊 Бенчмарк
📓 Примеры

#jev #ai #frida