В Ollama реализовали функцию, когда модели дают варианты ответа в заранее и вопрос, а она выбирает ответ

Минусы и плюсы очевидны: она не может редактировать ответ, а только выбрать из готовых, но в замен скорость ответа значительно увеличивается, ведь это работает сразу через выбор варианта ответа, а не через вопрос к LLM "Что ты выберешь?"

Просто я думаю, что это идеально для создания MoA, когда большая модель выбирает какую вызвать маленькую, опираясь от цели, которую высказал пользователь: перевести текст, написать код, либо дать быстрый ответ, а в рамках Agent Loop это позволяет не просто подтянуть одну нейросеть, а полноценную оркестрацию сделать под слабое железо, когда старшая модель каждый раз разные модели подтягивает, но младшие имеют полную историю, по итогу не ломаясь

Звучит как идея для будущего проекта, но не думаю что им займусь, ведь я больше по написанию универсального клиента, чем направленного под конкретный стек моделей софт...