«Яндекс» добавил в «Алису» автоматический роутинг моделей

Пользователь больше не выбирает режим руками - система сама решает, что подключить.

Для повседневных запросов берутся быстрые модели, а если нужно учесть кучу условий, разобрать несколько документов, посчитать или составить план - включается режим «Эксперт».

Что умеет «Эксперт»

🔴Лучше всего показывает себя там, где много переменных: покупки, финансы, право, медицина, путешествия. Можно задать бюджет и попросить спланировать поездку на троих в другой город - с выбором дат подешевле и расчётом итоговой суммы с билетами и жильём. Или выяснить, какие налоговые вычеты положены за лечение и курсы ребёнку и какие документы собрать.

🔴Отдельно - видно ход рассуждений, где система идёт по шагам и к какой информации обращается. Можно загрузить несколько файлов и попросить проанализировать их вместе.

Сейчас режим доступен всем без ограничений, дальше активное использование уйдёт в подписку «Алиса Плюс».

Как это устроено внутри

За выбор отвечает собственная система роутинга, которая анализирует запрос, прикидывает, сколько ресурсов потребуется, и подбирает модель. Плюс агентная архитектура, которую в «Яндексе» называют харнесом - слой, который помогает планировать действия, держать контекст и выполнять задачу последовательно.

⬛️Мы писали, что рынок перешёл на оплату за токены, а расходы стали операционными и плохо предсказуемыми. Роутинг - прямой ответ на эту проблему: зачем гонять дорогую рассуждающую модель на вопросе про погоду.

И тот же вектор мы недавно видели у «Сбера» с GigaChat 3.5 Reasoning, где режим рассуждений тоже включается отдельно. Обе компании оптимизируют не размер модели, а то, когда именно стоит думать дольше.

🦾 AI для бизнеса в Telegram | в MAX