От поиска к агенту
Что происходит после того, как пользователь просто написал запрос агенту?
На deep tech night Павел Капля показал, что за одним таким запросом может стоять довольно сложная система: в Алисе вокруг одного цикла вызова инструментов работает шесть слоёв – они отвечают за маршрутизацию, планирование, поиск, инструменты, память и контекст, а затем собирают готовый ответ.
— Есть и другой важный принцип: не всё нужно отдавать LLM, например, в booking-агенте вызов оператора выполняется детерминированным кодом, а детали API скрыты от модели. Так критичные действия становятся предсказуемее и надёжнее
Получается, агент это не просто «модель, которая умеет пользоваться инструментами» – это целая инженерная система вокруг модели.
В полной записи доклада Павел подробно разобрал, как эта система устроена в Алисе и какие решения пришлось принимать по пути.
Post #2010
1.49K
- ❤ 3