ИИ-агент отвечает на вопросы и вызывает инструменты, но почему один ответ занимает 40 секунд? И сколько он стоит, если агент несколько раз обращается к модели или зацикливается на одной задаче? Общий счёт за API не покажет, где именно расходуются деньги.
12 октября в 20:00 на открытом уроке курса по эксплуатации ИИ-агентов разберёте, как увидеть каждый шаг агента, измерить задержки и посчитать стоимость отдельного ответа.
На практике возьмёте готового ReAct-агента с инструментами и подключите трассировку через OpenTelemetry. Проследите путь от задачи до вызовов модели и инструментов, найдёте самый дорогой шаг и зацикливание. Посмотрите, как введение одного лимита влияет на стоимость ответа.
Познакомитесь с платформами Arize Phoenix, Langfuse и LangSmith, а трассировки рассмотрите в бесплатном локальном интерфейсе.
Зарегистрироваться: https://otus.pw/YfHIq/?erid=2W5zFGbtyjf
Реклама. ООО "ОТУС ОНЛАЙН-ОБРАЗОВАНИЕ". ИНН 9705100963.
Post #3588
522

- 👍 1