Как мы запустили и оживили первого AI-агента

На этой неделе мы запустили в Додо нашего первого AI-агента по данным. Уверен, что довольно скоро мы будем жить в мире, где вокруг нас всегда несколько таких помощников, с которыми мы постоянно перекидываемся задачами. Поэтому решили сразу делать их не только полезными, но и живыми, приятными в общении.

Этого назвали Blender. Типа такой персонаж, который берет сырые цифры, закидывает их в свой виртуальный блендер и на выходе выдает понятный срез: выручка, заказы, средний чек, состав корзины. Согласитесь, это как-то веселее, чем сухой Databot. Под него мы нарисовали отдельный визуальный образ и эмодзи.

Теперь по многим ad-hoc запросам можно не идти к аналитикам и не искать нужный дашборд. Достаточно просто тегнуть Блендера в корп-мессенджере, и он попробует помочь. Или честно скажет, что не может, если контекст кривой или вопрос вне его зоны ответственности.

Первая версия бота появилась на хакатоне. Тогда мы пытались собрать универсального помощника по данным. Звучало круто, местами даже работало, но скорость ответа была низкая, а результаты часто сопровождались галлюцинациями.

Сейчас технически внутри это мультиагентная конструкция на инфраструктуре Databricks. В качестве агента по поиску по данным мы используем встроенное решение платформы Genie. Вокруг него крутится свой логический и продуктовый слой: обработка запросов, контроль домена, форматирование ответов, fallback-сценарии.

Databricks в плане AI сейчас приятно удивляет. Из коробки есть много готовых модулей для настройки и тестирования AI-продуктов, появляются билдеры агентов. Для продакшен решений мы все больше смотрим на них как на дефолтный инструмент.

Конечно, запуск прошел не идеально: где-то Blender давал неточные ответы, а где-то додумывал, потому что очень хотел помочь. Но мы настроили мониторинг и оперативно тюним логику работы агента, чтобы добиться нужного нам качества. Дальше будем смотреть на популярные обращения пользователей и расширять зоны ответственности по мере того, как разберемся с качеством.