RAG умер. Да здравствует RAG!

Новая волна ИИ-систем идет по своему пути. Вместо того, чтобы жестко пришивать RAG ко всем запросам, современные подходы дают модели набор инструментов и возможность самостоятельно выбирать, что и когда использовать. Модель превращается в агента, который может планировать действия: если понадобилась актуальная информация — агент решает выполнить поиск через RAG, если нужно посчитать — берёт в руки калькулятор, и так далее.

В таких системах RAG интегрирован внутрь более общей архитектуры. Например, OpenAI в своем новом Agents API позволяет подключить сразу несколько разных инструментов. Один и тот же AI-ассистент может в ходе диалога по необходимости:

- искать информацию — в интернете или по внутренней базе знаний (тот самый RAG, но вызывается только при необходимости);

- считать на калькуляторе — если вопрос про цифры или требует расчётов;

- просматривать веб-страницы — например, открыть ссылку и прочитать содержимое;

- запускать код — чтобы, к примеру, трансформировать данные или выполнить сложные действия;

- и многое другое (запросить данные из базы через API, использовать календарь и т.п.).

Все это происходит незаметно для пользователя. Агент сам решает, какой инструмент ему применить в данный момент, и для выполнения одного запроса он может их комбинировать.

Если вы спросите у такого помощника что-то про статистику компании, он сначала дернет RAG, найдёт цифры в вашей корпоративной базе знаний, а потом может тут же вычислить проценты на калькуляторе и выдать связный ответ. Если же вы спросите прогноз погоды, он обратится к веб-API погоды, а RAG не потребуется вовсе. Важно, что RAG-инструмент используется только тогда, когда нужен, в контексте общего интеллектуального планирования.

От систем, где приходилось вручную склеивать поиск, модель и другие сервисы, мы пришли к универсальным агентам, которые сами определяют все необходимые действия. Такой подход упрощает разработку и повышает интеллект системы, ведь агент умеет адаптироваться под задачу. Для бизнеса же это означает появление более умных чат-ботов и ассистентов, которые могут и на вопрос по документации ответить, и расчёт сделать, и по необходимости свежие данные подтянуть.