Недавно нашу компанию объединили с другой, которая также разрабатывает no-code платформу. И сейчас мы знакомимся с новой командой разработки и активно обмениваемся знаниями. Так как наши продукты похожи, интересно посмотреть как у них всё реализовано.

На прошлой неделе лид AI-команды рассказывал, как в их продукте устроены ИИ-агенты и как используется RAG. Попробую кратко вам рассказать.

🤖 Чем вообще ИИ агент отличается от обычной программы?

Ключевые отличия заключаются в двух возможностях: 
- использовании инструментов 
- динамическом принятии решений​

Под инструментами может подразумеваться:

- function calling — мы описываем, с какими функциями в нашем коде ИИ может взаимодействовать. Конечно, ИИ не запускает код напрямую: он генерирует имя функции и входные параметры, а сам вызов мы делаем уже со своей стороны.

- tools use — более высокоуровневые инструменты: поиск в интернете, работа с файлами, генерация картинок и так далее.

А благодаря тому, что у LLM есть условные «мозги», она сама понимает, какие инструменты и в какой последовательности вызывать и когда остановиться. Это и есть то самое динамическое принятие решений.

📚 Теперь кратко про RAG.

RAG — это генерация ответа, дополненная поиском по вашим данным, о которых сама LLM знать не может. Например, по корпоративной базе знаний.

Пример задачи: «Нам нужно, чтобы LLM отвечала на вопросы с учётом загруженных пользователями PDF-файлов».

Как это реализуется:
- преобразуем PDF в текст
- разбиваем текст на чанки
- каждый чанк превращаем в векторное представление (эмбеддинг) с помощью embedding-модели
- сохраняем текст вместе с вектором, например в Postgres с плагином pgvector

Кстати, на прошлой неделе нашёл отличную статью про то, как слова превращаются в векторы и используются в поиске. Скоро поделюсь 🔜.

Дальше, когда пользователь задаёт вопрос:
- запрос преобразуется в вектор
- находится наиболее подходящая по смыслу запись
- в LLM передаётся: вопрос + найденные куски текста
- LLM формирует ответ

Часть команды, немного растерялась, когда тимлид из другой платформы рассказывал обо всём этом 😅, так как большинство из нас ещё не сталкивались с разработкой агентов.

Ставьте:

- ❤️ — если интересно читать про ИИ-агентов
- 🔥 — если уже понимаете, как они работают
- 👀 — если до изучения агентов пока не дошли руки

#ai