😀 Создание и тестирование корпуса эмбеддингов — самый короткий и быстрый этап, который при этом сложнее всего объяснить, но я попытаюсь!
Это собственно вариант (самый простой) реализации того самого RAG: непосредственный процесс поиска (retrieval) кейсов в базе знаний и обогащения (augmentation) промпта для нейросети.
RAG‑подход использует «эмбеддинги» — числовые отпечатки смысла текста, которые позволяют сравнивать документы по содержанию. Каждое отобранное на предыдущем этапе определение было превращено в такой эмбеддинг с помощью специальной нейросети. Затем мы со Студией сделали код, который вычисляет косинусное расстояние ❓ между эмбеддингами: чем оно меньше, тем ближе дела по сути.
Сделав корпус эмбеддингов, я на 20 тестовых делах проверяла, как он работает, действительно ли косинусное расстояние помогает определить релевантные дела (спойлер надо? ДА, помогает! НО иногда получается, простите за низкий слог, лажа). В результате этого тестирования я сделала много полезных выводов о том, каким должен быть бэкэнд бота, то есть чего именно делать на следующем этапе, о котором можно будет почитать уже завтра!)

Подробный пост об этом здесь. #ботоводство