Семантический поиск по большим массивам данных часто «съедает» бюджет на эмбеддинги, особенно при повторных запросах.
В JARV AI теперь можно работать с RAG Reranker через API и включать кеширование эмбеддингов — это экономит до 90% затрат при повторных запросах.
📋 Как это работает
1. Отправляете запрос на
https://chat.jarv.tech/api/v1/rerank с параметром "caching": true. 2. Джарв сохраняет векторные представления документов.
3. При повторных обращениях с тем же контентом эмбеддинги не пересчитываются — оплата только за токены запроса.
💡 Плюсы:
• До 90% экономии бюджета при частых поисках в одной базе знаний.
• Поддержка текста, массивов документов и таблиц.
• Выбор между быстрой (small) и точной (large) моделями.
⚡ Пример
curl -X POST https://chat.jarv.tech/api/v1/rerank \
-H "api-key: YOUR_API_KEY" \
-H "Content-Type: application/json" \
-d '{
"query": "как оформить отпуск",
"content": [...документы...],
"model": "large",
"caching": true
}'
📊 Профит
При большом массиве (100k токенов) на модели large первый запрос — ~78₽, повторный с кешем — меньше 1 копейки.
👉 Подробнее — https://chat.jarv.tech/api/v1/docs/rag-reranker