Этот репозиторий ужимает 60 миллионов текстовых чанков со 201 ГБ до каких-то 6 ГБ без потери точности.
Это реально меняет правила игры.
* 201 ГБ превращаются в 6 ГБ (минус 97%)
* Без облака
* Без GPU, работает прямо на обычном ноуте
* Полная приватность
* Полностью open-source
LEANN это open-source векторная база, которая сжимает RAG-индексы примерно на 97% за счет графовой рекомпозиции и вычисления эмбеддингов по запросу.
👉 @PythonPortal
Post #5339
9.21K

- 🤯 19
- ❤ 7
- 👍 3
- 🔥 2
- 🤔 2