Post #1801
2.2K
https://github.com/RyanCodrai/turbovec - смотрите что в топе тренда гитхаба. Гугл кажется как то научились очень хитро сжимать вектора в памяти. Но по скорости кажется не далеко ушли от zvec с хранением на диске. Тем не менее попробую на каком-нибудь из контейнеров, если будет заметный прирост производительности при небольшом потреблении памяти видимо перееду. Пока, как бы это странно не звучало, Alibaba по технологичнее выглядит. Это на самом деле важно, потому что это скорее всего основа как компании у себя свои внутренние RAG-и хранят. А в эпоху ИИ это по сути всё.
- 👍 4