🎯 TurboVec: 31 ГБ эмбеддингов в 4 ГБ без обучения

Хранение векторов для RAG быстро съедает память. 10 миллионов документов в float32 — это 31 ГБ RAM. Google выпустили open-source Rust-библиотеку которая меняет это соотношение.

TurboVec использует TurboQuant — квантайзер которому не нужно обучение:
· Нормализация вектора
· Случайный поворот
· Разбивка на бакеты через предвычисленную математику

Фиксированный пайплайн который работает на любых данных без калибровки под конкретный датасет.

Никакого managed сервиса который трогает ваши векторы. Работает с любой open embedding моделью. Получаете полностью air-gapped retrieval стек с Python биндингами.

📍 Навигация: Вакансии • Задачи • Собесы

Библиотека дата-сайентиста

#буст