TGViewer
Machinelearning Machinelearning @ai_machinelearning_big_data · 278K subscribers
Post #9524 37.1K
🌟 Zvec: встраиваемая векторная база данных для RAG без внешних сервисов.

Alibaba открыла исходный код Zvec - встраиваемой векторной СУБД, которую авторы называют «SQLite для векторных баз данных».

Проект заточен на локальные RAG-пайплайны, семантический поиск и агентские сценарии на ноутбуках, мобильных устройствах или другом edge-железе.

Идея в том, что разворачивать отдельный сервер ради векторного поиска и фильтрации по метаданным избыточно. Zvec встраивается в процесс Python-приложения и не требует ни отдельного демона, ни сетевых вызовов.

Существующие решения не подходят для маломощных устройств: Faiss дает только ANN-индекс без скалярного хранилища и крэш-рекавери; DuckDB-VSS ограничен в опциях индексирования; Milvus и облачные векторные хранилища требуют сеть.


Под капотом - Proxima, векторный движок продакшен-уровня, который Alibaba сама использует в собственных сервисах. Поверх него сделали лаконичный Python API:

🟢полный CRUD и поддержка схем;

🟢поиск по нескольким векторам для комбинации разных эмбеддинг-моделей;

🟢встроенный реранкер с weighted и RRF;

🟢гибридный поиск (векторный + фильтры по скалярным полям) с инвертированными индексами.

Это позволяет собирать локальных ассистентов, которые одновременно используют семантический поиск, множественную фильтрацию и несколько эмбеддинг-моделей - все в одном движке.

По производительности Zvec заявляет победу на бенче VectorDBBench с датасетом Cohere 10M - более 8 000 QPS при сопоставимом реколле. Это вдвое больше, чем у лидера ZillizCloud и с более быстрым построением индекса.

Авторы объясняют успех глубокой оптимизацией под CPU: SIMD, кэш-эффективные структуры, многопоточность и prefetching.

Пока платформенная поддержка ограничена (Windows отсутствует), но для Linux x86/ARM64 и macOS Zvec уже готов к экспериментам на Python 3.10–3.12.


📌Лицензирование: Apache 2.0 License.


🟡Статья
🟡Документация
🖥GitHub


@ai_machinelearning_big_data

#AI #ML #VDB #ZVEC #Alibaba
  • 👍 79
  • 🤩 43
  • 👏 24
  • ❤ 23
  • 🔥 18
  • 🌚 16
  • 🌭 15
  • 🙊 13
  • 🕊 12
  • 😘 11
  • 😍 10
More from @ai_machinelearning_big_data
  1. Oct 15, 2026✔️ Science Corporation впервые имплантировала зрительный чип PRIMA Биотех-стартап бывшего…
  2. Oct 15, 2026📌 Учёные призвали изолировать от интернета модели, способные к кибератакам Открытое письм…
  3. Oct 14, 2026✔️ X, Grok и Cursor объединили в подписку с общим пулом токенов Чат-бот Grok, сервисы X Pr…
  4. Oct 14, 2026✔️ Ведущий исследователь Apple в области распознавания речи перешла в Anthropic Татьяна Ли…
  5. Oct 14, 2026✔️ OpenAI обсуждает передачу Sora стартапу Билла Пиблза Стартап рассчитывает переделать So…
  6. Oct 14, 2026✔️ AI Welding Agent: ИИ-система для сварочных роботов Японский производитель промышленной…
Threads Profile ViewerView any public Threads profile without an account.Open ThreadLook →Writing with AI? Make it sound human.Metric37 rewrites AI drafts so they read naturally. Free AI detector, 1,500 words free.Try Metric37 →