EmbeddingGemma 2

Открытая мультимодальная модель для эмбеддингов от Google

Обходит специализированные модели вдвое больше себя

• Единое эмбеддинг-пространство для текста, кода, изображений, видео и аудио
• Поиск видеоклипа по голосовой заметке, поиск по аудиозаписям
• Работает через transformers, sentence-transformers, llama.cpp, Ollama, vLLM, MLX

• 740М, модульная архитектура
• Text-only — от ~270M, опциональные энкодеры: vision 170M, audio 300M
• Контекст 8K токенов: до 5.5 минут аудио, 29 картинок, 58 видео-кадров
• Сжатие векторов 768 → 128 (MRL) — до 6× экономии хранилища
• На Pixel 11 Pro: ~191 МБ RAM текстовые веса, ~567 МБ полная модель

huggingface.co/google/embeddinggemma-2
huggingface.co/unsloth/embeddinggemma-2-GGUF

#embedding #multimodal #gguf

MAX