Google представила мультимодальную EmbeddingGemma 2

Первая версия умела работать только с текстом, а в основе второй лежит Gemma 4, которая переводит текст, код, изображения, видео и аудио в единое векторное пространство. Теперь на вход можно подавать и смешанные данные.

У модели 740M параметров, при этом она сделана модульно. Текстовая часть занимает 270M, а энкодеры для изображений и аудио подключаются отдельно, когда это нужно. Контекст увеличился до 8K токенов — это примерно 5,5 минуты аудио или 29 изображений за один раз.

На текстовых задачах качество осталось на уровне первой версии, а в коде заметно улучшилось. Google утверждает, что среди мультимодальных эмбеддеров до 1B параметров это лучший результат.

Веса доступны под Apache 2.0.

https://blog.google/innovation-and-ai/technology/developers-tools/embeddinggemma-2/

INCUBE.AI | ПОДПИСАТЬСЯ