Google представила EmbeddingGemma 2 — открытую легковесную мультимодальную модель

Модель EmbeddingGemma 2 построена на архитектуре Gemma 4 и выпущена под лицензией Apache 2.0, что позволяет использовать её в коммерческих целях.

Модель поддерживает текст, изображения, видео и аудио, позволяя, например, находить видео по голосовой заметке или искать в аудиозаписях по текстовому запросу.

EmbeddingGemma 2 демонстрирует лучшие показатели для своего размера среди мультимодальных эмбеддеров с параметрами менее 1 млрд, превосходя многие более крупные модели по задачам текста, изображений и аудио.

Модель оптимизирована для работы на устройствах: с квантованием она занимает всего около 191 МБ оперативной памяти для весов только текстовых задач и до 567 МБ в полном мультимодальном режиме на Google Pixel 11 Pro.

Модель поддерживает контекстную длину до 8K токенов, что позволяет обрабатывать до 5,5 минут аудио, 29 изображений или 58 кадров видео непосредственно на устройстве.

Генерация эмбеддингов локально помогает обеспечить конфиденциальность данных, снижает задержку в конвейере и позволяет разработчикам создавать кросс-модальные системы поиска и извлечения, работающие полностью офлайн.