EmbeddingGemma 2: An open, lightweight multimodal embedding model
EmbeddingGemma 2 — это открытая мультимодальная модель эмбеддингов на базе Gemma 4 с 740 миллионами параметров, лицензированная под Apache 2.0. Она объединяет текст, изображения, аудио и видео в едином пространстве эмбеддингов, оптимизирована для работы на устройстве и поддерживает динамическое сокращение размерности через Matryoshka Representation Learning (MRL) — от 768 до 128 измерений, что снижает потребление памяти до 6 раз. На Google Pixel 11 Pro полная версия использует ~567 МБ активной RAM, а текстовая часть — всего ~191 МБ при квантовании.
Модель демонстрирует лучшее качество в своём классе: улучшила результат на MTEB Code на 9.92 пункта (с 68.76 до 78.68), превосходя многие более крупные модели. Поддерживает контекст до 8K токенов — достаточно для обработки 5.5 минут аудио, 29 изображений или 58 видеокадров на устройстве. Доступна на Hugging Face и Kaggle, совместима с MediaPipe, LiteRT, transformers.js, Ollama, llama.cpp и векторными базами вроде Qdrant. Подходит для локального поиска по коду, аудио и видео, а также для fine-tuning под конкретные задачи через Unsloth.