Google publie EmbeddingGemma 2, embeddings multimodaux 740 M
TL;DR
- Three stackable encoders (270M text, 170M vision, 300M audio) share one embedding space, so developers pay only the RAM cost of the modalities they actually need.
- Matryoshka Representation Learning lets output vectors truncate from 768 to 128 dimensions, cutting vector database storage costs up to 6x with no re-indexing required.
- The original EmbeddingGemma accumulated 20M+ downloads before v2 shipped, giving Google a large installed developer base already primed for the upgrade.
EmbeddingGemma 2 tient dans environ 191 Mo de RAM active sur un Pixel 11 Pro en mode texte seul, et autour de 567 Mo lorsqu'on active ses encodeurs vision et audio. Google a publié le modèle le 6 octobre 2026 sous licence Apache 2.0, sur Hugging Face et Kaggle.
Le total affiche 740 millions de paramètres, bâtis sur l'architecture Gemma 4, mais découpés en briques optionnelles : 270 M pour le texte, 170 M pour la vision, 300 M pour l'audio. La fenêtre passe à 8 K tokens, de quoi encoder jusqu'à 5,5 minutes d'audio, 29 images ou 58 trames vidéo dans un même espace d'embedding.
"EmbeddingGemma 2 is the most capable model for on-device multimodal embeddings, natively mapping combinations of text, images, audio, and video into a unified embedding space", écrivent Sahil Dua et Henrique Schechter Vera, Research Engineers chez Google DeepMind. Sur MTEB Code, Google revendique un gain de 9,92 points par rapport à EmbeddingGemma 1, de 68,76 à 78,68. Le billet ne publie pas de chiffres comparatifs face aux concurrents sub-1B.
Via Matryoshka Representation Learning, les développeurs peuvent tronquer les vecteurs de 768 à 512, 256 ou 128 dimensions, pour "up to 6x storage reduction" sur les bases vectorielles locales. Les intégrations annoncées au lancement couvrent MediaPipe, LiteRT, vLLM, Ollama, llama.cpp, transformers.js et Qdrant. La sortie rejoint les 154 autres annonces open source que nous suivons sur les 90 derniers jours.
Ce qu'en disent les autres médias
-
Crypto Briefing Lire →
Frames the on-device architecture primarily as a privacy win for consumer app developers, emphasizing elimination of server uploads for personal photos, voice notes, and documents.
When embeddings are generated on the device, personal photos, voice notes, and documents don't have to be uploaded to a server.
-
OfficeChai Lire →
Highlights cross-modal retrieval as the headline capability, showing the shared embedding space enables text-to-video and voice-to-audio search in a single local call.
A single model can find a specific video clip from a voice memo, or search through hours of audio recordings using a text query.
Shared on Bluesky by 4 AI experts
-
Lynn Cherny @arnicas.bsky.social: EmbeddingGemma 2, a tiny multimodal mobile ready embedding model →
Article original publié par blog.google
Lire l'article original →Titre original : Google publie EmbeddingGemma 2, modèle multimodal de 740 M sous Apache 2.0, 191 Mo RAM en texte seul