huggingface.co détecté sur le web

Google publie EmbeddingGemma 2, embedding multimodal 744 M

6 médias qui couvrent ce sujet

TL;DR

  • Modular encoders let developers load text-only at 191MB or the full multimodal stack at 567MB, sizing RAM to the actual use-case.
  • On-device inference at 37.3ms vision embedding latency on MacBook M5 Pro makes search-as-you-type viable without any API round-trip.
  • EmbeddingGemma 2 trails Qwen3-Embedding-0.6B on English text (68.46 vs 70.47) and multilingual but leads on code (78.68 vs 75.42).

Google a publié EmbeddingGemma 2, un modèle d'embedding multimodal de 744 millions de paramètres qui tient dans 567 Mo de mémoire sur un Pixel 11 Pro en quantification int4.

Le modèle est modulaire. 271 M paramètres pour la seule chaîne texte, 439 M quand on active l'encodeur vision, 577 M avec l'audio. Chargé en entier, il monte à 744 M et représente, selon les auteurs Henrique Schechter Vera et Sahil Dua de l'équipe EmbeddingGemma, «text, images, audio, video, and combinations thereof in a unified space».

Les scores publiés placent EmbeddingGemma 2 devant des concurrents nettement plus gros: 61,36 sur MTEB Multilingual, 68,46 sur l'anglais, 78,68 sur Code, 59,01 sur MMEB-v2 et 49,87 sur MAEB. Sur la benchmark code, le papier revendique qu'il «outperforms every sub-4B model on the leaderboard and even comes within 2 points of the 28× larger frontrunner». La formulation d'ensemble est tout aussi tranchée: le modèle «establishes a new Pareto frontier, outperforming both specialist models and models two to twelve times larger».

L'entraînement a vu environ 2,9 T tokens au total: 300 Md pour le pré-finetuning texte, 2 T pour le pré-finetuning multimodal, 600 Md pour le finetuning final. Le signal pédagogique vient de Gemini Embedding 2, le modèle propriétaire de Google utilisé comme professeur de distillation.

Côté déploiement, l'empreinte sur Pixel 11 Pro quantifié int4 par-canal (Q4_C) est de 191 Mo pour le texte seul, 447 Mo pour texte plus vision, 567 Mo en multimodal complet. Les dimensions d'embedding sont tronquables via Matryoshka (768, 512, 256, 128), le budget de tokens image réglable entre 70 et 1120, et l'audio consomme «25 soft tokens per second».

L'abstract ne chiffre pas la latence d'inférence sur Pixel ni ne compare EmbeddingGemma 2 aux offres multimodales de Voyage ou Cohere. Côté lectorat professionnel, deux chercheurs de notre répertoire Who's Who ont déjà fait circuler le lien.

Ce qu'en disent les autres médias

Couverture consolidée 24h après publication

  1. Google Developers Blog Lire →

    First-party: ships two interactive showcases (Instant Media Search, Video Moments Finder) and announces Google AI Edge Foresight for Mac, with concrete 37.3ms vision latency on M5 Pro.

    EmbeddingGemma 2 can act as an ultra-low-latency on-device decision engine...delivering instant, zero-shot intent routing in milliseconds.
  2. Google Developers Blog Lire →

    First-party technical guide with code examples for modular encoder configs, task-specific prompts, and Matryoshka truncation; shows 14% code retrieval gain over EmbeddingGemma 1.

    Native multimodal retrieval: Unlocks search across text, code, images, video, and audio directly in a shared 768-dimensional vector space.
  3. VentureBeat Lire →

    Enterprise framing with named customer results: 70% latency reduction at Sparkonomy, 20% recall lift at Everlaw; positions model as eliminating fragmented multimodal pipeline costs.

    The model allows developers to bring text, images, video, audio, and docs into the same embedding space. — Logan Kilpatrick, Google DeepMind
  4. The Next Web Lire →

    EU data-sovereignty framing: on-device Apache 2.0 weights mean no cross-border data transfer, removing the compliance lever that locks EU developers into managed embedding APIs.

    Nothing has to leave the device.
  5. FourWeekMBA Lire →

    Contrarian benchmark read: model trails Qwen3-Embedding-0.6B on English and multilingual text but leads on code, undercutting the broad 'beats models 2-12x larger' framing.

    The same 744M model that scores below Qwen3-Embedding-0.6B on both text benchmarks scores above it on code.

Shared on Bluesky by 2 AI experts