Google publie EmbeddingGemma 2, embedding multimodal 744 M

Google a publié EmbeddingGemma 2, un modèle d'embedding multimodal de 744 millions de paramètres qui tient dans 567 Mo de mémoire sur un Pixel 11 Pro en quantification int4.

Le modèle est modulaire. 271 M paramètres pour la seule chaîne texte, 439 M quand on active l'encodeur vision, 577 M avec l'audio. Chargé en entier, il monte à 744 M et représente, selon les auteurs Henrique Schechter Vera et Sahil Dua de l'équipe EmbeddingGemma, «text, images, audio, video, and combinations thereof in a unified space».

Les scores publiés placent EmbeddingGemma 2 devant des concurrents nettement plus gros: 61,36 sur MTEB Multilingual, 68,46 sur l'anglais, 78,68 sur Code, 59,01 sur MMEB-v2 et 49,87 sur MAEB. Sur la benchmark code, le papier revendique qu'il «outperforms every sub-4B model on the leaderboard and even comes within 2 points of the 28× larger frontrunner». La formulation d'ensemble est tout aussi tranchée: le modèle «establishes a new Pareto frontier, outperforming both specialist models and models two to twelve times larger».

L'entraînement a vu environ 2,9 T tokens au total: 300 Md pour le pré-finetuning texte, 2 T pour le pré-finetuning multimodal, 600 Md pour le finetuning final. Le signal pédagogique vient de Gemini Embedding 2, le modèle propriétaire de Google utilisé comme professeur de distillation.

Côté déploiement, l'empreinte sur Pixel 11 Pro quantifié int4 par-canal (Q4_C) est de 191 Mo pour le texte seul, 447 Mo pour texte plus vision, 567 Mo en multimodal complet. Les dimensions d'embedding sont tronquables via Matryoshka (768, 512, 256, 128), le budget de tokens image réglable entre 70 et 1120, et l'audio consomme «25 soft tokens per second».

L'abstract ne chiffre pas la latence d'inférence sur Pixel ni ne compare EmbeddingGemma 2 aux offres multimodales de Voyage ou Cohere. Côté lectorat professionnel, deux chercheurs de notre répertoire Who's Who ont déjà fait circuler le lien.