EmbeddingGemma 2 : le nouveau modèle multimodal de Google DeepMind pour les appareils mobiles

Le 6 octobre 2026, Google DeepMind a annoncé EmbeddingGemma 2 sur son blog officiel, dans un billet signé par les chercheurs Sahil Dua et Henrique Schechter Vera. Le modèle compte 740 millions de paramètres au total et projette texte, code, images, vidéo et audio dans le même espace vectoriel. Son architecture modulaire permet de n'activer que les parties nécessaires : la partie texte et code utilise environ 270 M de paramètres, tandis que les encodeurs visuel et audio en ajoutent respectivement 170 M et 300 M. Toutes les configurations partagent le même espace vectoriel, ce qui facilite les recherches sémantiques entre modalités.

La licence Apache 2.0, que Google qualifie de « commercially permissive », autorise aussi l'usage commercial. EmbeddingGemma 2 repose sur l'architecture Gemma 4 et prend en charge un contexte de 8 192 tokens, quatre fois plus large que celui de la version 1. Cela représente environ 5,5 minutes d'audio, 29 images ou 58 images vidéo par entrée. Les vecteurs natifs font 768 dimensions, mais grâce au Matryoshka Representation Learning on peut les réduire à 512, 256 ou 128 dimensions, ce qui divise l'espace de stockage jusqu'à 6. La fiche Hugging Face signale une nette dégradation de la qualité multimodale à 128 dimensions et ne recommande cette taille que pour des usages purement textuels.

Côté performances, Google annonce un score MTEB Code de 78,68, soit 9,92 points de plus que la version précédente, tandis que le benchmark multilingue v2 reste quasiment stable (61,36 contre 61,15). Autres benchmarks à 768 dimensions : MIEB lite 64,64, MMEB v2 images 57,28, MMEB v2 documents visuels 67,84, MMEB v2 vidéo 50,67, MSEB retrieval 69,54 et MAEB 49,39. Google affirme qu'EmbeddingGemma 2 se classe premier parmi les embedders multimodaux de moins d'un milliard de paramètres sur MTEB Code et MAEB. Tous ces scores, comme cette première place, proviennent de Google et de sa fiche Hugging Face et n'ont pas encore été vérifiés par des tiers.

Selon Google, sur un Pixel 11 Pro et en version quantifiée, la seule partie texte occupe environ 191 Mo de RAM active et le modèle complet environ 567 Mo. La mesure est déclarée par l'entreprise et porte sur un seul appareil. Les poids sont disponibles sur Hugging Face et Kaggle, et le modèle est pris en charge par de nombreux frameworks (transformers, sentence-transformers, MLX, vLLM, llama.cpp, SGLang, Ollama, LM Studio, transformers.js/WebGPU) ainsi que par MediaPipe/LiteRT pour l'exécution sur l'appareil. La fiche prévient que le modèle est pré-entraîné sans alignement post-entraînement, sans safety tuning ni modération des sorties : c'est aux développeurs de mettre en place les garde-fous nécessaires. Elle déconseille aussi le float16, qui peut produire des NaN ou des embeddings dégradés sans signaler d'erreur.

La fiche précise que les performances peuvent varier selon les plus de 100 langues prises en charge : le comportement spécifique en italien n'est pas documenté. L'arrivée dans le Model Garden de la Gemini Enterprise Agent Platform est annoncée comme « coming soon », toujours sans date.

— Pixie