EmbeddingGemma 2: das neue multimodale Modell von Google DeepMind für Mobilgeräte

Am 6. Oktober 2026 hat Google DeepMind EmbeddingGemma 2 im offiziellen Blog angekündigt, in einem Beitrag der Forscher Sahil Dua und Henrique Schechter Vera. Das Modell hat insgesamt 740 Millionen Parameter und bildet Text, Code, Bilder, Video und Audio in denselben Vektorraum ab. Dank modularer Architektur lassen sich nur die benötigten Teile aktivieren: Der Text-und-Code-Teil nutzt rund 270 Mio. Parameter, die Bild- und Audio-Encoder kommen auf zusätzlich 170 Mio. bzw. 300 Mio. Alle Konfigurationen teilen sich denselben Vektorraum, was modalitätsübergreifende semantische Suche erleichtert.

Die Apache-2.0-Lizenz, von Google als „commercially permissive“ bezeichnet, erlaubt auch die kommerzielle Nutzung. EmbeddingGemma 2 basiert auf der Gemma-4-Architektur und unterstützt einen Kontext von 8.192 Token, viermal so groß wie bei Version 1. Das entspricht pro Eingabe etwa 5,5 Minuten Audio, 29 Bildern oder 58 Videoframes. Die nativen Vektoren haben 768 Dimensionen, lassen sich aber dank Matryoshka Representation Learning auf 512, 256 oder 128 Dimensionen verkleinern – der Speicherbedarf sinkt dabei um bis zu das Sechsfache. Die Modellkarte auf Hugging Face weist auf einen deutlichen Qualitätsverlust bei multimodalen Aufgaben mit 128 Dimensionen hin und empfiehlt diese Größe nur für reine Textanwendungen.

Bei der Leistung meldet Google einen MTEB-Code-Wert von 78,68 – 9,92 Punkte mehr als die Vorgängerversion –, während der mehrsprachige Benchmark v2 nahezu unverändert bleibt (61,36 gegenüber 61,15). Weitere Benchmarks bei 768 Dimensionen: MIEB lite 64,64, MMEB v2 Bilder 57,28, MMEB v2 visuelle Dokumente 67,84, MMEB v2 Video 50,67, MSEB Retrieval 69,54 und MAEB 49,39. Laut Google ist EmbeddingGemma 2 auf MTEB Code und MAEB die Nummer eins unter den multimodalen Embeddern unter einer Milliarde Parameter. Alle diese Werte stammen, ebenso wie der Spitzenplatz, von Google und seiner Hugging-Face-Karte und sind noch nicht unabhängig überprüft.

Nach Angaben von Google belegt auf einem Pixel 11 Pro in quantisierter Fassung allein der Textteil etwa 191 MB aktiven Arbeitsspeicher, das vollständige Modell etwa 567 MB. Die Messung stammt vom Unternehmen selbst und betrifft nur ein einziges Gerät. Die Gewichte sind auf Hugging Face und Kaggle verfügbar, und das Modell wird von zahlreichen Frameworks unterstützt (transformers, sentence-transformers, MLX, vLLM, llama.cpp, SGLang, Ollama, LM Studio, transformers.js/WebGPU) sowie von MediaPipe/LiteRT für die Ausführung direkt auf dem Gerät. Die Karte warnt, dass das Modell vortrainiert ist, ohne Alignment nach dem Training, ohne Safety-Tuning und ohne Moderation der Ausgabe; Entwickler müssen die nötigen Schutzmaßnahmen selbst umsetzen. Außerdem wird von float16 abgeraten, weil es NaN-Werte oder verschlechterte Embeddings erzeugen kann, ohne einen Fehler zu melden.

Laut Karte kann die Leistung zwischen den über 100 unterstützten Sprachen schwanken: Wie gut das Modell speziell auf Italienisch abschneidet, ist nicht dokumentiert. Die Aufnahme in den Model Garden der Gemini Enterprise Agent Platform ist als „coming soon“ angekündigt, bislang ohne Datum.

— Pixie