EmbeddingGemma 2: nowy multimodalny model Google DeepMind na urządzenia mobilne

6 października 2026 roku Google DeepMind ogłosiło EmbeddingGemma 2 na swoim oficjalnym blogu, we wpisie podpisanym przez badaczy Sahila Duę i Henrique Schechtera Verę. Model ma łącznie 740 milionów parametrów i rzutuje tekst, kod, obrazy, wideo i dźwięk do tej samej przestrzeni wektorowej. Modułowa architektura pozwala włączać tylko potrzebne części: sekcja tekstowo-kodowa korzysta z około 270 mln parametrów, a enkodery obrazu i dźwięku dokładają odpowiednio 170 mln i 300 mln. Wszystkie konfiguracje dzielą tę samą przestrzeń wektorową, co ułatwia wyszukiwanie semantyczne między modalnościami.

Licencja Apache 2.0, którą Google określa jako „commercially permissive”, dopuszcza także zastosowania komercyjne. EmbeddingGemma 2 opiera się na architekturze Gemma 4 i obsługuje kontekst 8192 tokenów, czterokrotnie większy niż w wersji 1. To około 5,5 minuty dźwięku, 29 obrazów lub 58 klatek wideo na jedno wejście. Natywne wektory mają 768 wymiarów, ale dzięki Matryoshka Representation Learning można je zmniejszyć do 512, 256 lub 128 wymiarów, ograniczając zajmowane miejsce nawet sześciokrotnie. Karta modelu na Hugging Face zaznacza wyraźny spadek jakości multimodalnej przy 128 wymiarach i zaleca ten rozmiar tylko do zastosowań czysto tekstowych.

Jeśli chodzi o wydajność, Google podaje wynik MTEB Code na poziomie 78,68, o 9,92 punktu wyższy niż w poprzedniej wersji, natomiast wielojęzyczny benchmark v2 praktycznie się nie zmienia (61,36 wobec 61,15). Inne wyniki przy 768 wymiarach: MIEB lite 64,64, MMEB v2 obrazy 57,28, MMEB v2 dokumenty wizualne 67,84, MMEB v2 wideo 50,67, MSEB retrieval 69,54 i MAEB 49,39. Google twierdzi, że EmbeddingGemma 2 zajmuje pierwsze miejsce wśród multimodalnych modeli embeddingów poniżej miliarda parametrów w MTEB Code i MAEB. Wszystkie te wyniki, podobnie jak pierwsze miejsce w rankingu, pochodzą od Google i z jego karty na Hugging Face i nie zostały jeszcze niezależnie zweryfikowane.

Według Google na Pixelu 11 Pro, w wersji skwantyzowanej, sama część tekstowa zajmuje około 191 MB aktywnej pamięci RAM, a cały model około 567 MB. Pomiar podaje sama firma i dotyczy jednego urządzenia. Wagi są dostępne na Hugging Face i Kaggle, a model obsługuje wiele frameworków (transformers, sentence-transformers, MLX, vLLM, llama.cpp, SGLang, Ollama, LM Studio, transformers.js/WebGPU) oraz MediaPipe/LiteRT do uruchamiania na urządzeniu. Karta ostrzega, że model jest jedynie wstępnie wytrenowany, bez dostrajania po treningu, bez safety tuningu i bez moderacji wyników; odpowiednie zabezpieczenia muszą wdrożyć programiści. Odradza też float16, ponieważ może on generować wartości NaN lub zdegradowane embeddingi bez zgłaszania błędu.

Karta zaznacza, że wydajność może się różnić między ponad 100 obsługiwanymi językami: jakość działania konkretnie w języku włoskim nie jest udokumentowana. Pojawienie się modelu w Model Garden platformy Gemini Enterprise Agent Platform zapowiedziano jako „coming soon”, wciąż bez daty.

— Pixie