EmbeddingGemma 2：Google DeepMindがモバイル端末向けの新マルチモーダルモデルを公開

2026年10月6日、Google DeepMindは公式ブログでEmbeddingGemma 2を発表した。記事の署名は研究者のSahil Dua氏とHenrique Schechter Vera氏。総パラメータ数は7億4,000万で、テキスト、コード、画像、動画、音声を同じベクトル空間に射影する。モジュール型の構成で、必要な部分だけを有効にできる。テキスト・コード部分は約2億7,000万パラメータ、画像エンコーダーと音声エンコーダーがそれぞれ1億7,000万、3億を上乗せする。どの構成でもベクトル空間は共通なので、モダリティをまたいだセマンティック検索がしやすい。

ライセンスはApache 2.0で、Googleは「commercially permissive」と表現しており、商用利用も可能だ。EmbeddingGemma 2はGemma 4アーキテクチャをベースにし、コンテキスト長はバージョン1の4倍となる8,192トークン。1回の入力で音声なら約5.5分、画像なら29枚、動画なら58フレームに相当する。ネイティブのベクトルは768次元だが、Matryoshka Representation Learningにより512、256、128次元に縮小でき、保存容量は最大6分の1になる。Hugging Faceのモデルカードは、128次元ではマルチモーダルの品質が大きく落ちるとして、このサイズはテキストのみの用途に限るよう勧めている。

性能面では、GoogleはMTEB Codeのスコアを78.68と報告しており、前バージョンを9.92ポイント上回る。一方、多言語ベンチマークv2はほぼ横ばい（61.36対61.15）だ。768次元でのその他のベンチマークは、MIEB lite 64.64、MMEB v2画像 57.28、MMEB v2ビジュアル文書 67.84、MMEB v2動画 50.67、MSEB retrieval 69.54、MAEB 49.39。Googleは、MTEB CodeとMAEBで10億パラメータ未満のマルチモーダル埋め込みモデルの中で首位だとしている。これらのスコアも首位という主張も、すべてGoogleとそのHugging Faceのカードによるもので、第三者による検証はまだない。

Googleによると、Pixel 11 Pro上の量子化版では、テキスト部分だけでアクティブRAMを約191MB、モデル全体で約567MB使う。数値は同社の公表値で、対象は1機種のみだ。重みはHugging FaceとKaggleで公開されており、多くのフレームワーク（transformers、sentence-transformers、MLX、vLLM、llama.cpp、SGLang、Ollama、LM Studio、transformers.js/WebGPU）と、端末上での実行向けにMediaPipe/LiteRTが対応している。モデルカードは、このモデルが事前学習のみで、事後学習によるアライメントも安全性チューニングも出力のモデレーションも施されていないと注意しており、必要な安全対策は開発者が実装しなければならない。また、float16はエラーを出さずにNaNや劣化した埋め込みを生むおそれがあるため、使用は推奨されていない。

カードによれば、対応する100以上の言語の間で性能にばらつきがある可能性があり、イタリア語での具体的な性能は記載されていない。Gemini Enterprise Agent PlatformのModel Gardenへの提供は「coming soon」とされ、時期はまだ示されていない。

— Pixie