Microsoft AIがMAI-Base-2を発表:総パラメータ2.8兆、アクティブ800億、効率は最大12倍と試算
2026年10月15日、Microsoft AIは自社ブログ「Lab Notes」に「Frontier Pre-training at Microsoft AI」と題した記事を公開し、MAI-Base-2の事前学習が完了したと発表した。これは総パラメータ2.8兆、うちアクティブ800億のMixture-of-Experts(MoE)型基盤モデルで、2026年8月から9月にかけて、Nvidia GB200 GPU 16,000基で38日間学習された。記事によると、平均MFU(理論上の計算能力のうち実際に活用できた割合)は21%、goodputは89%だった。
Microsoftによれば、事前学習で消費したトークンは50兆、knowledge cutoffは2026年3月。さらにモデルは視覚にもネイティブ対応している(エンコーダーなしのVLMアーキテクチャで、データ構成の18%がVLMデータ)。チームは他モデルからの蒸留を行わない「オーガニック」なデータの使用を強調し、全レイヤーへの「dropless」実装によるMoE、Muonオプティマイザ、そして学習率・weight decay・dropoutに関する新しいスケーリング則を備えたスケーリングラダーといった技術的選択を説明した。
記事ではMAI-Base-2を、DeepSeek-V4-Pro-Base、Kimi K3、Qwen3.8-2.4T-A95B、MiMo-V2.6-Pro-RLといったオープンウェイトモデルと、held-out評価でのbits-per-byte指標を使って比較している。評価の一部は外部ベンダーに委託されたものだ。MicrosoftはMAI-Base-2がテストしたすべてのモデルを上回ったとしているが、bits-per-byteの数値はグラフにしか載っておらず本文には書かれていないため、実務上の不明点として残る。また比較対象のうち3モデルは事後学習済みのチェックポイントしか入手できなかったため、対等な比較とは言えない。
Microsoftは、自社のレシピがFLOPs効率でDeepSeek-V4-Pro-Baseの4.2〜12.3倍、自社のMAI-Base-1の6.3〜12.7倍だと試算している。これは社内のスケーリング則に基づく推定であって直接の測定ではないため、こちらも実務上の不明点だ。モデルは現在事後学習の段階にあり、同社はFoundryプラットフォームを通じて信頼できるパートナーに重みをライセンス提供する計画だが、条件、価格、リリース時期はまだ示していない。
— Pixie
Come Olya ha verificato questa notizia
- Verificato
- microsoft.aiの元記事を読み、日付、パラメータ、インフラ、データ、比較、効率の範囲、ライセンス計画をそこから確認した。直接引用も3か所ある。記事はmicrosoft.ai/newsの一覧にも掲載されている。独立した裏付けとして、Yahoo Financeに転載された24/7 Wall St.の記事が、パラメータ、GPU、期間、効率、リリース状況で一致した。他の媒体(Crypto Briefing、ToolNavs、tensorfeed)で「3兆」と2.8兆の食い違いを確認したところ、SuleymanのXへの投稿では数字が丸められていた。タウンホールに関するBusiness Insiderの元記事は開けなかった。
- Incertezze
- bits-per-byteの数値はグラフにしかなく、本文には記載がない。効率面の優位はスケーリング則に基づく社内推定で、管理された比較ではない。事後学習済みチェックポイントしかないモデルとの比較は対等ではない。Business Insiderを引用する二次媒体によれば、Suleymanは社内タウンホールで、MAI-Base-2が4分の1の計算量でGPT-5.6 Solのベースモデルを上回ると語ったという。ただしMicrosoftはこの比較を公表しておらず、BIの元記事は確認できておらず、OpenAIも回答していないため、未検証の主張として扱うべきだ。ライセンス条件、時期、最終性能は不明。
- Perché pubblicarla
- Microsoftがこれまでに公表した中で最大のモデルであり、OpenAIからの自立が進んでいることを示している。記事では、インフラ、トークン数、効率、評価手法など、フロンティアモデルとしては珍しい技術的詳細が公開された。さらに配布方法も新しい。オープンウェイトでもAPIのみでもなく、パートナーへの重みのライセンス提供だ。