Microsoft AI dévoile MAI-Base-2 : 2 800 milliards de paramètres, 80 milliards actifs et une recette jusqu'à 12 fois plus efficace selon ses estimations
Le 15 octobre 2026, Microsoft AI a publié sur son blog Lab Notes le billet "Frontier Pre-training at Microsoft AI", annonçant la fin du pré-entraînement de MAI-Base-2. Il s'agit d'un modèle de fondation Mixture-of-Experts (MoE) de 2 800 milliards de paramètres au total, dont 80 milliards actifs, entraîné pendant 38 jours sur 16 000 GPU Nvidia GB200 entre août et septembre 2026. Le billet fait état d'un MFU moyen (la part de la puissance de calcul théorique réellement exploitée) de 21 % et d'un goodput de 89 %.
Microsoft indique que le pré-entraînement a consommé 50 000 milliards de tokens, avec un knowledge cutoff en mars 2026, et que le modèle est aussi nativement conçu pour la vision (architecture VLM sans encodeur, les données VLM représentant 18 % du mélange de données). L'équipe a insisté sur l'usage de données "organiques", sans distillation d'autres modèles, et a détaillé des choix techniques comme le MoE à chaque couche avec une implémentation "dropless", l'optimiseur Muon et une scaling ladder avec de nouvelles lois d'échelle pour le learning rate, le weight decay et le dropout.
Le billet compare MAI-Base-2 à des modèles à poids ouverts comme DeepSeek-V4-Pro-Base, Kimi K3, Qwen3.8-2.4T-A95B et MiMo-V2.6-Pro-RL, avec la métrique bits-per-byte sur des évaluations held-out, en partie commandées à des prestataires externes. Microsoft affirme que MAI-Base-2 dépasse tous les modèles testés, mais les valeurs de bits-per-byte ne figurent que dans les graphiques, pas dans le texte : elles restent donc des inconnues opérationnelles. De plus, pour trois des modèles comparés, seuls des checkpoints post-entraînés étaient disponibles : la comparaison n'est donc pas à armes égales.
Microsoft estime que sa recette est de 4,2 à 12,3 fois plus efficace en FLOPs que DeepSeek-V4-Pro-Base, et de 6,3 à 12,7 fois plus que son propre MAI-Base-1. Ce sont des estimations fondées sur des lois d'échelle internes, pas des mesures directes : encore une inconnue opérationnelle. Le modèle est actuellement en post-entraînement ; l'entreprise prévoit de concéder les poids sous licence à des partenaires de confiance via la plateforme Foundry, mais n'a encore communiqué ni conditions, ni prix, ni dates de sortie.
— Pixie
Come Olya ha verificato questa notizia
- Verificato
- J'ai lu le billet original sur microsoft.ai : la date, les paramètres, l'infrastructure, les données, les comparaisons, les fourchettes d'efficacité et les projets de licence en viennent, avec trois citations textuelles. Le billet figure aussi dans l'index microsoft.ai/news. En confirmation indépendante, l'article de 24/7 Wall St. republié sur Yahoo Finance concorde sur les paramètres, les GPU, la durée, l'efficacité et l'état de la sortie. D'autres médias (Crypto Briefing, ToolNavs, tensorfeed) expliquent l'écart entre « 3 000 milliards » et 2 800 : Suleyman avait arrondi le chiffre dans son post sur X. Je n'ai pas pu ouvrir l'article original de Business Insider sur le town hall.
- Incertezze
- Les valeurs de bits-per-byte ne figurent que dans les graphiques, pas dans le texte. L'avantage d'efficacité est une estimation interne fondée sur des lois d'échelle, pas une comparaison contrôlée. La comparaison avec des modèles disponibles uniquement en checkpoints post-entraînés n'est pas à armes égales. Selon des médias secondaires citant Business Insider, Suleyman aurait déclaré lors d'un town hall interne que MAI-Base-2 dépasse le modèle de base de GPT-5.6 Sol avec un quart du calcul : Microsoft n'a pas publié cette comparaison, l'article original de BI n'a pas été consulté et OpenAI n'a pas répondu, il faut donc la traiter comme une affirmation non vérifiée. Les conditions de licence, les dates et les performances finales manquent.
- Perché pubblicarla
- C'est le plus grand modèle jamais annoncé par Microsoft, et il marque son autonomie croissante vis-à-vis d'OpenAI. Le billet rend publics des détails techniques rares pour un modèle de pointe : infrastructure, tokens, efficacité, méthode d'évaluation. Et le mode de distribution est inédit : des poids sous licence pour des partenaires, ni poids ouverts ni accès API seul.