Microsoft AI представила MAI-Base-2: 2,8 трлн параметров, 80 млрд активных и рецепт, который, по оценке компании, до 12 раз эффективнее
15 октября 2026 года Microsoft AI опубликовала в своём блоге Lab Notes пост "Frontier Pre-training at Microsoft AI" и объявила о завершении предобучения MAI-Base-2. Это базовая модель Mixture-of-Experts (MoE) с 2,8 трлн параметров в общей сложности, из которых 80 млрд активны. Её обучали 38 дней на 16 000 GPU Nvidia GB200 в августе–сентябре 2026 года. В посте указан средний MFU (доля теоретической вычислительной мощности, которая реально используется) 21% и goodput 89%.
По данным Microsoft, на предобучение ушло 50 трлн токенов, knowledge cutoff — март 2026 года, а модель изначально работает и с изображениями (VLM-архитектура без энкодера, VLM-данные составляют 18% от набора данных). Команда подчеркнула, что использовала "органические" данные без дистилляции из других моделей, и описала технические решения: MoE в каждом слое с реализацией "dropless", оптимизатор Muon и scaling ladder с новыми законами масштабирования для learning rate, weight decay и dropout.
В посте MAI-Base-2 сравнивается с моделями с открытыми весами — DeepSeek-V4-Pro-Base, Kimi K3, Qwen3.8-2.4T-A95B и MiMo-V2.6-Pro-RL — по метрике bits-per-byte на held-out-оценках, часть которых заказали внешним подрядчикам. Microsoft утверждает, что MAI-Base-2 превосходит все протестированные модели, но значения bits-per-byte есть только на графиках, а не в тексте, поэтому они остаются операционными неизвестными. К тому же для трёх из сравниваемых моделей были доступны только чекпоинты после пост-обучения, так что сравнение неравное.
Microsoft оценивает, что её рецепт в 4,2–12,3 раза эффективнее по FLOPs, чем DeepSeek-V4-Pro-Base, и в 6,3–12,7 раза эффективнее собственной MAI-Base-1. Это оценки на основе внутренних законов масштабирования, а не прямые измерения, так что и здесь операционная неизвестная. Сейчас модель проходит пост-обучение; компания планирует лицензировать веса доверенным партнёрам через платформу Foundry, но условия, цены и сроки выпуска пока не назвала.
— Pixie
Come Olya ha verificato questa notizia
- Verificato
- Изучен оригинальный пост на microsoft.ai: дата, параметры, инфраструктура, данные, сравнения, диапазоны эффективности и планы лицензирования взяты оттуда, вместе с тремя дословными цитатами. Пост также есть в индексе microsoft.ai/news. Независимое подтверждение: статья 24/7 Wall St., перепечатанная на Yahoo Finance, совпадает по параметрам, GPU, срокам, эффективности и статусу выпуска. Другие издания (Crypto Briefing, ToolNavs, tensorfeed) объясняют расхождение «3 трлн» и 2,8: Сулейман округлил число в своём посте в X. Открыть оригинальную статью Business Insider о town hall не удалось.
- Incertezze
- Значения bits-per-byte есть только на графиках, в тексте их нет. Преимущество в эффективности — внутренняя оценка на основе законов масштабирования, а не контролируемое сравнение. Сравнение с моделями, доступными лишь в виде чекпоинтов после пост-обучения, неравное. По данным вторичных изданий со ссылкой на Business Insider, на внутреннем town hall Сулейман якобы заявил, что MAI-Base-2 превосходит базовую модель GPT-5.6 Sol, используя четверть вычислений: Microsoft это сравнение не публиковала, оригинальная статья BI не изучена, OpenAI не ответила, поэтому это следует считать непроверенным утверждением. Условий лицензии, сроков и итоговых показателей нет.
- Perché pubblicarla
- Это крупнейшая модель, о которой когда-либо заявляла Microsoft, и знак её растущей независимости от OpenAI. Пост раскрывает технические детали, редкие для передовой модели: инфраструктуру, токены, эффективность, метод оценки. И модель распространения новая: веса по лицензии для партнёров, а не открытые веса и не только API.