發生什麼事
Microsoft AI の CEO @mustafasuleyman によると、MAI はすでに 3 兆パラメータ級の、すべて自社で開発した事前学習済み基盤モデルを持っており、事後学習の結果もまもなく公表します。公式技術ブログによれば、MAI-Base-2 は 8 月から 9 月にかけて GB200 GPU 1.6 万枚で 38 日間学習しました。学習データは計 50 兆 token、知識のカットオフは 2026 年 3 月で、視覚データもネイティブに取り込んでいます。
Microsoft によると、自社の held-out 評価では、MAI-Base-2 がテストしたどのオープンウェイトモデルよりも高い結果を出しました。最も強力なオープン基盤モデルとして DeepSeek-V4-Pro-Base を基準にとると、同じ水準に届くまでに自社の学習方法が必要とする計算量は、相手の 4.2 分の 1 から 12.3 分の 1 で済むと Microsoft は見積もっています。ウェイトをライセンスできるのは、Microsoft によると事前学習に自然なデータだけを使い、他のモデルからの蒸留をしていないためです(公式技術ブログ)。
01出典
- @mustafasuleyman:Microsoft AI の CEO が、3 兆パラメータ級の基盤モデルの事前学習完了を発表
- Frontier Pre-training at Microsoft AI:Microsoft AI 公式技術ブログ。モデルの仕様、学習規模、評価、ライセンス計画