速報 · 台北時間

Microsoft AI、2.8 兆パラメータの基盤モデル MAI-Base-2 の事前学習を完了 テストしたすべてのオープンウェイトモデルを上回ったと発表

一句重點:MAI-Base-2 は MoE 構成で、一度に使われるのは 800 億パラメータだけです。Microsoft は Foundry を通じて、信頼できるパートナーにウェイトをライセンス提供する計画です(Microsoft AI 技術ブログ)。

發生什麼事

Microsoft AI の CEO @mustafasuleyman によると、MAI はすでに 3 兆パラメータ級の、すべて自社で開発した事前学習済み基盤モデルを持っており、事後学習の結果もまもなく公表します。公式技術ブログによれば、MAI-Base-2 は 8 月から 9 月にかけて GB200 GPU 1.6 万枚で 38 日間学習しました。学習データは計 50 兆 token、知識のカットオフは 2026 年 3 月で、視覚データもネイティブに取り込んでいます。

Microsoft によると、自社の held-out 評価では、MAI-Base-2 がテストしたどのオープンウェイトモデルよりも高い結果を出しました。最も強力なオープン基盤モデルとして DeepSeek-V4-Pro-Base を基準にとると、同じ水準に届くまでに自社の学習方法が必要とする計算量は、相手の 4.2 分の 1 から 12.3 分の 1 で済むと Microsoft は見積もっています。ウェイトをライセンスできるのは、Microsoft によると事前学習に自然なデータだけを使い、他のモデルからの蒸留をしていないためです(公式技術ブログ)。

01出典