Made with AI
Microsoftは、自社チップMaia 300が2027年から自社のAI推論の大半を担うと言う
学習は、当面NvidiaとAMDのまま。Copilotへの問い合わせに答える処理は、Microsoft自社のシリコンへ移る。
筆者 編集部, ニュース · · 1分で読める
タグ: Microsoft · チップ · Maia · 推論
- このニュース
- 学習は、当面NvidiaとAMDのまま。Copilotへの問い合わせに答える処理は、Microsoft自社のシリコンへ移る。
- なぜ重要か
- Microsoftは3代目の自社製AIアクセラレータMaia 300を発表し、このチップの系統が2027年から自社製品の主要な推論システムになると述べた。
- 確認できたこと
- 写真はこの記事のために生成したものです。本文で名の挙がる人物は写っていません。
名前のある出典に紐づく。検証済みとは記していない。 Microsoft Azure blog
ニュース
Microsoft は、TSMC の N2P プロセスで作られ、HBM4 メモリを 8 スタック載せ、電力の予算が 950 ワットの Maia 300 を発表した。クラウド責任者 Scott Guthrie は、Microsoft は 2027 年から Maia の系統を複数ギガワットの配備へ広げ、Microsoft 自社製品の主要な推論システムにする、と述べた。
なぜ重要か
推論は、AI の計算への支出の大半が向かう場所だ。ハイパースケーラーが、その大半を自社チップで担うと言うことは、その予算に占める Nvidia の取り分への直接の脅威だ。
詳細
Microsoft は、主要な GPU システムより、メガワットあたりのトークンが 40% 多く、ラックあたりのスループットは Maia 200 の最大 7 倍だと主張している。どちらの数字もベンダーの報告であり、比較に使った GPU は名指しされていない。1 ラックは、167 キロワットの枠のなかにチップ 96 基を収める。
CNBC は、Microsoft がモデルの学習には Nvidia と AMD のハードウェアを使い続ける、と報じた。
確認できなかったこと
- Microsoft の効率の比較に使った GPU は、名指しされていない。
- Maia 300 の独立したベンチマークは、まだ存在しない。