Microsoft Maia 200発表、コスト効率が30%向上

Azure Maia 200によるコスト削減がクラウドインフラにもたらす意味

Azure Maia 200によるコスト削減は、同社のデータセンターで稼働する最新ハードウェアと比較して、法人顧客および自社サービスに1ドルあたり30%のパフォーマンス向上をもたらします。AIトークン生成の経済性を最適化するために専用設計されたこのアクセラレータは、Microsoftのクラウドプラットフォーム全体で要求の厳しい生成AIワークロードを処理します。このカスタムシリコンは、OpenAIのGPT-5.2をはじめとするAIモデルの駆動に加え、Microsoft FoundryやMicrosoft 365 Copilot内部のサービスを支えます。社内チームも同ハードウェアを活用しており、Microsoft Superintelligenceグループは合成データ生成や強化学習に本システムを使用し、後続のモデル開発に向けたドメイン特化型学習データの生成とフィルタリングを加速させています。

推論アクセラレータ「Maia 200」の技術仕様とスペック

Microsoft Maia 200のスペックは、TSMCの3ナノメートル製造プロセスを採用し、750ワットの熱設計電力（TDP）枠内で1,400億個以上のトランジスタを搭載しています。低精度計算に最適化されており、1チップあたりFP4精度で10ペタFLOPS以上、FP8精度で5ペタFLOPS以上の演算性能を発揮します。データ転送のボトルネックを解消するため、メモリサブシステムには7 TB/sの帯域幅を持つ216GBのHBM3eメモリと、272MBのオンチップSRAMが統合されています。さらに、専用のダイレクトメモリアクセスエンジンと狭精度データ型に最適化されたカスタムNetwork-on-Chipファブリックにより、データ移動が格段に高速化されています。

AIハードウェアベンチマークにおけるMaia 200とTrainium 3の比較

性能ベンチマークにおけるMaia 200とTrainium 3の比較では、MicrosoftのチップがAmazonの第3世代アクセラレータに対して3倍のFP4演算スループットを達成しています。また、この新プロセッサはGoogleの第7世代Tensor Processing Unit（TPU）を上回るFP8精度演算性能を記録しました。Microsoftによると、これらの結果により本デバイスはハイパースケールクラウドプロバイダーが運用する自社開発シリコンの中で最も高性能な製品として位置づけられます。演算コアとメモリヒエラルキーをトークン生成専用に最適化することで、大規模モデル運用におけるハードウェアの持続的な稼働率向上を実現しています。

TSMC 3nmプロセスを採用したMaia 200アーキテクチャのデータセンター拡張性

TSMC 3nmプロセスによるMaia 200アーキテクチャは、カスタムシリコン設計と標準Ethernet上に構築された2層スケールアップネットワークを組み合わせています。独自の相互接続ファブリックに頼る代わりに、カスタム転送プロトコルと統合ネットワークインターフェースカードを採用することで導入コスト全体を抑えています。各チップは2.8 TB/sの専用双方向スケールアップ帯域幅を提供します。サーバー用トレイ内部では、4つのアクセラレータがスイッチを介さない直結リンクで接続され、高帯域幅通信をローカル内に保持します。統合された転送レイヤーにより、ノードやラックを跨いで最大6,144個のチップで構成されるクラスタまでシームレスに拡張可能です。最初のハードウェアはアイオワ州デモイン近郊のUS Centralデータセンターリージョンに配置され、次はアリゾナ州フェニックス近郊のUS West 3リージョンへの拡張が予定されています。

開発者によるMicrosoft自社製AIチップでの推論ワークロード最適化

開発者は、PyTorchと直接統合される新しいプレビュー版ソフトウェア開発キット（SDK）を使用して、Microsoft自社製AIチップでの推論ワークロードを最適化できます。このSDKには、Tritonコンパイラ、最適化されたカーネルライブラリ、および低レイヤーのハードウェア制御を行えるNeural Programming Languageへのアクセス権が含まれています。また、シミュレータとコスト計算ツールも用意されており、エンジニアはソフトウェア開発ライフサイクルの初期段階でパフォーマンスと効率をモデリングできます。シリコン完成前の共同開発手法により、実機が届いてから数日以内にモデルを動作させることが可能となり、以前のインフラストラクチャ計画と比較してデータセンターラックの展開時間が半分以下に短縮されました。

質問と回答

Microsoft Maia 200はどのようにAzure AIの推論コストを削減しますか？

このアクセラレータは、Microsoftが現在稼働させている最新ハードウェアと比較して1ドルあたりのパフォーマンスを30%向上させることで推論費用を削減します。FP4およびFP8テンソルコア、216GBのHBM3eメモリ、さらに全体的な消費電力と総所有コスト（TCO）を低減するEthernetベースのスケールアップネットワークを組み合わせることでこの効率性を実現しています。

Microsoft Maia 200の主な技術仕様は何ですか？

1,400億個以上のトランジスタを蓄えたTSMC 3nmプロセスで製造され、750WのTDPにおいて10ペタFLOPS以上のFP4演算と5ペタFLOPS以上のFP8演算を提供します。7 TB/sの帯域幅を持つ216GBのHBM3eメモリ、272MBのSRAM、1チップあたり2.8 TB/sの双方向スケールアップネットワーク容量を備えています。

Maia 200はGoogle TPUやAWS Trainiumと比べてどうですか？

このアクセラレータは、Amazonの第3世代Trainiumハードウェアの3倍のFP4演算スループットを誇ります。さらに、そのFP8演算性能はGoogleの第7世代Tensor Processing Unitを上回っています。