微軟推出Maia 200?提升?AI?推理門檻

微軟（Microsoft） 推出了 Maia 200，這是其用于驅動 AI 工作負載的自研芯片的最新迭代版本。Maia 200 擁有一些令人印象深刻的數據，包括 10 petaflops 的 FP4 算力和 216GB 的HBM3，這讓 Microsoft 及其 Azure 云在 AI Token 生成方面獲得了立竿見影的提升。更重要的是，這給了 Microsoft在自研 AI 加速器方面超越 AWS 和 Google Cloud 的底氣。

Microsoft 表示，Maia 200 是其首款專門解決 AI 性能挑戰的芯片。除了原始的數字運算能力，AI 推理還需要大量高速內存，以及內存和處理器之間的高速鏈接。Maia 200 似乎在這兩個方面都有所斬獲。

Maia 200 采用臺積電 3nm （納米）工藝開發，功耗設計（TDP）為 750 瓦。Maia 200 的核心包含兩個執行引擎：一個是用于高吞吐量矩陣乘法和卷積的 Tile Tensor Unit（TTU：Tile 張量處理單元），支持 FP8、FP6和 FP4 精度；另一個是用于 SIMD（單指令多數據）指令的 Tile Vector Processor（TVP：Tile 向量處理器），提供 FP8、BF16和 FP32 處理能力。TTU 和 TVP 執行引擎連接到 216GB 的高帶寬內存（HBM3）以及 272MB 的片上TSRAM（Tile 靜態隨機存取存儲器）。

Maia 200 配備了一個直接內存訪問（DMA）子系統，用于在 TSRAM 和TTU 之間保持數據流動，以及一個小的 Tile Control Processor（TCP：Tile 控制處理器）來協調TTU 和 DMA 之間的工作。

根據 Azure 工程博客中 Saurabh Dighe（系統與架構副總裁）和 Artour Levin（AI 硅工程副總裁）撰寫的 Maia 200 深度解析，Maia 200 架構的一個決定性特征是其豐富的內存和內存層次結構?！斑@種巨大的片上內存資源支持廣泛的各種低延遲、高帶寬的數據管理策略?！彼麄儗懙馈！癈SRAM 和 TSRAM都是完全軟件管理的，允許開發者——或編譯器/運行時——確定性地放置和固定數據，以精確控制數據的局部性和移動?！?/p>

Maia 200 芯片配備了片上以太網網絡接口卡（NIC），與相鄰芯片之間提供每秒 2.8 TB 的雙向帶寬。據 Dighe 和 Levin 介紹，Maia 200 采用了“兩層、縱向擴展”拓撲結構，結合了基于以太網的縱向擴展互連，可在包含多達 6,144 個加速器的集群中提供高帶寬、低延遲通信。

Microsoft 表示，它可以在一個“兩層、縱向擴展”集群拓撲中連接多達6,144 個 Maia 200 加速器。

據 Dighe 和Levin 稱，Maia 200 的 Tile 級處理能力，結合 DMA 和片上網絡能力，使芯片能夠達到當今大規模 AI 工作負載所需的廣泛規模?！癉MA 引擎專為多通道、高帶寬傳輸而設計，支持 1D/2D/3D 步進移動，使常見的 ML 張量布局能夠在片上 SRAM、HBM和外部接口之間高效移動，同時實現數據移動與計算的重疊，”他們寫道?！巴瑫r，NoC 在集群和內存子系統之間提供可擴展、低延遲的通信，并支持單播和多播傳輸——這是分發張量塊和協調并行執行的重要能力?！?/p>

距離 Microsoft 推出 Maia 100——其首款專門用于 AI 推理的第一代 AI 加速器——剛剛過去兩年多。Maia 100 采用臺積電 5 納米工藝開發，提供每秒 1.8 TB 的雙向內存帶寬和 64GB SRAM。它提供 3.2 petaflops 的 MXFP4 性能和 1.6 petaflops 的 FP8 或 MXInt8 性能，大約是Maia 200 的三分之一。

Maia 200 的能力與其他頂級 AI 加速器相當，使其成為“AI 推理動力源”，Microsoft 云和 AI 執行副總裁 Scott Guthrie 表示：“實際上，Maia 200 可以輕松運行當今最大的模型，并為未來更大的模型留出充足的空間。”“Maia 200 是來自任何超大規模云服務商的最強大的第一方硅芯片，其 FP4 性能是第三代 Amazon Trainium 的三倍，FP8 性能高于 Google 第七代 TPU?！彼€補充說：“Maia 200 也是 Microsoft 部署過的最高效的推理系統，與目前我們機群中的最新代硬件相比，性能提升了 30%?！?/p>

Maia 200 可在風冷和水冷環境中運行。它的設計旨在與 Azure 的第三方 GPU 機群協同工作，并遵守機架、電源和機械架構的標準。它集成到 Azure 的原生控制平面中，Microsoft 這使得部署和服務變得輕而易舉，同時與同一數據中心空間內的其他 AI 加速器和諧共存。

Microsoft 計劃使用其 Maia 200 芯片運行各種模型，包括最新的 OpenAI GPT-5.2 模型。它還將用于生成合成數據，供 AI 模型用于訓練目的。新芯片目前部署在 Microsoft 位于愛荷華州得梅因附近的 Central 數據中心區域。它接下來將部署在亞利桑那州鳳凰城附近的 US West 3 數據中心區域，未來還會有更多區域跟進。