Arm?推出面向?AI?推理的新型數據中心?CPU

Arm發布了 AGI CPU，這是一款專為蓬勃發展的 AI 推理和自主智能體（Agentic AI）工作負載市場設計的新型芯片。AGI CPU 對 Arm 具有里程碑意義——這是這家擁有 35 年歷史的公司首次直接向客戶提供芯片產品（而非出售 IP 或子系統）。

這家英國公司還推出了基于 AGI CPU 的服務器參考設計，顯然對這款芯片在 AI 熱潮中搶占市場份額充滿信心，其 CEO 預測這款新芯片到 2031 年將帶來 150 億美元的收入。

強悍的技術規格

新款 AGI CPU 擁有令人印象深刻的參數。這款由 Arm 與 Meta 聯合設計的芯片，采用基于臺積電 3nm N3P 工藝的芯片設計。136 個 Neoverse V3 核心中的每一個運行頻率均為 3.5GHz（雙芯片配置下為 3.7GHz），每個核心配備 2MB 二級緩存。

每個核心提供 6GBps 的內存帶寬，而整顆芯片可通過每芯片 12 通道接入 6TB 的 DDR5 內存，在 100 納秒或更低的延遲下實現 800 GBps 的聚合內存帶寬。

AGI CPU 刀片服務器用于機架級參考架構

新款 AGI 芯片配備 96 條 PCIe Gen6 通道，并支持用于內存擴展的 CXL 3.0。Arm 將所有這些功能集成在 300 瓦的熱設計功耗（TDP）之內。

Arm 重點宣傳新款 AGI 芯片的內存帶寬和每線程性能，表示這將幫助客戶在滿足新興自主智能體 AI 工作負載需求的同時，保持在能源預算之內。

CPU 市場持續升溫

當前 CPU 市場正處于火熱狀態，因為AI 熱潮增加了對通用芯片的需求，這些芯片需要能夠處理 AI 推理和自主智能體 AI 所需的各種任務。

雖然強大的 GPU 在 AI 模型訓練和 AI 推理的第一階段（稱為 prefill，預填充）中備受青睞，但它們并不適合 AI 推理的第二階段（稱為 decode，解碼），該階段需要完成大量任務，例如啟動沙盒環境、運行生成的代碼、從 KV 緩存（延展閱讀：）拉取數據、處理 SQL 查詢，以及監控所有這些功能以便在機器學習反饋循環中進行改進。

最近在Nvidia GPU 技術大會（GTC）上， 重點宣傳了 Vera——其新款 88 核 ARM 芯片，聲稱其性能是標準 X86 芯片的 1.5 倍，內存帶寬是后者的 3 倍（每芯片 1.2 TBps，超過了 Arm 新推出的 AGI CPU）。Nvidia 還銷售整架 Vera CPU，作為客戶"AI 工廠"建設的一部分，處理各類任務。這一切都是 Nvidia"推理之王"經濟學的組成部分。

Arm 進軍"推理之王"經濟學

Arm 推出 AGI CPU 表明它也開始熱衷于"推理之王經濟學"。這家傳統上與 Nvidia、Meta、Google 和 Microsoft 等公司合作開發基于 ARM 設計的定制芯片的公司，如今正獨自進軍芯片業務。

Arm 還為超密集機架部署推出了新的參考服務器配置。第一個參考設計基于開放計算項目（OCP-Open Compute Project）的 DC-MHS 設計，采用支持每塊刀片最多 272 個核心的雙芯片 AGI CPU 配置。在標準風冷 36kW 機架中最多可部署 30 塊刀片，參考設計總共提供 8,160 個核心。

Arm 還表示正在與超微合作開發液冷200kW 機架，可容納 336 顆 AGI CPU，總計超過 45,000 個核心。Arm 聲稱，在1 千兆瓦規模的 AI 工廠中，相比 X86 架構可節省 100 億美元的資本支出。

Meta評價

"在全球規模交付 AI 體驗需要強大且適應性強的定制芯片解決方案組合，專門用于加速 AI 工作負載并優化 Meta 平臺的性能。"Meta 基礎設施主管 Santosh Janardhan 表示，"我們與 Arm 合作開發AGI CPU，部署了一個高效能的計算平臺，顯著提升了我們的數據中心性能密度，并為我們不斷演進的 AI 系統支持多代路線圖。"

Arm 正與一系列合作伙伴共同推進AGI CPU 的落地，包括 Cloudflare、F5、OpenAI、Positron、Rebellions、SAP 和 SK Telecom。

行業視角

芯片制造商 Cerebras 顯然認為其晶圓級引擎是 AI 推理的卓越芯片，但也認識到需要更小的 CPU 來處理成功部署 AI 所需的其他各類任務。

"這些系統需要專用的 AI 加速器，以及高效、可擴展的 CPU 在大規模場景下協調數據移動、網絡和協同工作，"Cerebras CEO Andrew Feldman 表示，"將Arm 計算平臺擴展到 AGI 級基礎設施，對生態系統和在全球規模部署 AI 的客戶而言都是積極的一步。"

CEO 的雄心

在 2026 年 3 月 24 日于舊金山舉行的發布會上，Arm CEO Rene Haas 表示，僅新款 AGI CPU 芯片的銷售額到 2031 年就將為這家總部位于英國劍橋的公司帶來 150 億美元的收入。

Haas 預測，其公司在 2024 年總收入約 40 億美元的基礎上，到 2031 年總收入將達到 250 億美元。Haas 預計新興的AI 推理工作負載將在可預見的未來使 CPU 需求增長四倍。

"我們可能低估了這個數字，"Haas在接受 CNBC 采訪時表示，"我認為需求比我們想象的要高。"

在新芯片發布后的第二天，Arm 股票（納斯達克代碼：ARM）上漲了 16%。該公司目前市值為1,668 億美元。

關于 AGI 命名：雖然 Arm AGI CPU 將幫助客戶處理自主智能體 AI 工作負載，但它可能無法單獨實現通用人工智能（AGI），因為大多數 AI 專家仍認為AGI 距離我們還有數十年之遙。