【天極網(wǎng)企業(yè)頻道】過去幾年,整個(gè)行業(yè)的目光幾乎都被GPU等專用加速器所吸引,CPU在AI算力體系中的價(jià)值長期被低估。當(dāng)AI發(fā)展從被動(dòng)響應(yīng)的工具,演進(jìn)為能夠自主規(guī)劃、執(zhí)行復(fù)雜任務(wù)并與其他智能體協(xié)同的代理式AI時(shí),算力需求的結(jié)構(gòu)發(fā)生了根本性改變,CPU這個(gè)曾經(jīng)的算力配角正蛻變?yōu)槲枧_(tái)中心的主角。
“代理式AI的絕大部分工作并非詞元生成,而是詞元(Token)的調(diào)度與分發(fā)、協(xié)同編排,以及服務(wù)管理,這些工作都只能由CPU來完成。”Arm首席執(zhí)行官Rene?Haas在采訪中這樣定義CPU在AI時(shí)代的角色。
在這一背景下,Arm作出了公司歷史上一次具有里程碑意義的戰(zhàn)略抉擇:從IP和計(jì)算子系統(tǒng)(CSS)供應(yīng)商,延伸至自研量產(chǎn)級(jí)芯片的領(lǐng)域,發(fā)布其首款自研數(shù)據(jù)中心CPU——Arm?AGI?CPU,為代理式AI基礎(chǔ)設(shè)施打造全新計(jì)算基石,也開啟了算力架構(gòu)從x86主導(dǎo)向多元競爭的新階段。
![]()
在日前舉行的亞太區(qū)線上媒體溝通會(huì)上,Arm首席執(zhí)行官Rene?Haas和Arm云AI事業(yè)部執(zhí)行副總裁Mohamed?Awad,圍繞Arm?AGI?CPU的技術(shù)研發(fā)、生態(tài)布局與市場戰(zhàn)略進(jìn)行了深入分享。
打造算力架構(gòu)新格局
在AI數(shù)據(jù)中心中,CPU承擔(dān)著協(xié)調(diào)加速器、管理內(nèi)存與存儲(chǔ)、調(diào)度工作負(fù)載、跨系統(tǒng)遷移數(shù)據(jù)等一系列任務(wù)。
代理式AI的規(guī)模化落地,對(duì)CPU提出了前所未有的嚴(yán)苛要求。隨著AI系統(tǒng)從模型訓(xùn)練轉(zhuǎn)向部署可持續(xù)運(yùn)行、具備推理、規(guī)劃與執(zhí)行能力的智能體,整個(gè)系統(tǒng)生成的詞元數(shù)量飛速增長,亟需更多CPU來承載推理、協(xié)同調(diào)度與數(shù)據(jù)遷移等任務(wù)。同時(shí),由于軟件智能體可自主協(xié)同、持續(xù)運(yùn)行,數(shù)據(jù)中心對(duì)每吉瓦功耗提供的CPU算力需求預(yù)計(jì)將增長至當(dāng)前的四倍以上。
Arm?AGI?CPU的推出正是對(duì)這一趨勢的直接回應(yīng)。從技術(shù)架構(gòu)來看,Arm?AGI?CPU采用兩顆規(guī)格完全相同的芯粒緊密封裝,每顆芯粒均集成CPU核心、內(nèi)存接口和I/O接口,由臺(tái)積公司三納米工藝制造。單顆CPU集成多達(dá)136個(gè)Arm?Neoverse?V3核心,在單核、系統(tǒng)級(jí)芯片、刀片式服務(wù)器及機(jī)架各層級(jí)均實(shí)現(xiàn)了行業(yè)領(lǐng)先的性能表現(xiàn)。尤為關(guān)鍵的是其內(nèi)存架構(gòu),每核心提供6GB/s內(nèi)存帶寬,時(shí)延低于100納秒,主要內(nèi)存接口采用12通道DDR5,速率達(dá)8800?MT/s。這一設(shè)計(jì)確保了在數(shù)千核心并行的持續(xù)高負(fù)載下,每個(gè)任務(wù)都能獲得確定性性能。
在能效與部署密度方面,Arm?AGI?CPU同樣展現(xiàn)出顯著優(yōu)勢。300瓦的TDP設(shè)計(jì)使其能夠支持高密度1U服務(wù)器機(jī)箱的風(fēng)冷部署方案,單機(jī)架可支持多達(dá)8160個(gè)計(jì)算核心;而與Supermicro合作的液冷設(shè)計(jì)方案更是將單機(jī)架核心數(shù)推至超過45000個(gè)。根據(jù)Arm內(nèi)部估算,這種配置下的單機(jī)架性能可達(dá)到最新x86平臺(tái)的兩倍以上,每吉瓦AI數(shù)據(jù)中心算力的資本支出可節(jié)省高達(dá)100億美元。
Mohamed?Awad強(qiáng)調(diào),能耗約束的挑戰(zhàn)在未來仍將持續(xù),這也意味著行業(yè)必須打造更多定制芯片,或是針對(duì)低功耗做深度優(yōu)化的芯片,而這正是Arm?AGI?CPU的優(yōu)勢所在。從長遠(yuǎn)來看,隨著芯片部署規(guī)模的不斷擴(kuò)大,整體算力成本最終將呈現(xiàn)下降趨勢。
是競爭還是共贏?
Arm此次向芯片產(chǎn)品領(lǐng)域的拓展,不可避免地引發(fā)了外界對(duì)“Arm是否將與客戶形成競爭關(guān)系”的關(guān)注。
對(duì)此,Rene?Haas在溝通會(huì)上給出了明確的回應(yīng)。他指出,代理式AI市場蘊(yùn)藏著極其巨大的機(jī)遇,足以容納眾多參與者。更重要的是,Arm并未放棄原有的IP授權(quán)和計(jì)算子系統(tǒng)業(yè)務(wù),而是通過產(chǎn)品矩陣的拓展,滿足廣泛客戶的多元化需求。并且,包括亞馬遜、谷歌、微軟在內(nèi)的多家Arm技術(shù)授權(quán)客戶均對(duì)此次發(fā)布表示支持,NVIDIA也發(fā)表了積極評(píng)價(jià),這足以體現(xiàn)產(chǎn)業(yè)鏈各方對(duì)Arm這一布局的態(tài)度。
Mohamed?Awad進(jìn)一步補(bǔ)充,如今數(shù)據(jù)中心架構(gòu)日趨復(fù)雜,涉及存儲(chǔ)卸載、網(wǎng)絡(luò)卸載等多重需求,即便是行業(yè)巨頭,也難以做到所有環(huán)節(jié)全部自研,正如谷歌自研TPU后,仍會(huì)從NVIDIA采購大量GPU,企業(yè)自研芯片無法滿足全部業(yè)務(wù)需求,這也為外部采購留下了充足空間。而Arm能為客戶提供基于同一平臺(tái)的多元產(chǎn)品,讓客戶可根據(jù)自身基礎(chǔ)設(shè)施的不同需求,選擇IP、CSS或自研CPU。從這一角度看,Arm自研芯片并非與客戶“搶蛋糕”,而是在市場擴(kuò)張過程中,以更豐富的產(chǎn)品形態(tài)“做大蛋糕”。
![]()
在生態(tài)合作上,Arm?AGI?CPU已獲得全球產(chǎn)業(yè)界的廣泛支持。Meta作為早期合作伙伴與聯(lián)合開發(fā)者,深度參與了芯片的研發(fā)過程,將其與自研MTIA加速器協(xié)同部署,優(yōu)化全平臺(tái)AI基礎(chǔ)設(shè)施;Cerebras、Cloudflare、OpenAI、SAP、SK電訊等企業(yè)也達(dá)成商務(wù)合作,將Arm?AGI?CPU部署于加速器管理、代理式AI協(xié)同調(diào)度等場景;永擎電子、聯(lián)想、Supermicro等頭部OEM/ODM廠商已開放商用系統(tǒng)訂購,為?Arm?AGI?CPU的規(guī)模化落地提供了硬件支撐。此外,超大規(guī)模云服務(wù)、芯片、內(nèi)存、網(wǎng)絡(luò)等領(lǐng)域的50余家領(lǐng)軍企業(yè),均對(duì)Arm的芯片布局表示支持,構(gòu)筑起覆蓋全產(chǎn)業(yè)鏈的生態(tài)體系。
展望未來,依托Arm?AGI?CPU的技術(shù)優(yōu)勢與生態(tài)布局,Arm為相關(guān)業(yè)務(wù)設(shè)定了明確的增長目標(biāo)。Rene?Haas透露,預(yù)計(jì)未來5年,這類產(chǎn)品的總潛在市場規(guī)模約為1000億美元;到2030年,Arm該業(yè)務(wù)板塊的年?duì)I收將達(dá)到150億美元。同時(shí),當(dāng)前發(fā)展勢頭強(qiáng)勁的IP業(yè)務(wù),營收將在本十年末突破100億美元。
毫不夸張地說,Arm?AGI?CPU的發(fā)布標(biāo)志著全球AI算力基礎(chǔ)設(shè)施正在進(jìn)入一個(gè)全新的發(fā)展階段。從手機(jī)到服務(wù)器,從邊緣到云端,Arm架構(gòu)的能效優(yōu)勢正以前所未有的規(guī)模滲透至計(jì)算領(lǐng)域的每一個(gè)角落。當(dāng)代理式AI開啟新一輪技術(shù)變革,計(jì)算底層的架構(gòu)之爭也將迎來新的格局。正如Rene?Haas所言:“Arm?AGI?CPU的核心潛力和機(jī)遇,在于從x86架構(gòu)手中奪取市場份額,而抓住這一機(jī)遇的關(guān)鍵,是該產(chǎn)品能在同等功耗下實(shí)現(xiàn)性能翻倍。”
聚合標(biāo)簽:
網(wǎng)友評(píng)論
發(fā)布
特別聲明:以上內(nèi)容(如有圖片或視頻亦包括在內(nèi))為自媒體平臺(tái)“網(wǎng)易號(hào)”用戶上傳并發(fā)布,本平臺(tái)僅提供信息存儲(chǔ)服務(wù)。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.