最近AI圈的熱事可真不少,圈里人都盯著英偉達(dá)的新硬件動(dòng)向,畢竟當(dāng)下做AI繞不開他家的貨。這不最近有專業(yè)研報(bào)把英偉達(dá)兩代AI機(jī)柜的老底都扒出來了,下一代機(jī)柜直接干到780萬美元,比現(xiàn)在主流款總價(jià)翻了快一倍。大伙第一反應(yīng)肯定是GPU又漲價(jià)了對(duì)不對(duì)?哎,還真不是這么回事,這里頭藏著不少大家沒注意到的門道。
![]()
這次拆解的是英偉達(dá)兩代主流機(jī)柜,現(xiàn)在賣的最多的Grace Blackwell 300,下一代是Vera Ruby 200。兩款都搭載了72個(gè)帶NVLink接口的GPU,成本結(jié)構(gòu)卻差出了天差地別。現(xiàn)在這款整機(jī)下來差不多400萬美元,下一代直接漲到780萬美元,漲幅快摸到100%了。
不少人拍腦袋說肯定是GPU漲價(jià)帶的節(jié)奏,GPU本來就是AI服務(wù)器最值錢的部件嘛。實(shí)際算下來GPU成本只漲了57%,從原來的252萬美元漲到396萬美元,連整體漲價(jià)幅度都沒追上。GPU占總成本的比例也從65%跌到了50%,已經(jīng)不是穩(wěn)坐第一的絕對(duì)主力了。
![]()
算完這筆賬就能發(fā)現(xiàn),存儲(chǔ)和PCB這倆,正好就是把機(jī)柜成本推到780萬的兩大核心推手。兩者加起來的漲價(jià)額,占了總漲價(jià)額的一半還多,原來大家盯著GPU,沒想到真正的漲價(jià)大頭藏在這。真正漲得狠的就是存儲(chǔ)芯片,不管是GPU配套的HBM還是CPU用的DRAM,這次直接暴漲435%。
成本從原來的37萬美元跳漲到200萬美元,漲幅快是GPU的八倍。現(xiàn)在大模型拼參數(shù)拼得越來越兇,AI服務(wù)器對(duì)存儲(chǔ)的需求早就從過去的邊角輔助配置變成了不能少的核心硬需求,再加上去年存儲(chǔ)芯片本身價(jià)格就整體上行,雙重加持直接把存儲(chǔ)成本推到了總成本的25%。
![]()
另一個(gè)漲得離譜的就是PCB,也就是大家常說的印刷電路板。這玩意是所有電子元器件的載體,供電傳信號(hào)全靠它撐著。GPU規(guī)格越做越大,性能越來越強(qiáng),對(duì)信號(hào)傳輸密度的要求也就跟著水漲船高,計(jì)算用PCB從22層升級(jí)到26層,交換用PCB從24層直接升到32層,成本直接漲了233%。
還有個(gè)容易被大家忽略的小部件叫ABF基板,作用其實(shí)一點(diǎn)都不小。GPU現(xiàn)在制程做得越來越精細(xì),直接安裝在PCB上會(huì)出現(xiàn)規(guī)格不匹配的問題,就得靠ABF基板當(dāng)中間過渡。現(xiàn)在全球95%的ABF基板原材料都攥在日本信越手里,說它是AI硬件賽道隱形的卡脖子環(huán)節(jié),真一點(diǎn)不夸張。
GPU運(yùn)算的時(shí)候電壓容易出現(xiàn)波動(dòng),得靠MLCC電容來穩(wěn)定電壓,這次這項(xiàng)成本也漲了182%。不過它本身的體量太小,對(duì)總成本影響可以說微乎其微,在780萬美元的總造價(jià)里只占了4000美元左右,掀不起什么大浪花。
![]()
剩下的NVLink交換芯片和外部交換芯片,成本也分別漲了122%和121%。NVLink交換芯片管機(jī)柜內(nèi)部72個(gè)GPU之間的信號(hào)傳輸,外部交換芯片管機(jī)柜和機(jī)柜、機(jī)柜和外部交換機(jī)之間的互聯(lián),都是缺一不可的核心部件,哪一樣缺了都玩不轉(zhuǎn)。
很多人看了這個(gè)成本表只感嘆AI硬件真貴,其實(shí)這份研報(bào)拆的不只是兩代機(jī)柜的一本成本賬,更是當(dāng)前AI硬件賽道的迭代邏輯。原來大家只盯著GPU產(chǎn)能,現(xiàn)在看,上游很多細(xì)分零部件的供應(yīng)缺口,已經(jīng)比GPU還要緊張。每一次漲價(jià)的背后,都是上游供應(yīng)鏈的實(shí)際壓力,也是產(chǎn)業(yè)升級(jí)繞不開的坎。
對(duì)于早早布局AI服務(wù)器的廠商來說,這些不起眼的零部件細(xì)節(jié),直接決定了自家產(chǎn)品的成本底線。能不能拿到穩(wěn)定的ABF基板供應(yīng),能不能拿到性價(jià)比合適的存儲(chǔ)芯片,這些看起來細(xì)碎的問題,最后都會(huì)變成產(chǎn)品在市場(chǎng)上的核心競(jìng)爭(zhēng)力。現(xiàn)在AI賽道越來越卷,拼到最后其實(shí)就是拼供應(yīng)鏈的把控能力。
![]()
現(xiàn)在全球AI賽道都在搶產(chǎn)能,英偉達(dá)每升級(jí)一代硬件,整個(gè)上游供應(yīng)鏈都得跟著同步升級(jí)。很多原來做消費(fèi)電子零部件的廠商,轉(zhuǎn)產(chǎn)適配AI硬件的高端部件也需要時(shí)間擴(kuò)產(chǎn),供需錯(cuò)配下,價(jià)格自然就往上漲。國(guó)內(nèi)不少做AI服務(wù)器的廠商,現(xiàn)在也在慢慢往上游細(xì)分賽道布局,就是不想被別人卡住脖子。
原來資本圈都只盯著GPU廠商,現(xiàn)在不少人都轉(zhuǎn)頭去挖上游細(xì)分領(lǐng)域的機(jī)會(huì)。那些原來沒人關(guān)注的高端PCB、ABF基板廠商,現(xiàn)在都成了行業(yè)眼里的香餑餑。畢竟只要AI硬件還在往更高性能走,對(duì)這些核心零部件的需求就只會(huì)越來越大,缺口短時(shí)間也填不上。
![]()
國(guó)內(nèi)現(xiàn)在做大模型的創(chuàng)業(yè)公司,不少都要采購(gòu)英偉達(dá)的AI機(jī)柜,這次成本漲了近一倍,對(duì)不少初創(chuàng)團(tuán)隊(duì)來說壓力真不小。原來能買兩臺(tái)機(jī)柜的預(yù)算,現(xiàn)在只能拿下一臺(tái),不少團(tuán)隊(duì)也開始想辦法,要么優(yōu)化模型結(jié)構(gòu)降低對(duì)硬件的需求,要么扶持國(guó)內(nèi)上游零部件廠商做替代,盡可能把成本壓下來。
參考資料:人民日?qǐng)?bào) 全球人工智能產(chǎn)業(yè)發(fā)展觀察
特別聲明:以上內(nèi)容(如有圖片或視頻亦包括在內(nèi))為自媒體平臺(tái)“網(wǎng)易號(hào)”用戶上傳并發(fā)布,本平臺(tái)僅提供信息存儲(chǔ)服務(wù)。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.