Mar. 18, 2026

產業洞察

根據TrendForce集邦咨詢最新AI Server研究，在大型云端服務供應商(CSP)加大自研芯片力道的情況下，NVIDIA（英偉達）在GTC 2026大會改為著重各領域的AI推理應用落地，有別于以往專注云端AI訓練市場。通過推動GPU、CPU以及LPU等多元產品軸線分攻AI訓練、AI推理需求，并借由Rack整合方案帶動供應鏈成長。

TrendForce集邦咨詢表示，隨著以Google（谷歌）、Amazon（亞馬遜）等CSP為首的自研芯片態勢擴大，預估ASIC AI Server占整體AI Server的出貨比例將從2026年的27.8%，上升至2030年的近40%。

為鞏固在AI市場的領導地位，NVIDIA采取的其中一項策略為積極推動GB300、VR200等整合CPU、GPU的整柜式方案，強調可擴展至AI推理應用。本次在GTC發表的Vera Rubin被定義為高度垂直整合的完整系統，涵蓋七款芯片和五款機柜。

觀察Rubin供應鏈進度，預計2026年第二季存儲器原廠可提供HBM4給Rubin GPU搭載使用，助力NVIDIA于第三季前后陸續出貨Rubin芯片。至于NVIDIA GB300、VR200 Rack系統出貨進程，前者已于2025年第四季取代GB200成為主力，預估至2026年出貨占比將達近80%，而VR200 Rack則約在2026年第三季度末可望逐步釋放出貨量能，后續發展仍需視ODM實際進度而定。

另外，AI從生成跨入代理模型時代，在生成Token的譯碼(Decode)階段面臨嚴重的延遲與存儲器帶寬瓶頸。為此，NVIDIA整合Groq團隊技術，推出專為低延遲推理設計的Groq 3 LPU，單顆內建500MB SRAM、整機柜可達128GB。

然而，LPU本身的存儲器容量無法容納Vera Rubin等級的龐大參數與KV Cache。NVIDIA因此于本次GTC提出“解耦合推理(Disaggregated Inference)”架構，通過名為Dynamo的AI工廠作業系統，將推理流水線一分為二：處理代理型AI時，需進行大量數學運算并儲存龐大KV Cache的Pre-fill、Attention運算階段，交由具備極高吞吐量與巨量存儲器的Vera Rubin執行。而受限于帶寬且對延遲極度敏感的譯碼與Token生成階段，則直接卸載至擴充了巨量存儲器的LPU機柜上。

在供應鏈進度上，第三代Groq LP30由Samsung（三星）代工，已進入全面量產階段，預計于2026年下半年正式出貨，未來更規劃在下一代Feynman架構中推出效能更高的LP40芯片。

如果你覺得這篇文章有價值，記得點贊并分享給更多人知道！

TrendForce集邦咨詢

TrendForce

AI服務器產業

趨勢分析 商業洞察 信息精選

PS:當您需要在報道中引用TrendForce集邦咨詢提供的研報內容或分析資料，請注明資料來源為TrendForce集邦咨詢。

近期文章精選TrendForce

全球高科技產業研究機構

TrendForce集邦咨詢是一家全球高科技產業研究機構，研究領域涵蓋存儲器、AI服務器、集成電路與半導體、晶圓代工、顯示面板、LED、AR/VR、新能源（含太陽能光伏、儲能和電池）、AI機器人及汽車科技等前沿科技領域。憑借多年深耕，集邦咨詢致力于為政企客戶提供前瞻性的行業研究報告、產業分析、項目規劃評估、企業戰略咨詢及品牌整合行銷服務，是高科技領域值得信賴的決策伙伴。

TrendForce is a global high-tech industry research institution. Its research fields cover cutting-edge technology domains such as memory, AI servers, integrated circuits and semiconductors, semiconductor foundry, display panels, LEDs, AR/VR, new energy (including solar photovoltaics, energy storage, and batteries), AI robots, and automotive technology. With years of in-depth research, TrendForce is committed to providing forward-looking industry research reports, industrial analysis, project planning and evaluation, corporate strategic consulting, and brand integrated marketing services for government and enterprise clients. TrendForce is a trusted decision-making partner in the high-tech field.

△ 向上滑動查看企業介紹