2025年10月，半導體產(chǎn)業(yè)研究機構(gòu)SemiVision Research發(fā)布《The Infinite AI Compute Loop: HBM Big Three + TSMC x NVIDIA x OpenAI Shaping the Next-Generation Industry Chain》。SemiVision Research長期跟蹤全球半導體、先進封裝、AI芯片、存儲器和光互連產(chǎn)業(yè)鏈，其報告通常兼具技術(shù)分析和產(chǎn)業(yè)鏈研判，在業(yè)內(nèi)具有較強參考價值。站在當前時點（2026年5月）回看，報告關(guān)于HBM高帶寬存儲、先進封裝、AI數(shù)據(jù)中心電力約束、云廠商自研AI芯片、CPO共封裝光學等趨勢的判斷，許多已經(jīng)成為現(xiàn)實中的產(chǎn)業(yè)熱點，顯示出較強的前瞻性和準確性。

這份報告的核心觀點是：AI產(chǎn)業(yè)正在形成一個“無限AI算力循環(huán)”。OpenAI等大模型企業(yè)不斷提出更高算力需求，NVIDIA（英偉達）等芯片企業(yè)提供AI加速芯片，TSMC（臺積電）依靠先進制程和先進封裝支撐制造，SK hynix（SK 海力士）、三星、Micron（美光）等存儲企業(yè)提供HBM（High Bandwidth Memory，高帶寬內(nèi)存），Oracle（甲骨文）、Microsoft（微軟）、AWS（亞馬遜云科技）、Google（谷歌）等云服務(wù)商建設(shè)超大規(guī)模數(shù)據(jù)中心。更強的算力基礎(chǔ)設(shè)施又進一步推動更大模型、更復雜應用和更高推理需求，由此形成持續(xù)擴張的產(chǎn)業(yè)循環(huán)。

報告的基本框架并非傳統(tǒng)的“芯片設(shè)計—制造—封測—應用”線性敘述，而是圍繞AI基礎(chǔ)設(shè)施的關(guān)鍵瓶頸展開。先分析NVIDIA、OpenAI和云服務(wù)商之間的資本與技術(shù)循環(huán)，再討論TSMC在先進制程和先進封裝中的樞紐地位，隨后重點分析HBM、內(nèi)存墻、先進封裝、電源與信號完整性、CXL（Compute Express Link，計算快速互聯(lián)）、光互連、ASIC（Application Specific Integrated Circuit，專用集成電路）、能源和數(shù)據(jù)中心約束，最后延伸到中國相關(guān)產(chǎn)業(yè)鏈面臨的結(jié)構(gòu)性壓力。總體看，報告揭示的是AI競爭已經(jīng)從單純的模型競爭，轉(zhuǎn)向由芯片、存儲、封裝、互連、能源和產(chǎn)業(yè)組織能力共同決定的基礎(chǔ)設(shè)施體系競爭。

一、AI產(chǎn)業(yè)已進入資本、技術(shù)和基礎(chǔ)設(shè)施相互強化的新階段

從科技管理視角看，這份報告最有價值之處，在于它沒有把人工智能簡單理解為算法、模型或應用，而是把AI放在一個復雜技術(shù)系統(tǒng)中理解。所謂復雜技術(shù)系統(tǒng)，是指一個產(chǎn)業(yè)的競爭力不再由某一項單獨技術(shù)決定，而是由多個關(guān)鍵環(huán)節(jié)共同支撐。今天的AI算力體系，正是由芯片、存儲、先進封裝、互連網(wǎng)絡(luò)、數(shù)據(jù)中心、電力系統(tǒng)、資本投入和供應鏈組織能力共同構(gòu)成的。報告提出的“無限AI算力循環(huán)”，本質(zhì)上是一個技術(shù)需求、資本投入和基礎(chǔ)設(shè)施擴張相互強化的過程。OpenAI等大模型企業(yè)需要更多算力，NVIDIA提供GPU和AI加速芯片，Oracle、Microsoft等云服務(wù)商建設(shè)數(shù)據(jù)中心，TSMC負責先進制造與封裝，存儲企業(yè)提供HBM。更強的算力又支持更強模型和更多應用，進而繼續(xù)產(chǎn)生新的算力需求。這里需要說明的是，GPU即圖形處理器，最初用于圖像渲染，后來因適合大規(guī)模并行計算，成為AI訓練和推理的重要芯片。CSP即云服務(wù)提供商，包括AWS、Microsoft Azure（微軟云）、Google Cloud（谷歌云）、Oracle Cloud（甲骨文云）等，它們?yōu)榇竽Ｐ推髽I(yè)提供云端算力和數(shù)據(jù)中心服務(wù)。過去，人們常說AI競爭是“算法競爭”或“模型競爭”，但報告提醒我們，AI已經(jīng)進入重資產(chǎn)、高投入、高集中度的新階段。沒有芯片、存儲、數(shù)據(jù)中心和能源支撐，再先進的算法也難以規(guī)模化落地。

二、TSMC成為AI產(chǎn)業(yè)鏈中的“隱形戰(zhàn)略樞紐”

TSMC是全球最重要的先進晶圓代工企業(yè)之一。NVIDIA、AMD以及許多云廠商自研AI芯片，都高度依賴TSMC的先進制程和先進封裝。先進制程主要指5納米、3納米、2納米等高端芯片制造工藝；先進封裝則是把多個計算芯片、存儲芯片和互連結(jié)構(gòu)集成到一個封裝體中，讓它們像一個整體系統(tǒng)一樣工作。報告提到的CoWoS、SoIC、SoW和CoPoS，正是理解AI芯片產(chǎn)業(yè)變化的關(guān)鍵。CoWoS，即Chip on Wafer on Substrate（晶圓上芯片封裝），是臺積電廣泛用于GPU與HBM集成的2.5D先進封裝技術(shù)；SoIC，即System on Integrated Chips（系統(tǒng)級集成芯片），是三維芯片堆疊技術(shù)；SoW，即System on Wafer，指晶圓級系統(tǒng)集成；CoPoS，即Chip on Panel on Substrate，是面板級封裝路線，意在擴大封裝面積、提高封裝產(chǎn)能。過去，封裝常被看作芯片制造的后端環(huán)節(jié)，但在AI時代，先進封裝已經(jīng)成為決定系統(tǒng)性能的核心環(huán)節(jié)。GPU能否連接更多HBM，芯片能否穩(wěn)定供電和散熱，系統(tǒng)能否持續(xù)高效運行，都與先進封裝密切相關(guān)。

三、HBM成為AI時代的戰(zhàn)略性存儲資源

HBM即High Bandwidth Memory，高帶寬存儲器，是通過垂直堆疊多個DRAM芯片，并利用TSV硅通孔實現(xiàn)高速連接的存儲器。DRAM是動態(tài)隨機存儲器，是計算機和服務(wù)器常用內(nèi)存；TSV即Through-Silicon Via，硅通孔，是在芯片中垂直打孔并填充導電材料，使多層芯片能夠上下互連。為什么HBM如此重要？因為AI系統(tǒng)不是只要“算得快”就行，還必須“喂得上數(shù)據(jù)”。大模型訓練和推理需要不斷讀取參數(shù)、激活值、緩存和中間結(jié)果。如果存儲器帶寬不夠，GPU就會等待數(shù)據(jù)，實際性能就會下降。報告把這一問題稱為內(nèi)存墻，英文是Memory Wall，意思是處理器計算速度提升很快，但內(nèi)存訪問速度跟不上，最終形成系統(tǒng)瓶頸。通俗地說，就是“發(fā)動機很強，但油路太細”，車仍然跑不快。從科技管理角度看，這一判斷非常重要。它說明評價AI算力不能只看購買了多少GPU，也不能只看理論峰值算力，而要看“有效算力”。有效算力是指在真實任務(wù)中能夠持續(xù)發(fā)揮作用的算力。如果存儲帶寬不足、芯片互連效率低、電力和散熱跟不上，那么紙面算力再高，實際效率也會大打折扣。

報告還指出，HBM本身正在從普通存儲器變成系統(tǒng)級關(guān)鍵部件。HBM4、HBM4E之后，HBM不只是容量和帶寬增加，還需要更復雜的邏輯控制、電源管理和接口設(shè)計。報告提到的Base Die，即HBM底部的邏輯基底芯片，負責接口、控制、糾錯、電源管理等功能。隨著Base Die越來越復雜，HBM供應商必須與先進代工廠、封裝廠和AI芯片企業(yè)更深度協(xié)同。這意味著，存儲產(chǎn)業(yè)不再只是制造標準化內(nèi)存顆粒，而是在參與AI系統(tǒng)架構(gòu)設(shè)計。報告所說的HBM三大廠商，主要是SK hynix、Samsung和Micron。SK hynix是當前HBM市場的重要領(lǐng)先者；Samsung擁有存儲和晶圓代工雙重能力；Micron是美國主要存儲器企業(yè)。三者正在成為AI產(chǎn)業(yè)鏈中的關(guān)鍵節(jié)點。過去，HBM更多由NVIDIA等芯片企業(yè)集中采購；現(xiàn)在，OpenAI、Google、AWS等模型企業(yè)和云服務(wù)商也開始直接鎖定HBM供應。這說明AI產(chǎn)業(yè)鏈的權(quán)力關(guān)系正在發(fā)生變化，存儲不再是被動配套，而成為影響AI基礎(chǔ)設(shè)施擴張速度的重要資源。

四、AI系統(tǒng)瓶頸正在系統(tǒng)性轉(zhuǎn)移

這里涉及幾個看似專業(yè)、但非常關(guān)鍵的概念。RDL即重布線層，是封裝中重新安排芯片之間信號和電源連接的金屬布線層；PDN即電源傳輸網(wǎng)絡(luò)，用來保障芯片穩(wěn)定供電；SI即信號完整性，強調(diào)高速信號傳輸不能失真、不能嚴重串擾；PI即電源完整性，強調(diào)供電穩(wěn)定、減少電壓波動和噪聲。這些概念聽起來很工程化，但它們決定AI芯片能否真正穩(wěn)定運行。GPU與HBM之間的數(shù)據(jù)通道非常密集，速度極高，如果布線、電源、散熱、信號控制任何一個環(huán)節(jié)出問題，系統(tǒng)性能就會受到影響。報告提出的STCO，即System Technology Co-Optimization，系統(tǒng)技術(shù)協(xié)同優(yōu)化，正是AI芯片時代的重要管理理念。它強調(diào)芯片設(shè)計、制程、封裝、存儲、散熱、電源和軟件調(diào)度不能各做各的，而要從一開始就共同優(yōu)化。換句話說，AI芯片競爭已經(jīng)不是單個芯片公司的競爭，而是系統(tǒng)組織能力的競爭。

五、AI基礎(chǔ)設(shè)施從“芯片內(nèi)競爭”走向“系統(tǒng)互連競爭”

CXL即Compute Express Link，是一種高速互連標準，可以讓CPU、GPU、加速器和內(nèi)存之間進行低延遲、高效率連接。它的重要作用是支持內(nèi)存擴展和內(nèi)存池化。所謂內(nèi)存池化，就是把不同服務(wù)器或設(shè)備上的內(nèi)存集中起來，像一個資源池一樣按需分配，從而提高資源利用率。不過，隨著AI集群規(guī)模越來越大，傳統(tǒng)電連接會遇到帶寬、功耗和距離限制。因此，報告進一步討論了CPO和Optical I/O。CPO即Co-Packaged Optics，共封裝光學，是把光通信模塊與計算芯片更緊密地封裝在一起，以降低功耗、提高帶寬；Optical I/O即光輸入輸出，是用光信號進行芯片間或系統(tǒng)間高速數(shù)據(jù)傳輸。硅光，英文Silicon Photonics，是利用硅基工藝制造光學器件，實現(xiàn)光電轉(zhuǎn)換和高速通信。這些技術(shù)的共同目標，是解決AI集群中的數(shù)據(jù)傳輸問題。大模型訓練不是一張芯片完成的，而是成千上萬張加速卡、服務(wù)器和交換機共同完成的。芯片之間、服務(wù)器之間、機柜之間的數(shù)據(jù)流動效率，直接決定AI集群的整體效率。因此，未來AI競爭不是簡單堆GPU，而是比拼能否把算力、存儲、網(wǎng)絡(luò)和調(diào)度組織成一個高效整體。

六、AI芯片產(chǎn)業(yè)從GPU中心走向異構(gòu)化

報告第六個重要判斷，是AI芯片產(chǎn)業(yè)將從GPU中心化走向GPU與ASIC并存。ASIC即Application-Specific Integrated Circuit，專用集成電路，是為特定任務(wù)設(shè)計的芯片。與GPU相比，ASIC通用性較弱，但在特定場景中通常能效更高、成本更低。報告認為，GPU仍將在訓練場景中保持重要地位，因為訓練需要較強通用性和成熟軟件生態(tài)；但在推理場景中，ASIC可能發(fā)揮更大作用，因為推理任務(wù)更穩(wěn)定，更適合定制芯片。這一趨勢已經(jīng)在產(chǎn)業(yè)中體現(xiàn)出來。Google的TPU、Amazon的Trainium和Inferentia、Microsoft的Maia、Meta的自研AI芯片、華為昇騰，以及OpenAI與Broadcom合作開發(fā)定制芯片，都說明大型云服務(wù)商和模型企業(yè)正在推動AI芯片多元化。這里的TPU是Google開發(fā)的張量處理器，專門用于AI計算；昇騰是華為面向AI訓練和推理的芯片平臺。需要強調(diào)的是，ASIC興起并不意味著GPU被取代，而是說明AI芯片進入多架構(gòu)共存階段。科技管理上，這意味著硬件創(chuàng)新越來越由應用場景、模型結(jié)構(gòu)、云平臺和供應鏈能力共同決定。

七、AI算力競爭正在變成基礎(chǔ)設(shè)施競爭能力。

報告第七個層面，把AI競爭擴展到能源、冷卻和數(shù)據(jù)中心。報告提到，AI數(shù)據(jù)中心正在向1GW級規(guī)模發(fā)展。GW即吉瓦，1GW等于100萬千瓦，已經(jīng)接近大型電站級別。AI服務(wù)器功耗很高，芯片越強，散熱和供電壓力越大，因此液冷、微通道冷卻和新型散熱材料變得越來越重要。液冷是用液體而不是空氣給服務(wù)器散熱；微通道冷卻是通過細小通道讓冷卻液更接近熱源，提高散熱效率；TCO即總擁有成本，包括設(shè)備采購、電力、冷卻、維護和折舊等全生命周期成本。報告提出的一個重要判斷是：能源就是算力。沒有穩(wěn)定、低成本、可持續(xù)的電力供應，就無法支撐大規(guī)模AI數(shù)據(jù)中心運行。過去，數(shù)據(jù)中心主要被看作IT設(shè)施；現(xiàn)在，它已經(jīng)成為能源、電網(wǎng)、土地、水資源、通信網(wǎng)絡(luò)和產(chǎn)業(yè)政策共同作用的戰(zhàn)略性基礎(chǔ)設(shè)施。這說明AI競爭正在從技術(shù)系統(tǒng)進一步延伸到基礎(chǔ)設(shè)施系統(tǒng)。

結(jié) 語

總體來看，報告把2026年前后視為AI基礎(chǔ)設(shè)施重構(gòu)的重要窗口，是有其邏輯基礎(chǔ)的。HBM4、HBM4E逐步進入產(chǎn)業(yè)化，CoWoS、SoIC、CoPoS等先進封裝持續(xù)擴張，CPO和Optical I/O從前沿概念走向系統(tǒng)設(shè)計，云廠商和模型企業(yè)加快自研ASIC，數(shù)據(jù)中心的電力和冷卻約束日益突出。由此，產(chǎn)業(yè)鏈中的價值判斷正在改變：過去被視為配套環(huán)節(jié)的存儲、封裝、散熱、電源、測試和材料，正在成為決定AI基礎(chǔ)設(shè)施能力的關(guān)鍵資源。從科技管理角度看，這份報告的最大意義，是幫助我們理解AI產(chǎn)業(yè)鏈治理邏輯的變化。未來AI競爭，不只是看誰的模型更強，也不是看誰買到更多GPU，而是看誰能夠組織一個高效、穩(wěn)定、可擴展、可持續(xù)的AI基礎(chǔ)設(shè)施體系。這個體系包括先進芯片、HBM、封裝、互連、能源、冷卻、軟件調(diào)度和產(chǎn)業(yè)資本。報告所說的“無限AI算力循環(huán)”，實際上正是這些要素相互牽引、相互放大的結(jié)果。

馮巖，上海市研發(fā)公共服務(wù)平臺管理中心（上海市科技人才發(fā)展中心) 人才事業(yè)部。文章觀點不代表主辦機構(gòu)立場。

◆ ◆ ◆

編輯郵箱：sciencepie@126.com