來源：半導(dǎo)體行業(yè)觀察

　　人工智能的爆炸式增長正在改變半導(dǎo)體行業(yè)，而這一點(diǎn)在存儲器領(lǐng)域尤為明顯。人工智能的訓(xùn)練和推理工作負(fù)載本質(zhì)上是內(nèi)存密集型的，這推動了對先進(jìn)DRAM架構(gòu)、高帶寬內(nèi)存（HBM）和企業(yè)級NAND閃存的空前需求。盡管NVIDIA的GPU占據(jù)了新聞頭條，但事實(shí)上，如果沒有大量高性能內(nèi)存與計(jì)算架構(gòu)緊密集成，人工智能加速器就無法高效運(yùn)行。因此，存儲器供應(yīng)商正在成為人工智能熱潮的最大長期受益者之一。

　　此次變革的核心是HBM，這是一種3D堆疊式DRAM技術(shù)，與傳統(tǒng)的DDR內(nèi)存相比，它能提供更高的帶寬和更低的功耗。HBM采用硅通孔（TSV）和先進(jìn)的封裝技術(shù)，將DRAM芯片垂直堆疊，從而實(shí)現(xiàn)每秒TB級的內(nèi)存帶寬。NVIDIA的H100和即將推出的Blackwell平臺等AI加速器，在大型語言模型（LLM）訓(xùn)練過程中，高度依賴HBM3和HBM3E將數(shù)據(jù)饋送到數(shù)千個并行GPU核心。

　　這一趨勢極大地改變了內(nèi)存市場的競爭格局。SK海力士已成為HBM的主導(dǎo)供應(yīng)商，據(jù)報(bào)道已占據(jù)NVIDIA HBM3和HBM3E供應(yīng)鏈的領(lǐng)先份額。該公司早期對TSV技術(shù)、先進(jìn)封裝和散熱管理的投資，使其在人工智能需求加速增長時獲得了關(guān)鍵優(yōu)勢。SK海力士目前正積極提升HBM3E的產(chǎn)能，預(yù)計(jì)仍將是下一代人工智能系統(tǒng)的重要供應(yīng)商。

　　全球最大的存儲器制造商三星電子也在大力投資HBM產(chǎn)能和先進(jìn)封裝技術(shù)。三星的一體化半導(dǎo)體模式——涵蓋邏輯電路、晶圓代工、封裝和存儲器——使其在人工智能基礎(chǔ)設(shè)施領(lǐng)域擁有強(qiáng)大的競爭力。盡管三星在某些人工智能平臺的HBM認(rèn)證方面最初落后于SK海力士，但憑借其規(guī)模優(yōu)勢、工藝技術(shù)領(lǐng)先地位以及快速擴(kuò)張產(chǎn)能的能力，它仍然是該領(lǐng)域長期發(fā)展的重要參與者。

　　美光科技已成為人工智能領(lǐng)域的又一主要受益者。美光科技過去被認(rèn)為受周期性波動影響較大，且更依賴個人電腦市場，如今卻正利用其先進(jìn)的DRAM產(chǎn)品組合和HBM路線圖，積極拓展超大規(guī)模人工智能部署業(yè)務(wù)。該公司的HBM3E產(chǎn)品正被應(yīng)用于下一代人工智能加速器的設(shè)計(jì)中，管理層也多次表示，HBM的需求在未來很長一段時間內(nèi)都將超過供應(yīng)。此外，美光科技在企業(yè)級DRAM和數(shù)據(jù)中心固態(tài)硬盤領(lǐng)域的強(qiáng)大地位，也使其在人工智能基礎(chǔ)設(shè)施支出方面擁有廣泛的影響力。

　　人工智能工作負(fù)載正以驚人的速度增加每臺服務(wù)器的內(nèi)存容量。傳統(tǒng)的云服務(wù)器通常需要幾百GB的DRAM，但配備多個GPU的人工智能服務(wù)器可能需要數(shù)TB的高帶寬內(nèi)存和DDR5 DRAM。單個NVIDIA HGX平臺可以包含八個通過NVLink連接的GPU，并由龐大的HBM內(nèi)存池提供支持。這種架構(gòu)顯著增加了每個機(jī)架的DRAM消耗量，并推高了高端內(nèi)存產(chǎn)品的平均售價。

　　由于人工智能服務(wù)器的部署，DDR5 的普及速度也在加快。與 DDR4 相比，DDR5 提供更高的帶寬、更佳的能效和更大的模塊密度，這些對于數(shù)據(jù)中心的人工智能工作負(fù)載至關(guān)重要。隨著超大規(guī)模數(shù)據(jù)中心升級基礎(chǔ)設(shè)施以支持生成式人工智能服務(wù)，包括三星、SK 海力士和美光在內(nèi)的供應(yīng)商都從這一轉(zhuǎn)型中受益。

　　除了DRAM之外，NAND閃存供應(yīng)商也將受益于人工智能的蓬勃發(fā)展。生成式人工智能需要海量數(shù)據(jù)集進(jìn)行模型訓(xùn)練和推理，這推動了對高容量企業(yè)級固態(tài)硬盤的需求。人工智能數(shù)據(jù)中心依賴高速存儲系統(tǒng)來傳輸和管理PB級的結(jié)構(gòu)化和非結(jié)構(gòu)化數(shù)據(jù)。因此，鎧俠（Kioxia）、西部數(shù)據(jù)（Western Digital）、三星（Samsung）、美光（Micron）和Solidigm等公司都看到了市場對針對超大規(guī)模環(huán)境優(yōu)化的企業(yè)級NAND解決方案日益增長的需求。

　　另一項(xiàng)關(guān)鍵技術(shù)趨勢是先進(jìn)封裝。人工智能加速器越來越多地采用芯片組架構(gòu)和異構(gòu)集成，這意味著內(nèi)存必須與計(jì)算芯片緊密耦合。這不僅為內(nèi)存供應(yīng)商創(chuàng)造了機(jī)遇，也為臺積電、安靠和日月光等封裝領(lǐng)域的領(lǐng)導(dǎo)者帶來了機(jī)遇。臺積電的CoWoS封裝產(chǎn)能尤為重要，因?yàn)樗軌驅(qū)BM堆棧與人工智能GPU和加速器集成在一起。

　　人工智能的蓬勃發(fā)展也正在緩解內(nèi)存市場的一些歷史周期性波動。過去，DRAM 和 NAND 的需求嚴(yán)重依賴智能手機(jī)和個人電腦，導(dǎo)致嚴(yán)重的供過于求。人工智能基礎(chǔ)設(shè)施的支出引入了新的結(jié)構(gòu)性需求驅(qū)動因素，這與超大規(guī)模云的擴(kuò)張、企業(yè)級人工智能的采用以及自主人工智能計(jì)劃密切相關(guān)。這種轉(zhuǎn)變可能會支撐內(nèi)存生態(tài)系統(tǒng)中更強(qiáng)勁的長期定價和更高的資本投資。

　　展望未來，包括HBM4、MRAM、CXL附加內(nèi)存擴(kuò)展和內(nèi)存內(nèi)處理架構(gòu)在內(nèi)的下一代內(nèi)存技術(shù)可能會進(jìn)一步重塑整個行業(yè)格局。人工智能模型持續(xù)呈指數(shù)級增長，需要更大的內(nèi)存池和更快的互連速度。隨著計(jì)算性能越來越受限于內(nèi)存帶寬和延遲而非原始處理能力，內(nèi)存供應(yīng)商正從輔助角色轉(zhuǎn)變?yōu)槿斯ぶ悄軙r代的戰(zhàn)略推動者。

　　總而言之：人工智能革命正逐漸演變成一場與計(jì)算同樣重要的存儲革命。能夠提供高帶寬、低功耗和高度集成存儲解決方案的公司，很可能在未來十年內(nèi)占據(jù)半導(dǎo)體行業(yè)增長的絕大部分份額。

　　人工智能的爆炸式增長正在改變半導(dǎo)體行業(yè)，而這一點(diǎn)在存儲器領(lǐng)域尤為明顯。人工智能的訓(xùn)練和推理工作負(fù)載本質(zhì)上是內(nèi)存密集型的，這推動了對先進(jìn)DRAM架構(gòu)、高帶寬內(nèi)存（HBM）和企業(yè)級NAND閃存的空前需求。盡管NVIDIA的GPU占據(jù)了新聞頭條，但事實(shí)上，如果沒有大量高性能內(nèi)存與計(jì)算架構(gòu)緊密集成，人工智能加速器就無法高效運(yùn)行。因此，存儲器供應(yīng)商正在成為人工智能熱潮的最大長期受益者之一。

　　此次變革的核心是HBM，這是一種3D堆疊式DRAM技術(shù)，與傳統(tǒng)的DDR內(nèi)存相比，它能提供更高的帶寬和更低的功耗。HBM采用硅通孔（TSV）和先進(jìn)的封裝技術(shù)，將DRAM芯片垂直堆疊，從而實(shí)現(xiàn)每秒TB級的內(nèi)存帶寬。NVIDIA的H100和即將推出的Blackwell平臺等AI加速器，在大型語言模型（LLM）訓(xùn)練過程中，高度依賴HBM3和HBM3E將數(shù)據(jù)饋送到數(shù)千個并行GPU核心。

　　這一趨勢極大地改變了內(nèi)存市場的競爭格局。SK海力士已成為HBM的主導(dǎo)供應(yīng)商，據(jù)報(bào)道已占據(jù)NVIDIA HBM3和HBM3E供應(yīng)鏈的領(lǐng)先份額。該公司早期對TSV技術(shù)、先進(jìn)封裝和散熱管理的投資，使其在人工智能需求加速增長時獲得了關(guān)鍵優(yōu)勢。SK海力士目前正積極提升HBM3E的產(chǎn)能，預(yù)計(jì)仍將是下一代人工智能系統(tǒng)的重要供應(yīng)商。

　　全球最大的存儲器制造商三星電子也在大力投資HBM產(chǎn)能和先進(jìn)封裝技術(shù)。三星的一體化半導(dǎo)體模式——涵蓋邏輯電路、晶圓代工、封裝和存儲器——使其在人工智能基礎(chǔ)設(shè)施領(lǐng)域擁有強(qiáng)大的競爭力。盡管三星在某些人工智能平臺的HBM認(rèn)證方面最初落后于SK海力士，但憑借其規(guī)模優(yōu)勢、工藝技術(shù)領(lǐng)先地位以及快速擴(kuò)張產(chǎn)能的能力，它仍然是該領(lǐng)域長期發(fā)展的重要參與者。

　　美光科技已成為人工智能領(lǐng)域的又一主要受益者。美光科技過去被認(rèn)為受周期性波動影響較大，且更依賴個人電腦市場，如今卻正利用其先進(jìn)的DRAM產(chǎn)品組合和HBM路線圖，積極拓展超大規(guī)模人工智能部署業(yè)務(wù)。該公司的HBM3E產(chǎn)品正被應(yīng)用于下一代人工智能加速器的設(shè)計(jì)中，管理層也多次表示，HBM的需求在未來很長一段時間內(nèi)都將超過供應(yīng)。此外，美光科技在企業(yè)級DRAM和數(shù)據(jù)中心固態(tài)硬盤領(lǐng)域的強(qiáng)大地位，也使其在人工智能基礎(chǔ)設(shè)施支出方面擁有廣泛的影響力。

　　人工智能工作負(fù)載正以驚人的速度增加每臺服務(wù)器的內(nèi)存容量。傳統(tǒng)的云服務(wù)器通常需要幾百GB的DRAM，但配備多個GPU的人工智能服務(wù)器可能需要數(shù)TB的高帶寬內(nèi)存和DDR5 DRAM。單個NVIDIA HGX平臺可以包含八個通過NVLink連接的GPU，并由龐大的HBM內(nèi)存池提供支持。這種架構(gòu)顯著增加了每個機(jī)架的DRAM消耗量，并推高了高端內(nèi)存產(chǎn)品的平均售價。

　　由于人工智能服務(wù)器的部署，DDR5 的普及速度也在加快。與 DDR4 相比，DDR5 提供更高的帶寬、更佳的能效和更大的模塊密度，這些對于數(shù)據(jù)中心的人工智能工作負(fù)載至關(guān)重要。隨著超大規(guī)模數(shù)據(jù)中心升級基礎(chǔ)設(shè)施以支持生成式人工智能服務(wù)，包括三星、SK 海力士和美光在內(nèi)的供應(yīng)商都從這一轉(zhuǎn)型中受益。

　　除了DRAM之外，NAND閃存供應(yīng)商也將受益于人工智能的蓬勃發(fā)展。生成式人工智能需要海量數(shù)據(jù)集進(jìn)行模型訓(xùn)練和推理，這推動了對高容量企業(yè)級固態(tài)硬盤的需求。人工智能數(shù)據(jù)中心依賴高速存儲系統(tǒng)來傳輸和管理PB級的結(jié)構(gòu)化和非結(jié)構(gòu)化數(shù)據(jù)。因此，鎧俠（Kioxia）、西部數(shù)據(jù)（Western Digital）、三星（Samsung）、美光（Micron）和Solidigm等公司都看到了市場對針對超大規(guī)模環(huán)境優(yōu)化的企業(yè)級NAND解決方案日益增長的需求。

　　另一項(xiàng)關(guān)鍵技術(shù)趨勢是先進(jìn)封裝。人工智能加速器越來越多地采用芯片組架構(gòu)和異構(gòu)集成，這意味著內(nèi)存必須與計(jì)算芯片緊密耦合。這不僅為內(nèi)存供應(yīng)商創(chuàng)造了機(jī)遇，也為臺積電、安靠和日月光等封裝領(lǐng)域的領(lǐng)導(dǎo)者帶來了機(jī)遇。臺積電的CoWoS封裝產(chǎn)能尤為重要，因?yàn)樗軌驅(qū)BM堆棧與人工智能GPU和加速器集成在一起。

　　人工智能的蓬勃發(fā)展也正在緩解內(nèi)存市場的一些歷史周期性波動。過去，DRAM 和 NAND 的需求嚴(yán)重依賴智能手機(jī)和個人電腦，導(dǎo)致嚴(yán)重的供過于求。人工智能基礎(chǔ)設(shè)施的支出引入了新的結(jié)構(gòu)性需求驅(qū)動因素，這與超大規(guī)模云的擴(kuò)張、企業(yè)級人工智能的采用以及自主人工智能計(jì)劃密切相關(guān)。這種轉(zhuǎn)變可能會支撐內(nèi)存生態(tài)系統(tǒng)中更強(qiáng)勁的長期定價和更高的資本投資。

　　展望未來，包括HBM4、MRAM、CXL附加內(nèi)存擴(kuò)展和內(nèi)存內(nèi)處理架構(gòu)在內(nèi)的下一代內(nèi)存技術(shù)可能會進(jìn)一步重塑整個行業(yè)格局。人工智能模型持續(xù)呈指數(shù)級增長，需要更大的內(nèi)存池和更快的互連速度。隨著計(jì)算性能越來越受限于內(nèi)存帶寬和延遲而非原始處理能力，內(nèi)存供應(yīng)商正從輔助角色轉(zhuǎn)變?yōu)槿斯ぶ悄軙r代的戰(zhàn)略推動者。

　　總而言之：人工智能革命正逐漸演變成一場與計(jì)算同樣重要的存儲革命。能夠提供高帶寬、低功耗和高度集成存儲解決方案的公司，很可能在未來十年內(nèi)占據(jù)半導(dǎo)體行業(yè)增長的絕大部分份額。

　　（來源：semiwiki）

　　責(zé)任編輯 | 汪鵬