公眾號記得加星標??，第一時間看推送不會錯過。

人工智能的爆炸式增長正在改變半導體行業，而這一點在存儲器領域尤為明顯。人工智能的訓練和推理工作負載本質上是內存密集型的，這推動了對先進DRAM架構、高帶寬內存（HBM）和企業級NAND閃存的空前需求。盡管NVIDIA的GPU占據了新聞頭條，但事實上，如果沒有大量高性能內存與計算架構緊密集成，人工智能加速器就無法高效運行。因此，存儲器供應商正在成為人工智能熱潮的最大長期受益者之一。

此次變革的核心是HBM，這是一種3D堆疊式DRAM技術，與傳統的DDR內存相比，它能提供更高的帶寬和更低的功耗。HBM采用硅通孔（TSV）和先進的封裝技術，將DRAM芯片垂直堆疊，從而實現每秒TB級的內存帶寬。NVIDIA的H100和即將推出的Blackwell平臺等AI加速器，在大型語言模型（LLM）訓練過程中，高度依賴HBM3和HBM3E將數據饋送到數千個并行GPU核心。

這一趨勢極大地改變了內存市場的競爭格局。SK海力士已成為HBM的主導供應商，據報道已占據NVIDIA HBM3和HBM3E供應鏈的領先份額。該公司早期對TSV技術、先進封裝和散熱管理的投資，使其在人工智能需求加速增長時獲得了關鍵優勢。SK海力士目前正積極提升HBM3E的產能，預計仍將是下一代人工智能系統的重要供應商。

全球最大的存儲器制造商三星電子也在大力投資HBM產能和先進封裝技術。三星的一體化半導體模式——涵蓋邏輯電路、晶圓代工、封裝和存儲器——使其在人工智能基礎設施領域擁有強大的競爭力。盡管三星在某些人工智能平臺的HBM認證方面最初落后于SK海力士，但憑借其規模優勢、工藝技術領先地位以及快速擴張產能的能力，它仍然是該領域長期發展的重要參與者。

美光科技已成為人工智能領域的又一主要受益者。美光科技過去被認為受周期性波動影響較大，且更依賴個人電腦市場，如今卻正利用其先進的DRAM產品組合和HBM路線圖，積極拓展超大規模人工智能部署業務。該公司的HBM3E產品正被應用于下一代人工智能加速器的設計中，管理層也多次表示，HBM的需求在未來很長一段時間內都將超過供應。此外，美光科技在企業級DRAM和數據中心固態硬盤領域的強大地位，也使其在人工智能基礎設施支出方面擁有廣泛的影響力。

人工智能工作負載正以驚人的速度增加每臺服務器的內存容量。傳統的云服務器通常需要幾百GB的DRAM，但配備多個GPU的人工智能服務器可能需要數TB的高帶寬內存和DDR5 DRAM。單個NVIDIA HGX平臺可以包含八個通過NVLink連接的GPU，并由龐大的HBM內存池提供支持。這種架構顯著增加了每個機架的DRAM消耗量，并推高了高端內存產品的平均售價。

由于人工智能服務器的部署，DDR5 的普及速度也在加快。與 DDR4 相比，DDR5 提供更高的帶寬、更佳的能效和更大的模塊密度，這些對于數據中心的人工智能工作負載至關重要。隨著超大規模數據中心升級基礎設施以支持生成式人工智能服務，包括三星、SK 海力士和美光在內的供應商都從這一轉型中受益。

除了DRAM之外，NAND閃存供應商也將受益于人工智能的蓬勃發展。生成式人工智能需要海量數據集進行模型訓練和推理，這推動了對高容量企業級固態硬盤的需求。人工智能數據中心依賴高速存儲系統來傳輸和管理PB級的結構化和非結構化數據。因此，鎧俠（Kioxia）、西部數據（Western Digital）、三星（Samsung）、美光（Micron）和Solidigm等公司都看到了市場對針對超大規模環境優化的企業級NAND解決方案日益增長的需求。

另一項關鍵技術趨勢是先進封裝。人工智能加速器越來越多地采用芯片組架構和異構集成，這意味著內存必須與計算芯片緊密耦合。這不僅為內存供應商創造了機遇，也為臺積電、安靠和日月光等封裝領域的領導者帶來了機遇。臺積電的CoWoS封裝產能尤為重要，因為它能夠將HBM堆棧與人工智能GPU和加速器集成在一起。

人工智能的蓬勃發展也正在緩解內存市場的一些歷史周期性波動。過去，DRAM 和 NAND 的需求嚴重依賴智能手機和個人電腦，導致嚴重的供過于求。人工智能基礎設施的支出引入了新的結構性需求驅動因素，這與超大規模云的擴張、企業級人工智能的采用以及自主人工智能計劃密切相關。這種轉變可能會支撐內存生態系統中更強勁的長期定價和更高的資本投資。

展望未來，包括HBM4、MRAM、CXL附加內存擴展和內存內處理架構在內的下一代內存技術可能會進一步重塑整個行業格局。人工智能模型持續呈指數級增長，需要更大的內存池和更快的互連速度。隨著計算性能越來越受限于內存帶寬和延遲而非原始處理能力，內存供應商正從輔助角色轉變為人工智能時代的戰略推動者。

總而言之：人工智能革命正逐漸演變成一場與計算同樣重要的存儲革命。能夠提供高帶寬、低功耗和高度集成存儲解決方案的公司，很可能在未來十年內占據半導體行業增長的絕大部分份額。

人工智能的爆炸式增長正在改變半導體行業，而這一點在存儲器領域尤為明顯。人工智能的訓練和推理工作負載本質上是內存密集型的，這推動了對先進DRAM架構、高帶寬內存（HBM）和企業級NAND閃存的空前需求。盡管NVIDIA的GPU占據了新聞頭條，但事實上，如果沒有大量高性能內存與計算架構緊密集成，人工智能加速器就無法高效運行。因此，存儲器供應商正在成為人工智能熱潮的最大長期受益者之一。

此次變革的核心是HBM，這是一種3D堆疊式DRAM技術，與傳統的DDR內存相比，它能提供更高的帶寬和更低的功耗。HBM采用硅通孔（TSV）和先進的封裝技術，將DRAM芯片垂直堆疊，從而實現每秒TB級的內存帶寬。NVIDIA的H100和即將推出的Blackwell平臺等AI加速器，在大型語言模型（LLM）訓練過程中，高度依賴HBM3和HBM3E將數據饋送到數千個并行GPU核心。

這一趨勢極大地改變了內存市場的競爭格局。SK海力士已成為HBM的主導供應商，據報道已占據NVIDIA HBM3和HBM3E供應鏈的領先份額。該公司早期對TSV技術、先進封裝和散熱管理的投資，使其在人工智能需求加速增長時獲得了關鍵優勢。SK海力士目前正積極提升HBM3E的產能，預計仍將是下一代人工智能系統的重要供應商。

全球最大的存儲器制造商三星電子也在大力投資HBM產能和先進封裝技術。三星的一體化半導體模式——涵蓋邏輯電路、晶圓代工、封裝和存儲器——使其在人工智能基礎設施領域擁有強大的競爭力。盡管三星在某些人工智能平臺的HBM認證方面最初落后于SK海力士，但憑借其規模優勢、工藝技術領先地位以及快速擴張產能的能力，它仍然是該領域長期發展的重要參與者。

美光科技已成為人工智能領域的又一主要受益者。美光科技過去被認為受周期性波動影響較大，且更依賴個人電腦市場，如今卻正利用其先進的DRAM產品組合和HBM路線圖，積極拓展超大規模人工智能部署業務。該公司的HBM3E產品正被應用于下一代人工智能加速器的設計中，管理層也多次表示，HBM的需求在未來很長一段時間內都將超過供應。此外，美光科技在企業級DRAM和數據中心固態硬盤領域的強大地位，也使其在人工智能基礎設施支出方面擁有廣泛的影響力。

人工智能工作負載正以驚人的速度增加每臺服務器的內存容量。傳統的云服務器通常需要幾百GB的DRAM，但配備多個GPU的人工智能服務器可能需要數TB的高帶寬內存和DDR5 DRAM。單個NVIDIA HGX平臺可以包含八個通過NVLink連接的GPU，并由龐大的HBM內存池提供支持。這種架構顯著增加了每個機架的DRAM消耗量，并推高了高端內存產品的平均售價。

由于人工智能服務器的部署，DDR5 的普及速度也在加快。與 DDR4 相比，DDR5 提供更高的帶寬、更佳的能效和更大的模塊密度，這些對于數據中心的人工智能工作負載至關重要。隨著超大規模數據中心升級基礎設施以支持生成式人工智能服務，包括三星、SK 海力士和美光在內的供應商都從這一轉型中受益。

除了DRAM之外，NAND閃存供應商也將受益于人工智能的蓬勃發展。生成式人工智能需要海量數據集進行模型訓練和推理，這推動了對高容量企業級固態硬盤的需求。人工智能數據中心依賴高速存儲系統來傳輸和管理PB級的結構化和非結構化數據。因此，鎧俠（Kioxia）、西部數據（Western Digital）、三星（Samsung）、美光（Micron）和Solidigm等公司都看到了市場對針對超大規模環境優化的企業級NAND解決方案日益增長的需求。

另一項關鍵技術趨勢是先進封裝。人工智能加速器越來越多地采用芯片組架構和異構集成，這意味著內存必須與計算芯片緊密耦合。這不僅為內存供應商創造了機遇，也為臺積電、安靠和日月光等封裝領域的領導者帶來了機遇。臺積電的CoWoS封裝產能尤為重要，因為它能夠將HBM堆棧與人工智能GPU和加速器集成在一起。

人工智能的蓬勃發展也正在緩解內存市場的一些歷史周期性波動。過去，DRAM 和 NAND 的需求嚴重依賴智能手機和個人電腦，導致嚴重的供過于求。人工智能基礎設施的支出引入了新的結構性需求驅動因素，這與超大規模云的擴張、企業級人工智能的采用以及自主人工智能計劃密切相關。這種轉變可能會支撐內存生態系統中更強勁的長期定價和更高的資本投資。

展望未來，包括HBM4、MRAM、CXL附加內存擴展和內存內處理架構在內的下一代內存技術可能會進一步重塑整個行業格局。人工智能模型持續呈指數級增長，需要更大的內存池和更快的互連速度。隨著計算性能越來越受限于內存帶寬和延遲而非原始處理能力，內存供應商正從輔助角色轉變為人工智能時代的戰略推動者。

總而言之：人工智能革命正逐漸演變成一場與計算同樣重要的存儲革命。能夠提供高帶寬、低功耗和高度集成存儲解決方案的公司，很可能在未來十年內占據半導體行業增長的絕大部分份額。

（來源：semiwiki ）

*免責聲明：本文由作者原創。文章內容系作者個人觀點，半導體行業觀察轉載僅為了傳達一種不同的觀點，不代表半導體行業觀察對該觀點贊同或支持，如果有任何異議，歡迎聯系半導體行業觀察。

今天是《半導體行業觀察》為您分享的第4435內容，歡迎關注。

加星標??第一時間看推送

求推薦