![]()
·聚焦:人工智能、芯片等行業
歡迎各位客官關注、轉發
前言:
2026年4月17日,全球企業推理基礎設施支出680億美元首次超過訓練支出的450億美元。但一條更深的危機也在浮現:“內存墻”正成為壓垮AI性能的最后一根稻草。2009年單核可用內存帶寬約8GB/s,到2026年卻降至僅4GB/s左右,在此背景下,一種名為“MRDIMM”(多路復用列雙列直插式內存模塊)的新型內存技術,正在成為AGI賽道上最被低估的變量。
作者| 方文三
圖片來源 | 網絡
![]()
AI計算面臨的真實困境
過去十年,CPU核心數呈指數級增長,PCIe帶寬同步爆發,但系統內存總帶寬的增長速度明顯滯后。這意味著,雖然內存總帶寬在增加,但由于CPU核心數增加得更快,分攤到每個核心上的可用內存帶寬反而在減少。單核可用帶寬的下降,直接導致每個核心“吃不飽”,計算性能被數據供給速度鎖死。
![]()
而AI推理的爆發,把這一矛盾推向了極致。在大模型推理中,每次生成token都需要把整個模型的權重從內存搬運到計算單元。這一過程的核心瓶頸不是計算,而是內存帶寬——有效帶寬決定了回答有多快。當推理逐步替代訓練成為AI產業的新引擎時,擅長邏輯運算但內存帶寬不足的GPU,正在暴露出它的結構性短板。
MRDIMM是什么?
面對這一困局,業界正在探索一條“低成本、高收益”的突圍路徑:MRDIMM。
傳統RDIMM的DRAM芯片與主機接口在相同頻率下運行。MRDIMM在主機內存通道與DRAM芯片之間引入了多路復用技術,允許DRAM芯片以其原生速率運行,同時讓內存通道頻率翻倍。用大白話說:RDIMM里兩個內存RANK(列)只能交替“干活”,而MRDIMM讓它們在同一時刻并行訪問,每次數據傳輸從64字節提升至128字節,相當于修了一條雙車道高速公路。
![]()
實際產品層面,以英特爾至強6性能核處理器為例,標準DDR5 RDIMM僅可實現6400MT/s的數據傳輸速率,而MRDIMM無需調整主板設計即飆升至8800MT/s,峰值帶寬提升近40%。巴塞羅那超算中心的實測數據更是直接證明:從RDIMM升級到MRDIMM,系統內存帶寬提升了41.3%,帶寬密集型任務性能提升了27%至41%,同時內存訪問延遲降低了數百納秒,內存密集型工作負載服務器能耗最多可降低30%。
![]()
MRDIMM的極致之處體現在:它通過架構創新突破了DRAM頻率的物理天花板,實現了“無需升級DRAM顆粒,帶寬大幅躍升”的工程奇跡。第二代MRDIMM計劃在2026/2027年推出,目標速率高達12800 MT/s,較當前規格再增45%;第三代規格17600 MT/s也已啟動早期開發,路線圖規劃延伸至2030年代。
MRDIMM在推理場景中的不可替代性
從產品的角度看,MRDIMM最核心的價值導向不是一味提升內存容量,而是聚焦于高帶寬、低延遲——這與AI推理的本質需求完美互補。
![]()
具體來看,廣發證券報告指出,在大模型推理的KV Cache(鍵值緩存)場景中,MRDIMM具有“近端高帶寬+遠端大容量”的分層協同優勢,可實現并發更高、上下文更長、端到端時延更低的效果。實測對比顯示,MRDIMM在AI負載下的帶寬較DDR5 RDIMM峰值可提升2.3倍,單條容量最高支持128GB,更長的上下文與更高的并發會話能力,顯著優化了CPU與GPU之間的內存編排與資源利用。
![]()
更關鍵的是,英特爾采用“即插即用”式設計,MRDIMM與現有服務器平臺的RDIMM插槽保持完全兼容,無需更換主板或重寫軟件,大大降低了企業級客戶的部署門檻。此外,每一代MRDIMM速度躍升均基于DDR5架構持續改進,既可以延長DDR5的生命周期,也使服務器廠商、內存制造商能夠在不貿然轉向尚未成熟、成本過高的下一代DDR6內存標準前提下,穩步在2026至2028年升級異構服務器性能。
![]()
產業博弈:從技術架構到生態標準的先手之爭
技術和市場之外,最激烈的博弈發生在標準制定層面。2026年5月,JEDEC固態技術協會密集宣布多項標準進展,包括JESD82-552標準的發布(DDR5MDB02多路復用秩數據緩沖器),即將發布的JESD82-542 MRCD02標準對信號完整性與時序控制的強化,以及JC-45委員會正接近完成的MRDIMM Gen2模塊標準。JEDEC明確表示,這標志著為AI與云計算蓬勃增長的高帶寬需求,從“樣品驗證”正式邁入了“規模化普及”的全新階段。
![]()
國際市場方面,三星、SK海力士、美光三大巨頭已入局。美光在高性能主內存領域率先出樣,三星正積極推進產品化,SK海力士則基于第五代10nm級32Gb單體率先通過英特爾Xeon 6平臺認證。國內產業鏈也在跟上,瀾起科技、聚辰股份等企業正在提供配套的MRCD、MDB接口芯片以及SPD產品,2026年市場規模正從百億級向千億級躍升。
![]()
然而,目前MRDIMM市場滲透的空間依然廣闊。JEDEC標準雖已部分落地,但整體技術仍處于早期驗證階段,生產成本較高且平臺支持有限。TrendForce數據顯示,2026至2029年將迎來真正的規模滲透期。為了在這場標準化爭奪戰中領跑,國內外生態伙伴正協同推動從“綁定至強6首發”到面向全行業的普適化。
![]()
因此,MRDIMM最大的商業價值在于“向下兼容易用,向上擴展容量帶寬”,并伴隨JEDEC標準化進程在全球開花結果,成為未來5-10年服務器內存的生態底座。
結語
當萬億參數的大模型走出實驗室,內存帶寬已成為制約性能釋放的最后一環。MRDIMM的崛起揭示了:在算力芯片設計固化、功耗瓶頸迫近的當下,系統內存架構的顛覆式創新,同樣能夠撬動性能和能效的指數級躍升。它不僅是CPU通往更強AI計算力的可靠支撐,也是以最低硬件升級成本釋放異構數據中心潛能的關鍵杠桿。
網絡援引:
澎湃新聞:《MRDIMM,在中國市場加速滲透》
百度開發者中心:《超大規模訓練的硬件擴展困局:從數據并行到混合并行的范式重構》
九方智投:《廣發證券:MRDIMM和CXL增加AI服務器內存 建議關注產業鏈核心受益標的》
本公眾號所刊發稿件及圖片來源于網絡,僅用于交流使用,如有侵權請聯系回復,我們收到信息后會在24小時內處理。
請務必注明:
「姓名 + 公司 + 合作需求」
特別聲明:以上內容(如有圖片或視頻亦包括在內)為自媒體平臺“網易號”用戶上傳并發布,本平臺僅提供信息存儲服務。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.