![]()
與傳統的RDIMM相比,SOCAMM2帶寬提升逾兩倍,功耗降低75%以上。
今日,SK海力士宣布,公司正式量產基于第六代10納米級(1c)LPDDR5X低功耗DRAM的192GB(千兆字節)容量SOCAMM2產品。
SOCAMM2是一款將主要適用于智能手機等移動端設備的低功耗內存,針對服務器環境進行優化的內存模塊,主要面向下一代AI服務器等應用場景。SK海力士表示:“公司采用1c工藝的SOCAMM2,是專為高性能AI運算優化的解決方案。與傳統的RDIMM相比,其帶寬提升逾兩倍,功耗降低75%以上。”
該公司特別強調,該SOCAMM2產品是面向英偉達的Vera Rubin平臺設計的。此外,該產品可從根本上緩解數千億參數級AI大模型在訓練與推理過程中所面臨的存儲瓶頸問題,SK海力士期待其助力能夠大幅提升整體系統的處理速度。
該公司還表示:“隨著AI發展從訓練轉向推理階段,支持大型語言模型低功耗運行的SOCAMM2作為下一代存儲器解決方案,正備受矚目。為滿足全球云服務供應商(Cloud Service Provider)客戶需求,公司提前搭建起穩定的量產體系。”
SK海力士AI Infra擔當金柱善社長(CMO,Chief Marketing Officer)表示:“通過192GB容量SOCAMM2的產品供應,公司建立了面向AI的存儲器性能新基準。公司將與全球AI客戶緊密合作,成為‘客戶最信賴的面向AI的存儲器解決方案企業’。”
AI技術的發展正引領著計算領域的范式變革,而內存技術則成為這一變革的關鍵所在。HBM與LPDDR內存解決方案,對于釋放GPU的計算潛能起到了至關重要的作用。然而,隨著內存需求的不斷增長,如何在有限的設備體積和成本內容納更高容量的內存,已成為一個挑戰。
同時,服務器的內存消耗占據了相當大的功耗比例。在配備每插槽TB級DDR5內存的服務器中,DRAM的功耗甚至超過了CPU。為了應對這一挑戰,英偉達設計了基于LPDDR5X內存的Grace CPU,其功耗低于DDR5,同時通過借鑒AMD和英特爾數據中心級處理器的寬內存總線設計,實現了高內存帶寬。但迄今為止,LPDDR DRAM主要采用板載(On-Board)方式,直接焊接在設備主板上,而非模塊化設計。
而板載方式的缺點在于一是成本高昂,更換時必須整塊主板一起更換。二是缺乏靈活性,不支持升級,更換難度大。然而,對于基于GB200 Grace Blackwell的系統,英偉達不得不采用焊接式的LPDDR5X內存封裝,因為缺乏能夠滿足其容量需求的標準LPDDR5X內存模塊。
因此,SOCAMM橫空出世。SOCAMM的出現,不僅僅是一項技術的創新,更是一場深刻的行業革命。它以一種全新的模塊化設計,徹底改變了傳統內存的使用方式。
在性能方面,SOCAMM的表現尤為突出,得益于其底層創新設計,包括128-bit總線和近CPU布局,這些設計優化了信號完整性,減少了信號傳輸延遲,從而顯著提升了整體性能。SOCAMM數據傳輸速率可達8533Mbps,相比DDR5 RDIMM的6400Mbps,性能提升了約33%,可以滿足AI訓練和高性能計算中對數據吞吐量的極高要求。在能效方面,SOCAMM同樣表現出色。其采用1.05V的低電壓供電,功耗僅為DDR5 RDIMM的1/3。結合液冷技術,SOCAMM能夠在高密度部署的場景下有效降低功耗,這對于數據中心的運營成本控制和可持續發展具有重要意義。這些創新設計使得SOCAMM在性能、能效和空間利用方面都達到了新的高度,為高性能計算和存儲領域帶來了全新的解決方案。
據EBN稱,SOCAMM被視為下一代HBM,在小型PC和筆記本電腦中具有優于傳統DRAM的性能和能效,這可能是關鍵所在。預計SOCAMM的出現將在整個半導體行業產生連鎖反應,影響到三星電子、SK海力士等內存廠商,以及Simmtech和TLB等基板公司。
目前,SOCAMM內存技術適用于需要高性能內存支持的場景,如AI計算、高性能計算、數據中心等。由于其可拆卸升級的特點,SOCAMM內存技術還適用于需要頻繁更新硬件設備的領域,如游戲、圖形設計、虛擬現實等。隨著AI、大數據、云計算等技術的快速發展,對高性能內存的需求日益增加。SOCAMM以其卓越的性能和能效比,正好滿足了這些領域對內存的高要求。
*聲明:本文系原作者創作。文章內容系其個人觀點,我方轉載僅為分享與討論,不代表我方贊成或認同,如有異議,請聯系后臺。
特別聲明:以上內容(如有圖片或視頻亦包括在內)為自媒體平臺“網易號”用戶上傳并發布,本平臺僅提供信息存儲服務。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.