公眾號記得加星標??,第一時間看推送不會錯過。
在競爭日益激烈的 AI 芯片市場,另一家初創公司聲稱其產品比全球市值最高的公司英偉達更具優勢。
距離英偉達硅谷總部三英里的 D-Matrix 公司表示,只要工作負載較小,其芯片運行推理工作負載的速度就能比市場領導者英偉達的獨立圖形處理單元快 10 倍,能耗卻少 5 倍。
這款名為Corsair的新型推理芯片采用了一種與Cerebras和Groq類似的新穎內存設計。隨著科技巨頭們對計算資源的需求日益增長,小型企業顯然擁有巨大的發展機遇,可以找到自己的市場定位。
Cerebras成立于2015年,上個月成功上市,融資超過55億美元,目前估值超過500億美元。而Groq的資產則在去年12月被英偉達以200億美元收購,這是這家人工智能巨頭迄今為止最大的一筆收購。隨后,英偉達在今年3月的GTC大會上發布了一款名為“語言處理單元”(LPU)的新型Groq芯片。
D-Matrix聯合創始人兼首席執行官Sid Sheth在接受采訪時表示:“這是一個正在形成的萬億美元市場。”他還補充說,他沒有出售公司的打算。“市場還能容納另一家上市公司嗎?當然可以。”
D-Matrix成立于2019年,迄今已融資約5億美元,估值約為20億美元。微軟是其投資者之一,通過旗下風險投資機構M12進行投資。值得注意的是,微軟自身在芯片領域雄心勃勃,包括用于人工智能推理的Maia 200芯片、與英偉達合作開發的新型PC處理器,以及上周發布的自主研發量子計算芯片。
Sheth目前不愿透露Corsair的客戶名稱,但他表示,一些知名超大規模數據中心、新型云平臺和前沿人工智能實驗室已承諾采購,他們都渴望獲得盡可能多的計算資源。D-Matrix將于本月開始向這些客戶發貨。Sheth稱,其中約90%的客戶位于美國,海外客戶則分布在中東和東南亞。
伯恩斯坦研究公司的半導體分析師Stacy Rasgon表示:“他們經常向客戶推銷這些產品,讓他們與英偉達的產品配合使用。”她還補充說,不同的芯片更擅長不同的任務。“聽起來他確實有很多實際的客戶案例。”
D-Matrix 的 Corsair 芯片通過將內存和計算緊密集成在單個芯片上,實現了低功耗下的低延遲推理。
與 Groq 和 Cerebras 一樣,D-Matrix 也依賴于 SRAM,這是一種可以在臺積電等邏輯芯片制造商處生產并集成在同一芯片上的存儲器。而 GPU 則依賴于大量的另一種存儲器,稱為 DRAM,它被封裝成高帶寬存儲器堆疊層,并添加到邏輯芯片周圍。
這種DRAM也是美光、三星和SK海力士目前短缺的產品。
“我們的產品不會因為 DRAM 而遇到瓶頸,因為我們的產品并不真正依賴 DRAM 就能成功,”謝思說。
斯坦福大學電氣工程系兼職教授Rick Bahr表示,D-Matrix 方法的最大缺點是 SRAM 無法處理大規模推理模型。
雖然片上 SRAM 能夠實現“驚人的推理速度”,因為數據只需傳輸很短的距離,但它無法處理 OpenAI 和 Anthropic 等領先企業構建的大型模型中數萬億個參數。
“基于SRAM的設計根本無法容納如此多的參數,”Bahr說。“這才是最大的挑戰。”
Sheth表示,Corsair專為AI推理而設計,其“優化重點在于交互性或速度”,而非語言規模。例如聊天機器人、語音代理以及Claude Code和OpenClaw等智能代理工具。
D-Matrix 援引 Gimlet Labs 的研究稱,當與 Nvidia Blackwell GPU 搭配使用時,Corsair 的推理速度可以比獨立 GPU 快 10 倍,成本降低 3 倍,能效提高 5 倍。
英偉達首席執行官黃仁勛上周表示,該公司憑借其領先的 Vera Rubin 系統,仍然是低成本推理領域的領導者,因為這不僅僅是速度的問題。
在臺灣的 Computex 展會上,黃表示:“原因是我們整合了所有東西,我們從零開始設計所有東西,我們模擬整個系統,我們采用極致的協同設計。”
Sheth表示,D-Matrix公司銷售的這款產品將四顆Corsair芯片封裝在一張卡內,可以插入數據中心服務器機架的插槽中,售價高達數萬美元。
Sheth 表示,D-Matrix 的即插即用方式使其區別于 Cerebras 和 Groq,他還稱 Corsair 是“當今市場上密度最高的 SRAM 解決方案”,單個服務器的 SRAM 內存高達 128 GB。
D-Matrix 還與Arista、Broadcom和Super Micro建立了合作關系。
構建一個名為 SquadRack 的全機架級系統,用于在 AI 數據中心部署其芯片。
這款芯片采用臺積電的6納米工藝在臺灣制造。D-Matrix的下一款芯片Raptor計劃明年發布,采用臺積電的4納米工藝,Sheth表示,這款芯片可能會在臺積電位于亞利桑那州的工廠生產。
“構建用于人工智能推理的計算解決方案將是最終目標,”Sheth說。
(來源:CNBC )
*免責聲明:本文由作者原創。文章內容系作者個人觀點,半導體行業觀察轉載僅為了傳達一種不同的觀點,不代表半導體行業觀察對該觀點贊同或支持,如果有任何異議,歡迎聯系半導體行業觀察。
今天是《半導體行業觀察》為您分享的第4433內容,歡迎關注。
加星標??第一時間看推送
![]()
![]()
求推薦
![]()
特別聲明:以上內容(如有圖片或視頻亦包括在內)為自媒體平臺“網易號”用戶上傳并發布,本平臺僅提供信息存儲服務。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.