編者按：

DeepSeek發布的mHC（流形約束超連接）新架構，不僅會改變芯片設計，而且標志著AI硬件設計將從“適配通用計算”轉向“為特定高效架構深度優化”的新范式。

簡單來說，mHC是一種讓AI模型在參數規模變大時，訓練更穩定、效率更高的新方法。它的核心影響在于，它通過算法創新顯著降低了對算力和內存的粗暴依賴，這將倒逼芯片設計追求更高的“有效計算效率”，而不僅僅是峰值算力。

2026年元旦，AI圈被一篇來自DeepSeek的論文打破了跨年的寧靜。這篇題為《mHC: Manifold-Constrained Hyper-Connections》的研究成果，以流形約束超連接架構（mHC）為核心，直指當前大模型訓練與芯片設計的核心痛點。論文作者名單中，DeepSeek創始人兼CEO梁文峰的署名尤為引人注目，這也暗示著這項技術并非單純的學術探索，而是承載著產業落地的明確訴求。

過去幾年，AI行業的競爭焦點始終圍繞“更大參數、更多算力”展開，從百億到萬億參數的模型迭代，倒逼GPU等AI芯片不斷堆砌計算單元。但繁榮背后，一個致命的矛盾逐漸凸顯：芯片算力的增長速度遠超內存帶寬的提升速度，導致大量計算資源浪費在無效的數據搬運上。行業將這一困境稱為“存儲墻”，它就像AI芯片的阿喀琉斯之踵，成為制約AI算力釋放的核心瓶頸。美光的研究數據顯示，近五年GPU算力增長37.5倍，而PCIe帶寬僅提升8倍，這種嚴重失衡讓即便是最先進的AI芯片，實際利用率也常不足30%。

梁文峰團隊提出的mHC架構，并未局限于算法層面的優化，而是通過流形約束重構了神經網絡的連接邏輯，從根源上降低了對內存帶寬的需求。這一跨越算法與硬件的創新嘗試，讓業界開始重新思考：當軟件架構能夠主動適配硬件瓶頸，是否會顛覆當前“硬件先行、軟件適配”的芯片設計邏輯？2026年的這場技術突破，或許正站在AI軟硬件協同進化的新起點上。

從失控到可控

mHC架構的核心突破邏輯

要理解mHC架構為何能觸動芯片設計的敏感神經，首先需要回溯其解決的核心問題——超連接（HC）架構的“失控困境”。在Transformer模型的發展歷程中，殘差連接是支撐深層網絡穩定訓練的關鍵基石，其“x + F(x)”的恒等映射結構，確保了信號在傳播過程中不會出現系統性的放大或衰減。但隨著模型規模擴大，單一殘差流的表達能力逐漸不足，超連接架構應運而生。它通過拓寬殘差流通道、構建多路徑連接，顯著提升了模型的表達能力，卻也埋下了穩定性的隱患。

傳統超連接架構的致命缺陷，在于其無約束的連接矩陣破壞了殘差連接的恒等映射特性。在大規模模型訓練中，這種無約束設計極易導致信號爆炸或梯度異常，論文數據顯示，某些場景下傳統超連接的信號放大倍數可達3000倍，直接導致訓練崩潰。更嚴重的是，多路徑連接帶來的不僅是穩定性問題，還有內存開銷的激增——更多的殘差流意味著更多的中間激活值需要存儲和搬運，進一步加劇了“存儲墻”問題，讓本就捉襟見肘的內存帶寬雪上加霜。梁文峰在團隊內部技術分享中曾提到，超連接的這種“性能與穩定不可兼得”的困境，是當前大模型訓練成本居高不下的重要原因。

mHC架構的核心創新，在于為超連接加上了“幾何約束的韁繩”。其核心思路是將超連接的連接矩陣投影到雙隨機矩陣構成的流形（Birkhoff多胞形）上，通過數學約束確保矩陣每行、每列元素之和均為1且非負。這一約束看似簡單，卻從根源上解決了信號失控問題：雙隨機矩陣的最大特征值為1，意味著它只能在不同殘差流之間重新分配權重，而不會系統性放大信號范數。實驗數據顯示，mHC將信號放大倍數嚴格控制在1.6倍以內，徹底擺脫了傳統超連接的穩定性困擾。

在實現層面，mHC采用了工程上成熟的Sinkhorn-Knopp算法完成流形投影，既保證了約束的有效性，又控制了額外開銷。訓練過程中，模型先學習普通實值矩陣，再通過有限步的Sinkhorn歸一化將其投影為近似雙隨機矩陣，這種可微的投影方式確保了訓練的連續性。更關鍵的是，DeepSeek團隊并未止步于算法創新，而是通過三大工程優化手段將內存開銷降到最低：內核融合將RMSNorm、矩陣乘法等多個算子打包執行，減少中間數據的讀寫次數；選擇性重計算通過丟棄非關鍵中間激活值，在反向傳播時重新計算，使顯存占用減少70%以上；DualPipe通信計算重疊則讓梯度傳輸與模型計算并行進行，消除了計算單元的空閑等待時間。

實驗驗證了這套方案的有效性。在3B、9B乃至27B參數規模的模型訓練中，mHC不僅完全避免了傳統超連接的不收斂問題，還在BBH、DROP等八個下游任務中全面超越基線模型，其中BBH任務性能提升2.1%，DROP任務提升2.3%。更值得關注的是，當擴展率為4時，mHC帶來的額外訓練時間開銷僅為6.7%，這種“低代價、高性能”的平衡，使其具備了大規模產業應用的基礎。梁文峰團隊在論文中強調，mHC的價值不在于取代Transformer，而在于為復雜殘差拓撲的探索提供了“可控可訓”的理論與工程框架，這一框架的通用性，為其與各類芯片架構的適配埋下了伏筆。

軟硬件協同革命

mHC對芯片設計的潛在重塑

長期以來，AI芯片設計陷入了“算力競賽”的路徑依賴。從NVIDIA的H100到Blackwell架構，再到各類國產AI芯片，核心創新方向始終圍繞提升計算單元密度、擴大顯存容量展開。但mHC架構的出現，讓業界開始反思：當軟件能夠主動降低對內存帶寬的需求，芯片設計是否需要跳出“堆硬件”的慣性思維？這種反思背后，是mHC架構帶來的軟硬件協同邏輯的根本性轉變。

首先，mHC有望打破“算力-帶寬”的錯配困局，推動芯片設計從“算力優先”轉向“效率優先”。當前AI芯片的核心矛盾是算力過剩而帶寬不足，大量時鐘周期浪費在數據搬運上。mHC通過內核融合、選擇性重計算等優化，將原本分散的多次內存訪問整合為單次訪問，大幅降低了對帶寬的需求。這種軟件層面的“帶寬節約”，讓芯片設計可以不必一味追求高帶寬的HBM顯存。例如，對于中低端AI芯片而言，原本因帶寬不足無法支撐的大規模模型訓練，在mHC架構的適配下，有望通過優化內存訪問效率實現可行性。這意味著未來芯片設計可能會出現差異化路線：高端芯片繼續追求算力與帶寬的極致匹配，而中低端芯片則可通過適配mHC等高效架構，以更低的硬件成本實現相近的訓練效果。

其次，mHC的流形約束邏輯，可能推動芯片專用計算單元的創新。當前AI芯片的計算單元主要針對矩陣乘法等通用算子優化，但mHC中的Sinkhorn-Knopp投影算子具有獨特的計算特性。雖然目前DeepSeek通過軟件優化將其與現有算子融合，但隨著mHC架構的普及，芯片設計可能會加入專門的投影算子加速單元。這種專用單元的出現，將打破當前AI芯片“通用計算單元”的壟斷格局，推動芯片向“通用+專用”的異構架構演進。更重要的是，mHC的約束邏輯可以與芯片的存儲層次設計深度協同——例如，芯片可以根據mHC的激活值重計算策略，動態調整緩存的存儲策略，優先緩存關鍵層輸入，釋放緩存空間用于其他計算任務，進一步提升內存利用率。

再者，mHC架構可能降低大模型訓練的硬件門檻，改變芯片市場的競爭格局。當前大模型訓練被少數擁有超大規模GPU集群的科技巨頭壟斷，核心原因在于中小廠商難以承擔高端AI芯片的成本。mHC架構在保證訓練穩定性的同時，大幅降低了顯存占用和帶寬需求，使得中小廠商可以利用更少的中端芯片完成大規模模型訓練。這種門檻的降低，將帶動中端AI芯片市場的需求增長，倒逼芯片廠商在中端市場投入更多創新資源。例如，針對mHC架構優化的中端芯片，可能會重點提升緩存效率和算子融合能力，而非盲目堆砌計算單元。這種市場需求的變化，將引導芯片設計資源從“高端內卷”向“中端普惠”擴散，推動AI芯片市場的多元化發展。

不過，mHC要真正重塑芯片設計方向，仍需跨越一系列挑戰。一方面，架構適配的生態建設需要時間。當前主流AI芯片的軟件棧均針對傳統Transformer架構優化，要讓芯片廠商主動適配mHC，需要形成足夠的產業共識。DeepSeek的開源策略或許能加速這一進程——此前其開源的DeepSeek-V3模型已積累了大量開發者，mHC架構若持續開源，有望吸引更多芯片廠商參與適配。另一方面，mHC的優化效果仍需在更大規模模型中驗證。雖然目前在27B參數模型中表現優異，但在千億、萬億參數模型中，其對內存帶寬的節約效果是否依然顯著，仍需更多實驗數據支撐。梁文峰在接受媒體采訪時表示，團隊正在推進更大規模的mHC模型訓練，相關數據將在2026年逐步公布，這一數據將直接影響芯片廠商的適配信心。

值得注意的是，mHC帶來的軟硬件協同思路，已開始引發行業共鳴。美光等存儲廠商在近期的技術分享中提到，未來存儲產品的設計需要更緊密地結合AI架構的內存訪問特性，而mHC的出現為這種協同提供了絕佳范例。NVIDIA相關技術負責人也表示，正在關注mHC等高效架構對芯片設計的影響，不排除在未來的芯片架構中加入針對性優化。這些信號表明，mHC架構正在推動AI行業從“軟件適配硬件”的被動模式，向“軟硬件協同設計”的主動模式轉變。

結 語

2026年初梁文峰團隊mHC架構的發布，不僅是算法層面的突破，更像是一聲打破AI行業“算力競賽”慣性的號角。在“存儲墻”成為制約AI發展核心瓶頸的當下，mHC通過流形約束與工程優化的結合，為解決算力與帶寬的錯配問題提供了全新思路。它所倡導的“軟件主動適配硬件瓶頸”的邏輯，正在挑戰傳統的芯片設計范式，推動行業向“效率優先”的軟硬件協同方向演進。

客觀來看，mHC架構要徹底改變芯片設計方向，仍需跨越生態建設、大規模驗證等多重障礙，短期內難以完全顛覆現有格局。但不可否認的是，它已經為芯片設計提供了新的思考維度：芯片的核心價值不在于堆砌多少算力，而在于如何讓每一份算力都得到高效利用。這種思路的轉變，或許會成為未來幾年AI芯片創新的核心主線。

對于行業而言，mHC的出現更像是一個重要的轉折點。它提醒著從業者，AI的發展不能只追求“規模”的增長，更要關注“效率”的提升。當越來越多的團隊開始探索算法與硬件的深度協同，或許就能突破當前的技術瓶頸，推動AI行業進入更可持續的發展階段。2026年的這場技術探索，無論最終是否能完全重塑芯片設計方向，都已為AI行業的創新注入了新的活力——而這，或許正是梁文峰團隊發布mHC架構的深層意義所在。