作者 ｜ 褚杏娟

DeepSeek-V4 模型首發適配昇騰芯片，被視為中國 AI 生態發展的一個重要節點。

通過芯模協同，DeepSeek 與昇騰實現了昇騰超節點全系列產品對 DeepSeek-V4 系列模型的支持。這意味著，中國大模型產業正在從過去高度依賴海外 GPU 與 CUDA 生態，逐步走向由國產芯片、基礎軟件、編程框架、算子能力和系統架構共同支撐的新階段。

在今年的鯤鵬昇騰開發者大會 2026 上，中國計算產業的幾個變化變得更加清晰：

第一，中國大模型能力正在接近全球頂級閉源模型水平；

第二，中國模型的 Token 消耗量已進入全球前列；

第三，國產大模型與國產芯片之間的協同，開始從“能跑起來”進入“跑得好、跑得穩、跑得經濟”的深水區。

在這一過程中，昇騰與鯤鵬分別承擔不同角色：昇騰更偏向智能計算底座，重點解決大模型訓練、推理、KV Cache、長上下文、AI 推理吞吐和開發者生態等問題；鯤鵬則承擔通用計算底座角色，重點支撐 Agent 編排、工具調用、沙箱執行、記憶檢索、安全隔離和企業級 IT 基礎設施。

也就是說，昇騰解決的是 AI 算力問題，鯤鵬解決的是 Agentic AI 時代系統運行和工程承載問題。

昇騰超節點：面向 Agentic AI 的

AI 算力新范式

Agentic AI 正在對算力基礎設施提出新的要求。

與傳統大模型推理不同，Agent 工作負載通常包含多輪規劃、工具調用、記憶檢索、上下文管理、多 Agent 協同等復雜過程。這類負載會帶來超大 KV Cache、超長上下文、低時延響應和碎片化調度需求。傳統以單卡、單服務器或普通集群為核心的算力架構，已經很難完全適配這一新型負載。

昇騰超節點的核心思路，是通過芯片架構、互聯架構和系統架構的協同創新，讓大規模 AI 集群像“一臺計算機”一樣工作。

在芯片層面，昇騰持續推進架構創新。昇騰芯片將支持 FP8、MXFP8、MXFP4 等低數值精度數據格式，以提升訓練效率和推理吞吐；同時通過 SIMD 與 SIMT 雙編程模型兼容，在高密度計算與靈活調度之間取得平衡。這一方向也被視為 AI 芯片架構演進的重要趨勢。

在互聯層面，昇騰采用靈衢互聯，實現總線級全連接、無主從、平等互聯，使 NPU 與 NPU、NPU 與 CPU 之間可以直接通信。靈衢互聯可實現單跳 200ns 通信能力，面向 Agentic AI 中大量碎片化調度場景，減少阻塞和等待。

在系統層面，昇騰超節點采用 Clos 與 Mesh 混合拓撲，強調無損、無阻塞和動態負載均衡，使超節點更接近一個統一計算系統，而不是傳統松散集群。

對于超節點架構，華為特別強調了一個判斷標準：是否實現全域內存統一編址和內存語義。

在傳統集群中，不同節點之間通常需要通過消息傳遞、路由和數據拷貝完成通信，這會帶來額外延遲和資源開銷。昇騰超節點希望通過全局單一虛擬地址空間，讓 NPU 和 CPU 可以直接以虛擬地址訪問任意位置的數據，從而實現無需改代碼、無需路由、無需拷貝的 load/store 訪問。

這對大模型推理尤其關鍵。隨著上下文長度持續擴大，KV Cache 已經成為推理系統的重要瓶頸。華為認為，統一內存編址可以實現 KV Cache 全局共享，使超長上下文更容易擴展，也讓每一個 Token 的生成更高效、更經濟。

在內存池化方面，昇騰通過 HBM 與 DDR 分層池化能力，實現“以查代算”和 KV Cache 全局共享。資料顯示，在 LLM、推薦、Engram 等場景中，查詢時延可降低 3 至 4 倍，訓練和推理吞吐相較傳統集群提升 3 至 4 倍。

昇騰 950 支持 SIMT，首創 SIMD 與 SIMT 混合編程能力

此外，在最新的 950 代際產品中，昇騰在芯片架構層面加入對 SIMT 的支持，并首創 SIMD 與 SIMT 混合編程能力。

這使開發者可以根據不同計算階段的特點，靈活選擇合適的編程范式。在同一個算子中，規則計算部分可以采用 SIMD，以發揮高吞吐優勢；不規則控制部分則可以利用 SIMT 的靈活性，從而實現整體效率與性能的最優。

例如，在 MoE init routing 算子中，規則的連續數據搬運與計算部分可以使用 SIMD 編寫，而不規則的離散數據搬出部分則可以采用 SIMT 編寫，從而獲得更高開發效率和更好的整體性能。這一能力對于大模型時代大量不規則計算、稀疏調度和復雜路由場景具有現實意義。

除了計算算子，昇騰也在提升通信算子編程的易用性。

在大規模訓練和推理中，通信常常成為性能瓶頸。為此，昇騰試圖打破計算和通信之間的邊界，讓通信編程像訪存讀寫一樣簡單。通過 SHMEM 編程接口，昇騰將傳統面向通信的編程方式，轉變為面向訪存讀寫的方式。在統一編址下，跨設備訪問可以像操作本地內存一樣直接，只需一行代碼即可直達底層。同時，憑借 AIcore 直驅技術，昇騰繞過傳統 CPU 調度，使下發時延優化 30 倍。

昇騰還推出了通信與計算融合的 CATLASS 模板庫，屏蔽復雜拓撲差異，幫助開發者快速實現計算與通信深度并行開發。以常見融合算子為例，相關能力可使開發周期縮短 50%，性能提升 30%。

開發者易用性升級：

從“能用”走向“好用”

除了底層硬件和系統架構，昇騰也在圍繞開發者易用性進行系統性升級。

過去兩年，昇騰投入大量資源優化開發體驗，重點回應開發者在底層能力開放、編程方式友好度、主流社區兼容、文檔資料完備性等方面的訴求。圍繞這些反饋，昇騰主要從三個方向推進易用性提升：CANN 開源開放與分層解耦、深度支持第三方主流開源技術生態，以及 Mind 系列軟件架構持續演進升級。

作為昇騰軟件底座和生態核心錨點，CANN 是昇騰提升易用性的關鍵。昇騰已在去年底完成 CANN 分層解耦開源。通過增強對第三方生態的支持，CANN 開放了運行時、算子編譯等不同層級接口，支持算子庫、通信庫等組件獨立升級。目前，昇騰已開源 50 多個源碼倉，使開發者在生態接入、分層調用、組件升級和源碼創新等方面擁有更高靈活性。

這一變化意味著，開發者不僅可以基于昇騰平臺做應用開發，也可以更深入地參與底層能力優化，圍繞算子、通信、編譯和運行時進行性能調優。

在算子編程方面，開發者最關注的是開發效率和運行性能。不同類型的開發者，對編程方式也有不同需求。

對于追求極致性能的算子開發工程師，昇騰提供 AscendC、CATLASS 模板庫等編程方式，支持開發者對計算、訪存、流水等關鍵環節進行細粒度控制，充分釋放芯片性能。同時，昇騰也將高性能能力沉淀為可復用模板，以提升開發效率。

對于更注重快速創新和算法嘗試的 AI 算法工程師，昇騰支持 TileLang、Triton 等主流 Tile 編程生態，使開發者能夠以更接近算法表達的方式描述分塊計算和數據流。此外，昇騰還推出 PyPTO，提供面向 Tensor 的編程能力，幫助開發者更高效地完成算法創新。

隨著 Python 成為 AI 開發的主流語言，昇騰也在全面擁抱 Python 編程生態，進一步降低開發門檻、提升開發效率。其中，PyAsc 基于 AscendC 增加 Python 編程接口，使開發者能夠以更友好的方式表達底層并行和訪存能力。昇騰還新增了基于 Python 的 CATLASS 模板庫能力，將復雜的底層指令序列沉淀為更易用的 Python 模板庫。

PyPTO 則從設計之初就支持 Python，提供面向 Tensor 和 Tile 的編程能力。它可以將高層次 Tensor 計算圖轉換為并行 Tile 計算，并通過 MPMD 調度獲得高性能計算能力。

CPU 重回舞臺中央

操作系統迎來新機會

如果說昇騰超節點解決的是 AI 算力底座問題，那么鯤鵬和操作系統要面對的，則是 Agentic AI 帶來的系統級挑戰。

但同時，Agentic AI 對操作系統和 CPU 軟件棧團隊來說，是一次重大的技術機會。核心原因在于，CPU 正在成為 AI 集群容量規劃中的獨立約束。

華為胡欣蔚指出，當前 CPU 在 AI 集群中的地位正在發生顯著變化。以行業調研為例，在傳統大模型業務中，CPU 與 GPU 的算力規劃比例正在調整。過去，CPU 在 AI 集群中的規劃占比可能只有 10%左右；現在，這一比例已經提升到 40%以上。業內甚至有觀點認為，未來 CPU 與 GPU/NPU 在 AIGC 系統中的配比可能達到 1:1，甚至更高。

這一變化來自 Agentic AI 工作負載本身的復雜性。Agent 在執行復雜任務時，往往會產生大量異步分支、常駐控制流、工具調用、回調、重試和狀態管理。這些任務天然適合 CPU 處理。任務越復雜、并發越高，CPU 算力需求就越明顯。

在一些 Agent 場景中，工具調用時延占比可達到 90%，吞吐瓶頸中 CPU 相關部分占比可超過 50%；在高并發場景下，CPU 動態能耗也可能達到整個系統的 40%以上。

因此，隨著 Agentic AI 演進，系統熱點正在重新分布：CPU 正從過去的舞臺邊緣，重新走向舞臺中央。

具體來看，在早期 Prompt 工程階段，負載重心主要集中在 NPU/GPU 上；進入 Context 工程階段后，系統從單輪對話走向多輪對話，RAG、文檔預處理、記憶系統、工具輸入輸出格式化等輔助能力開始變得重要。這些能力需要 CPU、內存、I/O 與 GPU/NPU 協同完成，AI 負載開始從加速器擴散到整個系統。

到了 Harness 工程階段，工具調用、結果觀察驗證、基于反饋的 refine、任務分支和執行編排成為核心。此時，CPU 與 NPU/GPU 的關系發生變化：過去更多是 CPU 為 NPU 服務，負責前期數據準備；而在 Harness 階段，CPU 開始決定 NPU/GPU 該做什么，NPU/GPU 更像是由 CPU 調度的 worker。

胡欣蔚表示，這一變化帶來了新的瓶頸，包括吞吐、時延、同步、動態控制流、分支依賴、回調處理和調試復雜度。也正因此，越來越多性能瓶頸開始從 NPU/GPU 逐步轉向 CPU 和操作系統。

CPU 側內存與存儲，正在成為 Agent 的記憶層

除了計算調度，CPU 側的內存和存儲也正在成為 Agent 的記憶層。

對于長期運行的 Agent 來說，上下文窗口往往會持續膨脹，并長期占據模型支持上下文窗口的較大比例。當前很多 Agent 的真實上下文可能維持在 50K 到 70K token 之間，未來百萬級上下文也可能逐步成為標配。

這會帶來巨大的 KV Cache 壓力。以 70B 模型、128K 上下文簡單估算，單個用戶的 KV Cache 可能達到 10GB 至 40GB。只要六個用戶，就可能耗盡 64GB 內存，更不用說系統還需要額外空間承載模型參數和其他運行數據。

因此，將所有推理過程和上下文狀態都放在 NPU/GPU 顯存中，已經不現實，也不經濟。

胡欣蔚表示，更合理的做法，是將 HBM、DDR、SSD 進行協同：最熱數據放在 NPU/GPU 側，具備復用機會的 prefetch cache、記憶結構或類似 Engram 的數據放在 host 側 DDR，更冷的數據則放入 SSD。

通過 CPU 管理這些多層數據，DDR、SSD 與 HBM 可以形成統一的 Agent 記憶體系，支撐更長上下文、更大規模并發和更經濟的推理系統。

異構融合 OS：從資源池化走向 Agent Infra

華為幾年前就提出了異構融合系統路線，認為在 AI 時代，CPU 與 NPU/GPU 需要從系統軟件和操作系統層面實現深度協同。

基于 openEuler 超節點的異構融合 OS，華為已經在池化設備管理、異構融合核心子系統和系統高階服務等方面進行適配。胡欣蔚表示，這些能力在今天看來，恰好契合了 Agentic AI 的負載需求。

例如，系統可以通過主機自適應隔離和硬件親和，解決 Host Bound 場景下的性能問題，提升推理吞吐；可以通過靈衢系統上的 remote fork 支持全內核快照，實現狀態回溯與跳轉，提升沙箱啟動性能；也可以通過內存借用、池化共享等技術，實現超節點內確定性的無序列化直訪，加速 KV Cache 訪問時延。

換句話說，華為過去面向異構融合的技術布局，正在成為 Agentic AI 的系統底座。

胡欣蔚表示，面向 Agentic AI，操作系統不只是做漸進式演進，可能還需要更激進的范式變化：過去，操作系統主要管理硬件資源和并行程序；到了 Agent 時代，操作系統的任務可能從單純資源管理，轉向調度智能體完成業務目標。這意味著，智能體或許需要一種類似進程、線程之外的新抽象，可以稱為“思程”。

過去的應用對應進程，進程包含線程，線程調用 CPU、內存和存儲資源；而在 Agent 時代，智能體可能對應一系列“思程”，思程調用不同模型、Memory、工具，甚至調用其他 Agent。如果底層能力可以被封裝成可枚舉、可監控、可回滾、可確認的標準接口，那么 Agentic Scaling 就可能在新的系統架構中自然實現。

同時，操作系統也需要面向多 Agent 的啟停、編排、調度和全生命周期管理建立新能力。這意味著，未來操作系統可能不只是管理應用，而是管理智能體任務、模型調用、記憶系統、工具鏈和多 Agent 協作。

鯤鵬面向 Agent 的三大系統能力：沙箱、記憶與安全

在 Agentic AI 場景中，沙箱是最基礎的系統能力之一。

不同 Agent 對沙箱的需求并不相同。類似 OpenClaw 的個人助手類 Agent，往往是長時間運行、需要高度靈活性的系統，更適合運行在虛擬機中，擁有完整環境。而在強化學習或 coding 任務中，沙箱更強調輕量化、快速啟動、快速重置和短任務執行。因此，華為認為，操作系統不應只選擇某一種沙箱技術，而應通過 Sandbox SDK 統一不同沙箱方案，為不同場景提供靈活選擇。

更進一步，Agentic AI 還會帶來新的系統需求。胡欣蔚提出，未來可能會出現一種與 Test-time Scaling 對應的 Agentic Scaling。Test-time Scaling 是模型在內部反復思考和迭代；而 Agentic Scaling 則是模型通過不斷嘗試不同執行路徑來解決問題。

這就要求基礎設施能夠讓 AI “大膽試”，同時又不會失控。系統需要支持快速快照、快速回滾、狀態隔離和錯誤范圍限制，避免 Agent 的錯誤擴散到全局。

華為將這一方向稱為 Conch，希望面向 Agentic Scaling 提供新的沙箱基礎設施。其目標是通過超節點能力減少不同沙箱之間的重復資源，提高部署密度、降低運行成本，并為 Agent 的多路徑試錯提供可控、安全、可回滾的執行環境。

在 Agent 系統中，記憶能力同樣重要。

目前，行業中已經出現大量開源或商業化的 Agent 記憶系統。很多方案最初通過數據庫、向量檢索或 RAG 實現記憶，但近幾個月的最佳實踐顯示，越來越多系統開始將信息以文本形式存儲在文件系統中，再通過高保真訪問重新組織成記憶。

胡欣蔚認為，這說明 Agent 記憶與操作系統、文件系統、數據存儲系統天然存在協同機會。操作系統原生記憶可以幫助解決多個問題：一是上下文過載帶來的 token 開銷；二是長任務中關鍵信息丟失導致的意圖漂移；三是 NPU/GPU 與 CPU 切換過程中資源管理粗放造成的浪費。

他將其類比為 Windows 曾經將圖形界面從外部能力整合進操作系統內部。記憶能力如果從外掛式能力變成操作系統原生能力，可能帶來更明顯的系統級質變。

安全則是 Agent 進入企業場景的前提。

今年年初 OpenClaw 爆火時，很多用戶排隊安裝，但也有人很快發現 Agent 行為不可控、不可知、不可恢復，最終不得不求助他人刪除相關環境。這暴露出當前智能體系統在安全執行方面的不足。

對于基礎軟件而言，Agent 的可控、可知、可恢復，是其進入企業市場的基本前提。智能體需要一個可信執行環境，并且這個可信鏈條最終必須落在操作系統和硬件可信根上。

鯤鵬超節點：Agent 系統智能底座

華為的目標是將鯤鵬超節點打造成面向 Agent 的系統智能底座，讓運行在鯤鵬上的 Agent 在執行效率、系統能力和企業級可用性上邁上新臺階，進而成為 Agentic AI 時代 IT 基礎設施的最佳選擇，

在硬件層面，鯤鵬 CPU 的雙線程靈犀核可以提供高效并發處理能力；CCA、TrustZone 等能力可以提供安全可信基礎；靈衢互聯的大帶寬、低時延能力可以支撐大容量和高吞吐；統一內存編址則可以推動 HBM、DDR、SSD 等不同內存和存儲介質實現異構融合。

在系統層面，異構融合池化系統可以向上層應用和合作伙伴提供全局資源視圖、兼容接口和系統接口。面向 Agentic AI，這些能力將進一步演化為 Agent Infra 的組成部分，包括資產管理、沙箱、操作系統原生記憶和安全保障。

從上可以看出，AI 基礎設施未來拼的是芯片、互聯、內存、操作系統和開發生態等的整體協同能。昇騰和鯤鵬的分工，代表了華為對 Agentic AI 基礎設施的理解，而兩者在用系統級架構承接 Agentic AI 復雜負載中，正在承擔關鍵角色。

會議推薦

企業級 Agent 落地，繞不開 4 個真實的工程問題！如何在 Agent 安全性和可用性之間找到平衡點？Agent 需要什么樣的記憶系統才能真正理解上下文？如何通過算法壓榨實現智力增量與成本控制的極致平衡？多 Agent 協作，如何做到可觀測、可治理、可控制？6.26-27 AICon 上海站，國內頭部公司的 Agent 實踐，一次說透。

今日薦文

你也「在看」嗎？