編輯｜Panda

截至今年 3 月，中國日均 Token 調用量已突破 140 萬億，兩年間增長超過千倍。這個數字比任何分析報告都更直白地說明了一件事：AI 已經從實驗室走進了生產線

然而，數字背后藏著一個越來越刺眼的矛盾。

當企業爭先把大模型接入業務系統，他們發現：通用模型在聊天窗口里對答如流，放到真實工單系統里卻頻頻失手，比如它能把政策解釋得頭頭是道，卻無法按照企業的合規流程走完一張審批表；它能洋洋灑灑生成質檢報告，卻在判斷某顆螺絲是否超差時不斷犯錯……通用大模型「會回答」，但往往「不會執行」。

這不是模型不夠聰明，而是它們生來就是為了「生成 Token」而非「完成任務」。從回答到執行，中間有一道鮮少被正面討論的工程鴻溝；而填平這道鴻溝，正是九章云極 DataCanvas 在今天的「2026 全球智算科技峰會暨九章云極戰略發布會」上發布的「AI 工廠」戰略所要回答的核心命題。

智能的「執行鴻溝」

Token 時代的生產力悖論

要理解九章云極的戰略邏輯，需先理解一個反常識的現象：Token 消耗越多，企業反而越焦慮。

表面上看，Token 調用量井噴是 AI 落地的標志。但在大量企業客戶那里，「AI 接入」與「AI 帶來價值」之間仍然存在明顯落差。一個顯著的例子就是近期亞馬遜 Token 用量政策的變化：此前該科技巨頭通過排行榜等措施來鼓勵員工大量使用 Token（被稱為 Tokenmaxxing），但這并未帶來工作效率的有效增長，之后亞馬遜又取消了相關政策。

問題是什么？或許不在帶寬，不在成本，而在于模型的能力邊界。

通用大模型的訓練目標是在海量語料上預測下一個 Token；這能讓它們成為出色的語言生成器，但不能讓它們進化成可靠的任務執行者。讓一個通用模型幫你寫營銷文案，效果往往令人驚喜；讓它幫你走完一個包含條件判斷、數據核查、多步審批的業務流程，則常常需要人工兜底。

九章云極創始人兼董事長方磊將這一矛盾描述為 AI 競爭焦點的根本性遷移：「過去，我們比拼的是誰能做出更強的模型；今天，智能競爭核心矛盾已經徹底遷移——從追求技術的卓越性，到追求生產力的工業化。」

這個判斷隱含著一個更深刻的洞察：從技術突破到生產力突破，不只是算力或模型參數量的問題，而是一個工業化問題。就像第一次工業革命，真正改變世界的不是蒸汽機本身，而是圍繞蒸汽機建立起來的流水線和標準化生產體系。AI 時代同樣如此，決定下一個十年競爭格局的，將是誰能建造起像「電網」和「流水線」那樣堅實、可量化、可擴展的智能生產與交付體系

值得注意的是，九章云極選擇切入這一矛盾的方式，并不是去直接開發智能體應用——那是 ISV（獨立軟件供應商）、集成商和企業開發團隊的戰場。

九章云極的定位是在應用層的上游解決一個更底層的問題：如何讓「能執行」的專業模型得以被工業化地制造出來，并以低成本被所有人使用？

填平執行鴻溝的關鍵，在于強化學習。

強化學習：讓模型從「會說」到「會做」

強化學習并不是一個新概念，但它在大模型時代被賦予了全新的產業意義。

傳統機器學習的邏輯是從數據中找規律：模型見過足夠多的示例，就能在類似場景中給出相近的答案。這套邏輯對語言生成任務效果極好，但對于需要一步步做到位的執行型任務，存在根本性的局限：數據里記錄的是結果，而非「在失敗后調整策略的方式」。

強化學習（RL）的核心邏輯是試錯—反饋—改進閉環。模型要在真實或模擬任務環境中反復嘗試、接受來自環境的獎勵或懲罰信號，并據此調整自己的決策策略。

這能讓模型學會一種關鍵能力：在不確定性中，把一個復雜目標拆解成可執行的步驟，并在某步失敗后懂得回頭修正路徑。

舉一個貼近工業場景的例子：讓大模型判斷一條生產線上的產品是否合格，這不僅需要「看圖說話」，更需要調用質量標準數據庫、與歷史工單比對、識別特定缺陷類型并觸發相應的處理流程。通用模型能描述這個流程，但無法可靠執行它；經過強化學習訓練的專業模型，則能在數千次模擬判斷與反饋中，真正「學會」這個任務的內在邏輯。

這正是九章云極訓練工廠的核心使命：通過以強化學習為核心的「工業級冶煉」，把通用智能打造成真正能上生產線的專業智能。

然而，將強化學習從研究推向產業化，面臨三道真實存在的工程天塹。

第一道是萬卡算力的供給與穩定性天塹。RL 訓練的計算消耗遠超普通精調：模型必須在成千上萬個任務上持續采樣、評估、更新，對集群的規模和連續穩定性要求極高。任何節點故障、網絡抖動都會打斷整個訓練過程，而萬卡級集群的穩定運行，此前基本只有頂級實驗室能做到。

第二道是海量智能體仿真的超復雜調度天塹。RL 訓練的獨特之處在于，它需要同時運行大規模的「仿真環境」來產生訓練數據（Rollout）以及并行進行的模型參數更新（Update）。這兩種任務對算力的需求特征截然不同且會動態變化。傳統的靜態調度方式根本無法應對：跨節點通信、故障自愈、斷點續訓，每一項都是獨立的工程難題。

第三道是從研究代碼到生產系統的落地鴻溝。RL 算法繁多（PPO、DPO、GRPO、RLHF、RLAIF……），如何為成千上萬種專業任務自動化地設計、管理和迭代獎勵函數，如何構建持續優化的評測閉環，都需要大量工程經驗沉淀。

九章云極訓練工廠的價值，正是系統性地打通這三道天塹。它可不是簡單的算力集群，而是一個為 RL 大規模工業化生產而專門設計的全棧系統，其核心在于規模化的獎勵建模與評測閉環：能夠自動化地生成、管理和迭代針對海量專業任務的獎勵函數，將不穩定的研究過程變為可控、可重復的工業流程，形成持續優化的數據飛輪。

訓練工廠：把通用智能「冶煉」為專業智能

在九章云極的 AI 工廠體系中，訓練工廠是「重型發電廠」，承擔「從 0 到 1」的專業智能制造。其核心由兩個模塊構成：支撐大規模訓練運行的五項工程能力，以及將通用智能真正「冶煉」為專業智能的強化學習訓練棧。

五項工程能力：讓萬卡訓練穩定運行

訓練工廠的底座，由五項相互咬合的工程能力共同搭建：

• 彈性算力：算力像云一樣伸縮自如。任務來了秒級擴容，任務走了自動釋放；高優先級的任務隨時插隊，低優先級的任務在后臺平穩運行。GPU 資源統一調配，不為突發峰值提前囤貨，避免資源閑置浪費。
• 混合調度：訓練、推理、微調三類任務在同一套系統中統一編排。萬卡集群中某個節點故障，系統自動繞過，任務不中斷；訓練意外中止，從斷點處自動續跑，不從頭再來。
• 網絡優化：節點之間的數據交換走高速通道，通信開銷壓到最低。算力花在計算上，而不是花在數據搬運的路上。
• 存儲優化：數據提前加載、緩存預熱，算力不再干等數據。大規模訓練中「算力等人」的經典瓶頸被有效解決。
• 多租戶與排隊：多個團隊共用同一集群，各算各的互不干擾。緊急任務插隊優先跑，閑時任務排隊慢慢跑，整體資源利用率大幅提升。

五項能力共同構成工業級訓練的穩定底盤。九章云極已率先通過中國信通院「大模型計算資源調度平臺」標準評測，81 項能力評估全覆蓋，訓練效率較業界基線提升 100%，GPU 利用率提升 50 %

強化學習訓練棧：工業級「冶煉爐」的四項核心

在穩定底座之上，強化學習訓練棧是訓練工廠真正區別于普通算力集群的核心所在，也是將「會回答」的通用模型鍛造為「會執行」的專業模型的關鍵工序。總結起來，其具備四項核心能力：

首先，平臺支持 PPO、DPO、GRPO、RLHF、RLAIF 等多種主流算法并行運行，不同行業場景可以靈活選擇最適合的算法組合，而不是被鎖死在單一訓練路徑上。

其次，獎勵建模能夠融合任務完成情況、人工偏好、工具調用結果等多維度反饋信號，自動化地為成千上萬種專業任務生成和優化獎勵函數——這是強化學習從實驗室走向產業最難的一步，也是訓練工廠的核心壁壘。

第三，工具調用與多步執行讓模型不再只會輸出文本，而是能在真實任務環境中主動調用工具、拆解復雜目標、在失敗后自我修正，這正是賦予模型“執行力”的關鍵機制。

最后，評測閉環覆蓋行業基準、數學推理、安全合規等多維度評估，并持續接收上線后的真實反饋驅動模型迭代，確保專業模型可驗證、可審計地進入企業生產系統。

這兩大模塊的協同，使訓練工廠具備了真正意義上的專業模型量產能力。方磊將其使命概括為：「訓練工廠不是堆卡，而是把通用智能冶煉為專業智能。」

不過，需要在這里特別說明訓練工廠產出物的本質屬性，因為這直接關系到九章云極在整個產業鏈中扮演的角色。

訓練工廠的產出，并非直接可用的 AI 應用或智能體，而是具備強大領域執行能力的「專業模型資產」。打個比方：如果說通用大模型是原礦，那么經過訓練工廠精煉的專業模型，就是高度提純的「特種合金」——性能卓越、特性明確，但它本身不是最終產品，而是用來建造最終產品的核心材料。

基于這些「特種合金」，下游的 ISV、系統集成商，或企業自身的開發團隊，才能以遠超以往的性能上限，構建出真正貼合業務場景的智能體應用。九章云極專注「冶煉材料」，行業伙伴基于這些優質材料去「建造大廈」。

在工程層面，這一分工由標準化的「模型包」格式來保障：訓練工廠與下游 Token 工廠通過統一接口對接，經過 RL 精煉的專業模型可以一鍵部署、秒級上線，進入流通環節。這將原本漫長且充滿不確定性的研究過程，變為一套可控、可重復、邊際成本持續遞減的工業流程。

然而，專業模型資產被「煉」出來之后，新的挑戰才真正開始。

Token 工廠：讓專業智能「規模化流通」

一個訓練完畢的專業模型文件，對企業來說其實是不可直接消費的；就像一座發電廠生產了大量電力，但這些電力如果沒有電網、變壓器、計量表和安全開關，就無法真正進入千家萬戶的插座。

將專業模型轉化為企業可以「像用電一樣」穩定調用、按量付費的智能服務，是 Token 工廠（Inference Factory）的核心使命。我們可以將其比作是智能時代的「價值傳遞車間」。

推理的「執行間隙」：一道被忽視的性能鴻溝

理解 Token 工廠的技術價值，需要先看清一個令人意外的事實：當前主流推理框架的實際性能，與硬件理論上限之間，存在超過 10 倍的鴻溝。

以一臺頂級 8 卡 GPU 服務器為例，其聚合內存帶寬約 38 TB/s，理論推理 Token 上限約 1000 Token/s；而主流推理框架的實際 decode 速度，往往只有幾十 Token/s。GPU 利用率不低，理論 FLOPS 也不差，性能卻只有天花板的十分之一。那么，問題出在哪里？

九章云極副總裁胡宗星將根因歸結為「Execution Gap（執行間隙）」：kernel 間等待、通信與計算的串行停頓、host-device 同步開銷，以及 KV 狀態在 HBM/DRAM/NVMe 之間的反復搬運……在反復重算、GPU 等數據和能源空耗上產生大量浪費。

在 Agent 時代，這一問題會被成倍放大，因為一次 Agent 任務可能涉及 N 輪對話、M 次工具調用、K 個上下文長度、R 次重試。推理的狀態空間會因此爆炸式增長，舊范式完全撐不住。

Inference OS：下一代推理系統的產品形態

九章云極給出的答案不是對現有推理框架打補丁，而是圍繞「狀態編排」重新定義推理系統的產品形態：Inference OS

其核心洞察是：推理正在從「計算系統」演化為「以內存為中心的狀態系統」。類比數據庫，推理系統的核心原語不應該是「query plan」（查詢計劃），而應該是「reuse plan」（復用計劃），即什么狀態能復用、什么要重建、在哪做 prefill、在哪做 decode、如何在硬件路徑間搬運……這一系列決策決定了整個系統的效率與成本。

圍繞這一判斷，九章云極實施了三大范式重構：

重構一：系統架構?從異構堆疊到算-存-傳一體化協同

核心技術是 DingoFS Connector（KV Fabric 加速引擎）：通過前綴哈希分片、全鏈路零拷貝（RDMA + io_uring）和分布式 KV 池，將 KV Cache 的命中率提升至 60-90%（在 Prompt 模板、RAG 等典型場景下實測），TPS（吞吐量）較僅使用 HBM 的基線提升 10 倍，較業界主流跨節點 L2 緩存方案提升 5.3 倍，并穩定支持 120K 上下文長度。該方案已在 GitHub 開源，是國內首批同時支持 vLLM 和 lmcache 雙 connector 的 KV 加速產品。

同時，通過 PD 分離調度（Prefill 和 Decode 使用專用硬件池，分別優化低 TTFT 和高 TPS），TPS 可額外提升 2-4 倍；拓撲感知的跨池動態路由，進一步消除了計算資源的空轉浪費。

重構二：計算范式?從靜態調度到持久化執行流

傳統推理框架的執行路徑是「launch→load→compute→store→sync」的串行流；九章云極通過 AOT（Ahead-of-Time）編譯和 Persistent Engine Kernel，將整個 decode 過程編譯為一個在芯片內持續運行的引擎，徹底消除 kernel 間同步開銷。配合 Warp/Block Specialization（不同 warp 負責搬運/計算/通信的分工重疊）和異構 Worker 技術，將 GPU 利用率逼近硬件物理極限。經中國信通院公開認證，推理速度較業界引擎提升 4 倍

重構三：能效本質?從被動配電到能源定義架構

傳統數據中心是「算力被動適應電力」：電廠建好，數據中心配電，AI 任務跑什么卡就用多少電。

九章云極的算電協同體系則反向定義：調度系統感知實時電價和綠電波動，訓練任務自動避峰填谷，多智算中心可按電價動態跨區遷移；同時建立 Tokens/W 這一能效新度量，讓單 Token 能耗從黑盒變為可追溯的生產指標。研究表明，這一體系可幫助參考類似方案的云廠商將推理碳排減少約 47%

三重構相乘：千倍降本的工程本質

三項范式重構并非獨立疊加，而是相乘放大：復用效率（KV 命中率優化，減少反復重算）×一體化協同（全鏈路零拷貝，減少 GPU 等數據）×能源調度（算電協同，降低 Tokens/W）→ 共同構成「1000 倍綜合降本」的工程解釋。

這里的「千倍」可不是營銷數字，而是一條經得起驗證的工程路徑：全棧自研底座（DingoStack/DingoFS/DingoDB）× 算電協同 × 全局調度（萬卡級利用率）× 模型優化（KV/量化/推測解碼/PD 分離）× 工廠復用（邊際成本遞減），五條路徑相乘后的系統效率。

對客戶而言，這可直接翻譯為：GenAI 應用客戶的同等算力 Token 成本可降低 60-75%；模型訓練客戶的大規模 fine-tune 完成時間縮短約 50%；多模態 Agent 客戶在 20K 上下文、多輪對話場景下，TPS 提升 10 倍。

方磊在央視專訪中分享了一個典型案例：一家制造企業接入九章云極的 Token 工廠后，AI 質檢系統的算力成本從難以預估的固定開支，轉變為清晰可控的變動成本。他強調：「這不僅是省錢，更是將算力從成本中心變成了可精準管理的生產原料。」

專業 Token 的分層體系

Token 工廠的產出不是同質化的算力商品，而是面向不同產業場景、具備明確 ROI 的「專業 Token」。九章云極將其劃分為三個層級：

• 消費級 Token面向海量用戶，追求穩定吞吐與極低延遲，支撐日常 AI 應用；
• 專業級 Token是企業商業價值創造的核心，封裝了行業 Know-How 與合規邏輯，讓企業購買的是「效率、風控與決策支持」；
• 前沿級 Token則面向新材料研發、藥物發現、城市級系統優化等高復雜度場景，封裝多模型、多工具的全流程科研工作流，解決「此前不可解」的終極難題。

九章云極的戰略聚焦明確：專注專業級與前沿級 Token，將 AI 能力精準轉化為可直接嵌入企業核心業務流程的生產力組件。

AI 工廠戰略：完整閉環與產業坐標

訓練工廠與 Token 工廠 并非兩個獨立產品的簡單組合。在九章云極的架構全景圖中，兩座工廠之間有一條明確的雙向通道：訓練工廠產出的專業模型資產流入 Token 工廠，Token 工廠在真實業務中積累的使用數據則回流至訓練工廠，持續驅動模型迭代進化。

這是一個「越用越強」的增強回路：使用量越大，回流數據越豐富；數據越豐富，專業模型越精準；專業模型越精準，Token 的任務成功率越高，成本越低。

兩座工廠的協同，使整個體系具備了隨規模擴張而自我強化的能力。這也是 AI 工廠戰略有別于單純算力租賃的核心所在。

總結起來：訓練工廠「造得出」× Token 工廠「用得起」= 智能工業化的基礎設施

四個戰略坐標

在這次峰會上，九章云極以四組數字錨定了 AI 工廠戰略的目標：

• 10 萬 P 的訓練工廠：打通行業頂尖算力集群，支撐超大規模模型并行訓練。10 萬 P 的智算規模目標是整個 AI 工廠體系運轉的動力基石，也是支撐 AI 推理服務市場（預計 2030 年突破萬億美元規模）所需的基礎設施底盤。
• 日均 10 萬億 Token：將專業模型封裝為標準化的智能單元，讓智能能力即取即用、流通無阻。目標單日 10 萬億高質量 Token 的流轉能力是衡量「智能工業化」真正落地規模的核心產能指標。這一數字的背后，是算力規模、推理效率、跨集群調度、KV 路由效率與 SLA 可用時間五項工程能力相乘的系統結果。
• 1000 倍綜合降本：通過 DPU 分離超節點計劃實現 Token 成本跨越式降低。這是三大范式重構相乘、五條工程路徑協同的結果。
• 1000+ 生態模型與智能應用開發：匯集全球優質模型體系，賦能全場景智能應用開發。配套「智算開放計劃」，通過算力孵化基金（為入選伙伴提供直接算力支持）和「燈塔共創計劃」（與頭部伙伴聯合研發、共同定義行業智能標準），九章云極致力于成為產業上下游的「價值開放平臺」。

從中國到全球：普惠算力的地理延伸

四個戰略坐標的背后，還有一個更大的視野：讓經過中國市場驗證的「普惠智算方案」走向全球

目前，九章云極的智算節點已覆蓋京津冀、長三角到西部樞紐的全國網絡；在海外，已在印度尼西亞、馬來西亞、越南、新加坡等東南亞市場，以及沙特阿拉伯、阿聯酋等中東市場展開布局。

方磊在今年 4 月的全球共享發展行動論壇上發布「南方智算火種計劃（The AI Prometheus）」，提出通過「韌性算力底座+本土能力建設+開箱即用超節點方案」，幫助全球南方國家將傳統需要數年的算力中心建設周期壓縮至數月，以極低的邊際成本直接承接 AI 算力需求的爆發。

這是 AI 工廠戰略在全球維度的延伸邏輯：不只輸出算力租賃，而是輸出可持續發展的能力，讓每一個國家和地區都有能力參與 Token 經濟的紅利

從工廠到文明基礎設施

人類歷史上，每一次生產力范式的躍遷，最終都不是靠單一技術突破完成的，而是靠一套完整的工業體系：從標準化的度量單位，到可靠的生產流程，到普惠的流通網絡。

蒸汽機出現半個世紀后，真正改變世界的是流水線。發電機發明幾十年后，真正普惠千家萬戶的是電網。

今天，當通用大模型的能力已基本被業界認可，決定下一個十年的，將是誰能建造起 AI 時代的「流水線」與「電網」

九章云極 AI 工廠戰略給出的答案是一套從強化學習到專業 Token 的完整工業鏈條：訓練工廠解決「造得出」，Token 工廠解決「用得起」，兩者形成閉環飛輪，共同支撐「智能像電力一樣可度量、可結算、可規模化生產」這一終極圖景。

這不只是一家算力公司的產品迭代，而是一次對「什么是 AI 基礎設施」這一問題的重新定義。

正如方磊所言：「我們的目標，是讓普惠智算成為一個具有中國印記、全球價值的產業公共品。這是九章云極的藍圖，也是我們向世界發出的合作邀請。」