中國移動首發智算推理集群“運營黃金標準”

近日，中國移動聯合合作伙伴在智算運營領域取得重要突破，在行業首創“智算推理集群運營黃金標準”。該標準以用戶體驗為導向，構建了一套可量化、可評估、可復用的集群運營指標體系，首次實現了對人工智能推理算力服務質量的系統化、標準化度量。這一創新標志著AI推理算力發展范式正從“規模擴張”轉向“質量躍遷”，推動行業進入精細化運營與高質量發展的新階段。

當前，人工智能發展正從集中式的“模型訓練”（練兵）階段加速邁向大規�！巴评聿渴稹保▽崙穑╇A段，推理應用已在政務、金融、制造、醫療等多場景深度落地，智能體生態蓬勃發展，驅動算力需求結構發生深刻變革——推理算力占比持續攀升，并已成為智算基礎設施的核心負載。然而，面對用戶對更高性能、更優體驗與更低成本的復合訴求，行業仍面臨突出矛盾。因此，如何在保障服務質量的前提下，動態平衡“降本”與“優服”，實現推理系統的高效、穩定與經濟運行，已成為當前智算基礎設施建設與運營亟待破解的核心挑戰。

針對這一挑戰，中國移動基于大量理論分析與實測驗證，創新提出“智算推理集群運營黃金標準”。該標準以“度量破局”為核心理念，系統構建涵蓋用戶體驗、系統并發能力、系統可用性及硬件利用率四大維度的集群效能評估體系。通過實時監控推理集群運行狀態，該體系在保障關鍵體驗指標達標的前提下，精準識別最先觸達性能瓶頸的硬件資源指標，并將其確立為當前場景下的“黃金指標”。這一指標不僅反映系統性能的臨界約束條件，還可作為判斷集群是否高效運行、是否需要擴容或優化的重要決策依據。

為驗證“黃金標準”的有效性，中國移動組織開展試點工作，系統評估了多種典型模型在不同業務負載下的運行表現，包括以DeepSeek-R1為代表的MoE（混合專家）稀疏大語言模型、以Qwen3-32B為代表的稠密大語言模型、以Qwen2.5-VL-72B為代表的多模態理解模型、以Stable　Diffusion為代表的多模態生成模型。測試結果顯示，在不同推理負載下，四項硬件指標（算力利用率、顯存利用率、顯存帶寬利用率和KVCache利用率）的增長速率存在顯著差異，且各場景中最先觸達性能瓶頸的指標各不相同。

依托“黃金指標”的實時監控，企業能夠在高并發與負載波動等復雜場景下，精準洞察集群運行狀態，實現精細化運營。即當指標顯示資源利用率較低時，可主動引入負載提升資源效能；當指標逼近擴容閾值時，則觸發彈性擴容機制。實踐表明，該方法可實現擴容決策準確率接近100%。

面向未來，中國移動將深入貫徹落實國家“人工智能+”戰略，把握歷史機遇，錨定“人工智能供給者、匯聚者、運營者”三位一體定位，全面升級“AI+”行動計劃，發揮央企引領作用。公司將持續夯實智算基礎設施底座，創新體系化運營模式，推動算力供給向普惠易用、經濟高效、綠色智能方向演進；同時，廣泛開放應用場景，加速AI技術在企業內外千行百業的深度滲透與規�；涞兀尜x能經濟社會數字化轉型。