河南
快科技5月11日消息，SemiAnalysis旗下InferenceX性能測試平臺發布的最新測試數據顯示，自DeepSeek V4大模型發布以來，AMD ROCm軟件棧在約14天內實現了75倍的推理吞吐提升。
該測試覆蓋了FP4和FP8精度下的8K/1K上下文典型應用場景，測試周期截至5月8日。
在相同交互性水平下，token處理能力同步增長，有效降低了大模型推理延遲，顯著改善了終端用戶的使用體驗。
此次性能飛躍完全來自ROCm軟件棧的深度優化，未涉及硬件層面的改動，展現出AMD在AI軟件領域的快速迭代能力。
性能提升主要源于兩大核心優化：融合mHC操作與RoPE哈達瑪變換，降低CPU開銷并提高HBM內存利用率。
此外，索引器、鍵值緩存壓縮器等核心計算內核均采用TileLang和Triton語言編寫，大幅加快了開發迭代速度。
目前ROCm距離單節點聚合英偉達B200的性能水平仍有5倍差距，距離PD解耦版本B200則還有1.5倍提升空間。
相關信息顯示，AMD有望在未來幾周內完成剩余的性能優化目標，進一步縮小與NVIDIA CUDA的技術差距。
這是DeepSeek V4發布后，AMD ROCm團隊在未提前獲得模型權重的情況下啟動適配，僅用約兩周便交出上述成績單。
特別聲明：以上內容(如有圖片或視頻亦包括在內)為自媒體平臺“網易號”用戶上傳并發布，本平臺僅提供信息存儲服務。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
