IBM Cloud與AMD聯合在云端實現先進AI計算

在各行各業的人工智能（AI）工作負載和高性能計算（HPC）日益增長的基礎設施，其需求復雜性也在同步增長。大型語言模型、多模態AI、智能體AI和先進科學模擬需要前所未有的計算能力、內存帶寬和能源。這些需求不僅超越原始性能，還包括編排靈活性、成本優化和合規準備。

最近一項Hyperion Research研究顯示持續擴張的幾個關鍵要素：9%的受訪者表示計劃適度或大幅擴展AI基礎設施以也支持HPC工作負載。約28%的人將這種擴張描述為顯著的。不到3%的人期望縮減其AI使用，沒有人將這種縮減描述為顯著的。

Hyperion Research是一家專注于高性能計算（HPC）、人工智能（AI）和數據分析領域的獨立市場研究機構。公司的前身是IDC（國際數據公司）旗下的HPC部門，于2017年獨立運營。

在當今快速演變的AI格局中，組織機構在為其工作負載選擇基礎設施時面臨眾多選項。決策涵蓋本地部署和基于云的解決方案，各自提供獨特優勢。同樣，加速計算選項——特別是GPU——呈現多種性能優化路徑。戰略合作伙伴關系，如IBM Cloud與AMD的合作，旨在提供集成解決方案，將先進技術能力與靈活性相結合，通過混合解決方案使用戶能夠在性能、功能、服務和成本效率之間實現正確平衡，同時保持前瞻性和敏捷路線圖。

當前格局

AI幾乎在所有行業和應用空間的用戶群體中產生影響，包括大量以前未采用AI基礎設施的用戶。雖然許多趨勢影響著塑造大型用戶群體中AI使用的格局，但研究表明影響當下的三大主要因素：

增加投資和配置：組織優先考慮針對AI訓練和推理優化的硬件，對支持低精度計算（FP8、BF16）的GPU的興趣日益增長。由于成本限制、硬件可用性有限和持續實驗等因素，僅16%的用戶表示僅使用本地硬件來滿足其推理計算需求，凸顯了多樣化和可用云資源的價值。

環境復雜性日益增長：混合云、本地環境以及容器化已成為大規模先進計算和AI組織的幾乎普遍標配。這種混合安排帶來了硬件可用性和云端支持的敏捷性，同時保持了本地的成本效益和可靠性。然而，這種新復雜性帶來了諸如獨特軟件工具以管理跨源計算和數據管理的需求、使用這些獨特工具的擴展專業知識，以及對成本效益的更嚴格關注以避免支出失控的需求。

建立AI最佳實踐：大多數先進計算/AI用戶表示對其AI技術和支持它的多樣化市場產品進行持續實驗和探索。由于利用AI仍然是先進計算連續體中的相對新角色，尤其是在國家實驗室等傳統HPC組織中，建立標準實踐需要時間。雖然用戶在更適當地參數化和定義其應用計算需求方面取得進展，但云提供商提供的資源繼續發光發熱。用戶傾向于使用高性能GPU配置其AI推理需求，主流GPU和超大規模提供商在受歡迎程度上緊隨其后。隨著AI采用和擴展的推進，這種對高性能GPU的偏好預計會上升。

終端用戶對AI要求的看法

最近的Hyperion Research研究強調影響AI基礎設施決策的關鍵用戶關注點和要求：

規模和復雜性：訓練萬億參數模型需要大規模并行性和內存容量。此外，在擴展推理能力的同時持續微調和再訓練帶來了獨特挑戰。隨著市場上軟件產品的快速演變以及關于新數據未來可用性問題的日益增長，在內部訓練和運行完全擴展的先進AI模型可能具有挑戰性、成本高昂，有時效率低下。

混合部署：企業越來越多地在本地和云環境中運營，引入編排和合規復雜性。管理數據本地性和來源、跨平臺軟件工具以及實現持續效率和成本效益需要詳細和嚴格的調度和管理。參與實驗或探索工作的用戶最經常報告在云環境中參與這些項目，生產工作緊隨其后，可能是由于其易訪問性和低承諾。最近的研究顯示，采用AI的用戶中遷移率很高。

負擔能力和可用性：支持尖端AI計算所需的硬件和工具昂貴，有時作為本地資源對某些用戶完全不可用。無論是由于成本限制、芯片開發步伐和費用的增加，還是貿易法的變化，填充數據中心所需資源的負擔能力和可用性是用戶的關注點。

能源和可持續性：不斷增長的電力和冷卻需求使效率成為采購優先事項。獲得所需的電力、水、空間和其他基礎設施是用戶組織日益增長的潛在障礙，尤其是那些希望繼續擴展的組織。

安全和合規：受監管行業需要零信任架構、對新法規的敏捷響應和彈性安全。AI技術及其應用正在經歷連續的、有時令人困惑的監管政策轟炸，可能難以應對。雖然AI用戶中挑戰依然存在，但對技術增強和重塑當前工作負載仍存在巨大信任。根據最近一項Hyperion Research研究，用戶最經常預計在3年內獲得AI投資回報，同時繼續探索其選項并實驗新模型類型、硬件配置和軟件工具。這些希望是有充分根據的，用戶報告其最近集成的AI技術正在達到或超出預期，特別是在某些應用空間內。

IBM Cloud與AMD解決方案

IBM Cloud集成AMD最新一代MI Instinct系列GPU硬件產品，提供高內存帶寬以優化大型模型推理和微調，得到統一內存支持，旨在消除CPU和GPU之間的瓶頸，對多樣化的AI數據類型和稀疏性提供優化支持。這種硬件結合IBM安全、合規就緒的云，實現AI和HPC工作負載的規模化性能。該硬件系列專為規?；腁I和HPC而構建，基于擴展基礎設施效率和高內存容量引入更低的擁有成本，能夠在更少GPU上運行更大或更多數量的模型。此外，通過承諾開放標準，用戶免受供應商鎖定，擁有靈活擴展的自由，允許未來增長和敏捷性。

主要特性：

性能和可擴展性：AMD MI Instinct系列支持大規模模型而無需GPU碎片化，減少訓練時間和成本。其架構針對需要大內存容量的生成式AI和HPC工作負載進行優化。它可以通過單個通用基板上8個GPU之間的連貫內存共享管理最大模型，并支持FP4、FP6、FP9和FP16數據類型。

混合靈活性：IBM Cloud上的Red Hat OpenShift提供容器可移植性，在云環境內和本地之間，以及Kubernetes編排，而OpenShift AI提供構建和部署定制AI解決方案的工具箱。結合IBM Cloud上的watsonx.ai即服務，企業可以在本地和云環境間無縫擴展AI工作流。

安全和合規：IBM Cloud為受監管行業提供內置控制、零信任身份管理和后量子密碼學就緒性——對在嚴格合規授權下運營的企業至關重要。默認集成方法允許在不跨網絡或磁盤暴露高價值工作負載的情況下管理該過程。

量子展望：IBM和AMD在以量子為中心的超算方面的合作標志著量子和經典HPC融合的未來，實現前所未有的問題解決能力。

AI管道覆蓋：適用于AI生命周期——從訓練和微調到推理——同時支持傳統HPC應用。IBM Cloud服務提供全棧方法來支持先進計算，采用研究知情方法，考慮常見用戶挑戰、行為模式和價值創造。除了外圍支持外，這些云服務包含全面的Gen AI堆棧，包括AI助手和代理AI、用于嵌入的SDK和API、數據平臺和服務以及基礎設施工具。

IBM Cloud上的AMD硬件利用跨行業工具套件建立整體、研究知情的生態系統，以滿足用戶最緊迫的需求。這些工具從頭到尾賦予現代企業安全、可擴展的AI能力。這些解決方案不僅包括IBM和AMD解決方案，還與Red Hat OpenShift和Ansible自動化平臺集成開源解決方案，以及通過IBM咨詢和業務伙伴實現現代化的機會。