公眾號(hào)記得加星標(biāo)??,第一時(shí)間看推送不會(huì)錯(cuò)過(guò)。
亞馬遜首席執(zhí)行官安迪·杰西向股東發(fā)表了一封關(guān)于公司定制芯片業(yè)務(wù)的信,他在信中對(duì)公司內(nèi)部的基礎(chǔ)設(shè)施堆棧表現(xiàn)出強(qiáng)烈的樂(lè)觀態(tài)度。
毫無(wú)疑問(wèn),超大規(guī)模數(shù)據(jù)中心運(yùn)營(yíng)商如今正面臨著所謂的“計(jì)算資源短缺”危機(jī),現(xiàn)有基礎(chǔ)設(shè)施已無(wú)法滿足人工智能及相關(guān)服務(wù)帶來(lái)的巨大需求。我們看到亞馬遜、谷歌和Meta等巨頭紛紛轉(zhuǎn)向定制芯片,以彌補(bǔ)計(jì)算能力的不足。
其中,亞馬遜的Trainium芯片和Graviton服務(wù)器CPU已證明其產(chǎn)品成熟可靠,這也是CEO安迪·杰西對(duì)其充滿信心的原因。杰西在與股東交流時(shí)表示,亞馬遜的定制芯片業(yè)務(wù)正在快速擴(kuò)張,預(yù)計(jì)年經(jīng)常性收入(ARR)將達(dá)到500億美元,這一數(shù)字遠(yuǎn)超AMD和英特爾的水平。
亞馬遜CEO表示,擁有我們自主研發(fā)的、備受市場(chǎng)青睞的人工智能芯片,將開(kāi)啟諸多可能性,其中最重要的或許莫過(guò)于降低客戶成本,并為AWS帶來(lái)更佳的經(jīng)濟(jì)效益。我們預(yù)計(jì),Trainium芯片規(guī)模化后,每年將為我們節(jié)省數(shù)百億美元的資本支出,并相比依賴(lài)其他芯片進(jìn)行推理,帶來(lái)數(shù)百個(gè)基點(diǎn)的運(yùn)營(yíng)利潤(rùn)率優(yōu)勢(shì)。
500億美元的年度經(jīng)常性收入(ARR)數(shù)字是亞馬遜定制芯片業(yè)務(wù)分拆成獨(dú)立實(shí)體并像英偉達(dá)一樣成為計(jì)算服務(wù)提供商后,其規(guī)模的預(yù)估值。Trainium和Graviton的增長(zhǎng)主要來(lái)自AWS的云服務(wù),而亞馬遜至今仍未向需要計(jì)算服務(wù)的用戶提供其定制芯片。
杰西表示,AWS及其ASIC芯片方案帶來(lái)的經(jīng)濟(jì)效益優(yōu)于英偉達(dá)的方案。盡管他重申了對(duì)英偉達(dá)的支持,但他同時(shí)指出,客戶需要的是在“性?xún)r(jià)比”方面占據(jù)主導(dǎo)地位的選擇,而他認(rèn)為T(mén)rainium在這方面做得更好。
亞馬遜CEO還暗諷英特爾及其CPU市場(chǎng)份額,稱(chēng)在基于ARM架構(gòu)的Graviton芯片發(fā)布后,AWS的基礎(chǔ)設(shè)施現(xiàn)在幾乎完全被它們所主導(dǎo)。Jassy表示,Trainium的訓(xùn)練和推理也面臨著類(lèi)似的情況。他的這番話背后蘊(yùn)含著一個(gè)有趣的論點(diǎn),而業(yè)內(nèi)人士可能尚未意識(shí)到這一點(diǎn)。定制基礎(chǔ)設(shè)施的理念并非取代主流的計(jì)算方案(例如NVIDIA的產(chǎn)品),而是為了彌補(bǔ)巨大的計(jì)算缺口,使得像亞馬遜這樣的超大規(guī)模數(shù)據(jù)中心無(wú)法僅僅依賴(lài)GPU制造商。
有趣的是,亞馬遜還暗示可能會(huì)向第三方客戶出售其機(jī)架,這意味著它很可能直接與英偉達(dá)等公司展開(kāi)競(jìng)爭(zhēng)。該公司計(jì)劃在該業(yè)務(wù)上投入“數(shù)千億美元”的資本支出,因此,Trainium + Graviton 技術(shù)棧未來(lái)的發(fā)展方向值得關(guān)注。
一款為 9 萬(wàn)家客戶提供支持的定制芯片
傳統(tǒng)服務(wù)器芯片并非為云計(jì)算而設(shè)計(jì)。AWS Graviton 是一系列專(zhuān)為云計(jì)算定制的芯片,旨在幫助企業(yè)更快、更高效地運(yùn)行應(yīng)用程序。自 2018 年以來(lái),亞馬遜已推出五代 Graviton 芯片,每一代都在前代的基礎(chǔ)上進(jìn)行了改進(jìn)。
亞馬遜看到了一個(gè)機(jī)遇:通過(guò)打造專(zhuān)為云計(jì)算設(shè)計(jì)的芯片,它可以為客戶提供更高性能和更低成本的解決方案。由此誕生了 Graviton,亞馬遜的首款定制云處理器。如今,Graviton5芯片擁有 192 個(gè)核心,是亞馬遜迄今為止單顆芯片中集成處理能力最強(qiáng)的產(chǎn)品,其性能比 Graviton4 提升高達(dá) 25%,同時(shí)保持了領(lǐng)先的能效水平。
五代創(chuàng)新
Graviton(2018 年):亞馬遜推出了首款定制云處理器,證明了智能手機(jī)背后的節(jié)能芯片技術(shù)可以處理嚴(yán)重的云工作負(fù)載。
Graviton2(2019):第二代產(chǎn)品實(shí)現(xiàn)了巨大的飛躍——比同類(lèi)處理器的價(jià)格性能提高了 40%,使公司運(yùn)行其應(yīng)用程序的成本大大降低。
Graviton3(2021):第三代產(chǎn)品在性能與同類(lèi) Amazon EC2 實(shí)例相同的情況下,能耗降低了 60%,幫助客戶在提高性能的同時(shí)減少對(duì)環(huán)境的影響。
Graviton4(2023): Graviton4 的處理核心數(shù)量是原來(lái)的三倍,能夠更快、更高效地處理更苛刻的工作負(fù)載,例如大型數(shù)據(jù)庫(kù)和分析。
Graviton5(2025):最新一代核心數(shù)翻倍至 192 個(gè),性能比 Graviton4 提升高達(dá) 25%,可為從實(shí)時(shí)游戲到人工智能等要求最苛刻的應(yīng)用提供動(dòng)力。
當(dāng)你叫優(yōu)步時(shí),你可能不會(huì)想到是處理器在幫你匹配司機(jī)。但優(yōu)步確實(shí)在這么做。該公司使用 Graviton 來(lái)驅(qū)動(dòng)其行程服務(wù)區(qū)系統(tǒng)——該系統(tǒng)能在幾毫秒內(nèi)處理數(shù)百萬(wàn)個(gè)預(yù)測(cè)和位置數(shù)據(jù)點(diǎn)——從而實(shí)時(shí)匹配司機(jī)和乘客。Graviton 的卓越性能確保你即使在高峰時(shí)段也能享受更短的等待時(shí)間和可靠的服務(wù)。
再以一級(jí)方程式賽車(chē)為例。當(dāng)車(chē)手們以超過(guò)200英里/小時(shí)的速度在賽道上飛馳時(shí),Graviton處理器在幕后默默工作,將實(shí)時(shí)賽車(chē)數(shù)據(jù)轉(zhuǎn)化為觀眾在電視轉(zhuǎn)播中看到的圖形和統(tǒng)計(jì)數(shù)據(jù)。像Pinterest和Airbnb這樣的公司也已轉(zhuǎn)向Graviton,在提升性能的同時(shí),降低了成本和碳排放。
如今,亞馬遜云計(jì)算服務(wù) EC2 的前 1000 家客戶中,98% 都使用 Graviton 芯片。AWS 新增處理能力的一半以上都運(yùn)行在這些芯片上。企業(yè)利用 Graviton 開(kāi)發(fā) Web 應(yīng)用、數(shù)據(jù)庫(kù)、大數(shù)據(jù)分析、游戲服務(wù)器、視頻編碼、機(jī)器學(xué)習(xí)和高性能計(jì)算。
AWS 利用定制芯片、智能路由系統(tǒng)和專(zhuān)用基礎(chǔ)設(shè)施為“推理”工作提供支持,使人工智能更快、更經(jīng)濟(jì)實(shí)惠。
從手機(jī)上的應(yīng)用程序到電視上的流媒體服務(wù),Graviton 正在悄然地為你的更多數(shù)字生活提供動(dòng)力——使其更快、更經(jīng)濟(jì)、更可持續(xù)。
(來(lái)源:綜合)
*免責(zé)聲明:本文由作者原創(chuàng)。文章內(nèi)容系作者個(gè)人觀點(diǎn),半導(dǎo)體行業(yè)觀察轉(zhuǎn)載僅為了傳達(dá)一種不同的觀點(diǎn),不代表半導(dǎo)體行業(yè)觀察對(duì)該觀點(diǎn)贊同或支持,如果有任何異議,歡迎聯(lián)系半導(dǎo)體行業(yè)觀察。
今天是《半導(dǎo)體行業(yè)觀察》為您分享的第4373內(nèi)容,歡迎關(guān)注。
加星標(biāo)??第一時(shí)間看推送
![]()
![]()
求推薦
![]()
特別聲明:以上內(nèi)容(如有圖片或視頻亦包括在內(nèi))為自媒體平臺(tái)“網(wǎng)易號(hào)”用戶上傳并發(fā)布,本平臺(tái)僅提供信息存儲(chǔ)服務(wù)。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.