SemiAnalysis CEO：模型"近兩年最大能力躍遷"，讓“執行變得極其廉價”，供應鏈"極度短缺"

AI模型迎來“近兩年最大能力躍遷”，供應鏈全線告急，美國民憤情緒一觸即發——這是SemiAnalysis創始人Dylan Patel在最新訪談中給出了對當下AI革命最直白、最辛辣的判斷。

4月23日，知名半導體及AI行業研究機構SemiAnalysis首席執行官（CEO）Dylan Patel在一場深度訪談中，詳細拆解了當前AI行業的供需動態、代際技術突破以及潛在的社會宏觀影響。

Patel的公司SemiAnalysis是華爾街和科技投資圈高度關注的AI基礎設施獨立研究機構，其客戶覆蓋頂級對沖基金和科技企業。他在訪談中以自身公司的AI使用數據為切入口，引出了對整個AI產業供需格局的深度研判。

他透露，SemiAnalysis去年的AI支出僅為數萬美元，但由于員工（甚至是非技術人員）開始瘋狂使用Claude等AI工具進行代碼編寫和數據分析，今年的年化Token支出已經飆升至700萬美元。

他指出，Anthropic等頭部機構的新模型實現了“近兩年最大能力躍遷”，僅用兩月便從L4跨越至L6級工程師水平，讓“執行變得極其廉價”。然而，這也導致硬件供應鏈面臨“極度短缺”，DRAM價格或將翻兩至三倍，臺積電2028年資本支出有望觸及千億美元。

值得警惕的是，隨著技術向經濟系統滲透，底層失業焦慮加劇，預計三個月內美國或爆發針對AI的大規模抗議，公眾抵觸情緒正成為不可忽視的宏觀變量。

模型“近兩年最大能力躍遷”

驅動這場Token消耗狂潮的核心，是前沿模型能力的爆炸式增長。

在訪談中，Patel特別提到了Anthropic未公開發布的神秘新模型（代號Mythos）以及最新版的Opus。他指出，隨著Scaling Laws（縮放定律）的持續生效，模型的迭代速度正在從過去的六個月大幅壓縮至兩個月。

“Mythos可能是近兩年來模型能力的最大跨越。”Patel強調，“Anthropic最初的目標是在2025年底前讓模型達到L4級軟件工程師的水平，他們在Opus 4.6上基本實現了這一點。但如果你看Mythos的基準測試，它已經達到了L6級工程師（資深專家）的水平。從L4到L6，他們僅僅用了兩個月。”

這種能力的躍遷正在從根本上改變商業世界的運行邏輯。過去，市場的法則是“想法很廉價，執行極其困難”；但在新一代模型的加持下，這一邏輯被徹底重寫：

“現在想法廉價且豐富，而執行變得非常容易。因此，只有真正好的想法，才能證明在極其廉價的執行上花費資金是合理的。”

Mythos的出現還驗證了一個關鍵命題：Scaling Laws仍然有效。Patel明確表示，Mythos是一個"materially larger model"（明顯更大規模的模型），訓練規模等效于10萬塊Blackwell芯片，且"所有跡象都表明，往模型里砸更多算力，模型就會變得更強"的趨勢線依然成立。

供應鏈“極度短缺”

極端的模型算力需求直接導致了物理世界供應鏈的全面告急。

Patel指出，盡管云服務商和芯片制造商正在瘋狂擴產，但供給側幾乎在每一個節點上都處于“極度短缺”狀態，且全產業鏈的利潤率正在不可逆轉地擴張。

“隨著需求飆升，供應端所有東西的價格都在上漲。”他打破了市場關于GPU使用壽命較短的固有認知：“有人認為GPU的使用壽命不到5年，這完全是胡說八道。現在有3到4年機齡的Hopper集群正在續簽未來三四年的合同。有效壽命顯然不是5年，甚至可能是7到8年。”

在更廣泛的半導體供應鏈中，短缺現象同樣令人咋舌。Patel重點提示了存儲芯片和晶圓代工環節的驚人預期：

• 首先是存儲芯片：“真正的增量供應（incremental supply）在2028年之前都不會到來。DRAM的價格將從現在起翻倍甚至翻三倍，因為他們必須通過更高的定價來摧毀部分需求（demand destruction），資本主義經濟不搞配給制。”

• 其次是代工與設備：“人們沒有關注到臺積電未來的資本支出。到了2028年，臺積電的資本支出可能會達到1000億美元。人們覺得這很瘋狂，但這絕對是一個真實的可能性。”

此外，Patel特別強調了兩個容易被忽視的瓶頸：

CPU：被嚴重低估。原因有二：一是強化學習（RL）訓練環境完全運行在CPU上，而非GPU；二是AI生成的代碼和內容最終都要部署到基于CPU的服務器上運行。"CPU完全售罄，需求在暴增。"
PCB銅箔、玻璃纖維、激光器等小眾上游材料：同樣供應極度緊張，訂單預付款現象普遍，即便毛利率未必大漲，投入資本回報率（ROIC）正在顯著提升。

Patel的整體判斷是："經濟價值最好的模型所能創造的價值，正在以比我們實際供應Token能力更快的速度增長。這個缺口會持續擴大，模型廠商的利潤率會持續擴張，直到硬件供應鏈里的人也開始說，'等等，為什么我們不把自己的利潤也拉上去'。"

美國民憤情緒正在積累

在技術的狂飆突進和資本的瘋狂盛宴之外，Patel對AI引發的美國社會情緒發出了極其嚴厲的預警。

他指出，隨著企業利用AI大幅提高效率并可能隨之裁員，美國普通大眾對AI的敵意正在迅速逼近臨界點。

“我認為三個月內，就會出現針對大模型公司的大規模抗議活動。”Patel在訪談中直言不諱。他列舉了近期的極端事件：

“Sam Altman的房子在兩周內兩次被人投擲燃燒 瓶，而新聞評論區里人們竟然在歡呼，這僅僅是個開始。AI現在比政客還要不受歡迎。”

他將這種公眾憤怒部分歸咎于美國AI公司高管的公關策略失誤。他認為，美國頭部AI公司的掌舵者（如Sam Altman和Dario Amodei）在面向公眾時缺乏魅力，且過于熱衷于談論AI將如何“改變整個世界”和“自動化所有工作”。

“他們需要停止不斷談論未來的能力將如何改變世界，因為普通人與此毫無聯系，這只會讓他們對這種能力感到恐懼。他們必須開始展示AI能帶來的令人振奮的現實用例。”

訪談文字實錄譯文（由AI輔助翻譯）

注：Dylan Patel，半導體研究機構SemiAnalysis首席執行官
主持人Patrick O'Shaughnessy，風險投資公司Positive Sum首席執行官
Dylan Patel：
過去，執行非常重要，因為執行非常困難，而想法則很廉價。現在想法既廉價又充裕，但執行變得非常容易。所以真正重要的，只有那些好想法，才是能夠證明在超級廉價的執行上花費是值得的。
主持人：
你跟我講過一個令人難以置信的故事，關于你自己團隊對token的使用今年發生了多么巨大的變化。是的，零售，講講那個故事，以及它在教你關于這個世界正在發生什么。
Dylan Patel：
去年，我們以為自己是AI的重度用戶。每個人都在用ChatGPT，每個人都在用Claude，每個人都有，你知道，我為公司里任何人提供他們想要的訂閱，花費大概在幾萬美元的量級。今年，花費就直線飆升了。這真的是從去年十二月底Opus推出開始的，其中包括Doug，他是總裁，Douglas。他非常像是在領頭沖鋒，意義在于像他這樣的非技術人員在用AI寫代碼。所以他基本上慢慢地把整個公司都帶進來了。我認為他一直是這方面的領頭人。顯然，工程師們無論如何都在用，但一月份的花費就開始拐點向上，然后不斷飆升、飆升、飆升、飆升。我們簽了，你知道，與Anthropic的企業合同，現在已經到了這個地步——我想我上次和你說的時候，花費是500萬，對吧？現在實際上是700萬的花費。
主持人：
那是上周的事，順便說一句。
Dylan Patel：
其中很大一部分就是使用量，對吧？真正的情況是，你知道，那些以前從未寫過代碼的人，現在在用Claude Code，有時一天花幾千美元，遍布整個公司。我們現在每年在Claude Code上花700萬美元。按照目前的速度，而我們的薪資支出大約在2500萬美元左右。所以，你知道，我們在Claude Code上的花費占薪資的比例超過了25%。如果這個軌跡持續下去，那么，你知道，到今年年底，我們在Claude Code上的花費將超過薪資總額的100%，這有點令人恐懼。
Dylan Patel：
幸運的是，我不必在人和AI之間做選擇，因為我們公司增長非常快。情況更像是，好吧，我不需要那么快地招人，我可以在AI上花更多錢，而且它確實有效，我們只是增長得更快了。但我認為其他人將開始面對這樣一個現實：如果這個人能用Claude Code完成五到十到十五個人的工作，那么突然之間，我或許應該裁員了。
Dylan Patel：
但就目前而言，我認為使用場景非常廣泛。舉個例子，我們在俄勒岡州有一個逆向工程實驗室，我們已經建了一年半了。我們有一堆，你知道，高級顯微鏡、掃描電子顯微鏡。這整個實驗室的目的是對芯片進行逆向工程。你從中提取架構，獲取他們用于制造的材料。這是我們出售的一些數據。分析這些數據是一個非常緩慢的過程。然而，團隊里的一個人，他用幾千美元的Claude token，就能夠創建這個應用程序——它是GPU加速的，運行在我們在Core Weave的一臺服務器上。每當我們發給它一張圖像，它就能拍下芯片的照片，并疊加標注出每一種材料在哪里。哦，這部分是銅。哦，柵極的這部分是鉭。柵極的這部分是鍺。柵極的這部分是鈷。這樣你就可以非常快速地對芯片的整個堆疊結構進行有限元分析。帶有儀表盤圖形界面，可視化。一切都有了。就花了幾千美元的token。
Dylan Patel：
這個人之前在英特爾工作過，他說那曾經是整個團隊的工作，負責構建和維護那個系統。現在把這個乘以整個公司的規模。太瘋狂了。
Dylan Patel：
另一個我認為非常有趣的例子是Malcolm。他之前是一家大型銀行的經濟學家。那家銀行的經濟學家部門大概有一兩百人。他構建的東西是有史以來最令人難以置信的。他把各種不同的數據都接入進來，你知道，Fred數據以及所有其他數據，對不起，就業報告以及來自各種API的其他數據。我們與一些機構簽了幾份合同，獲得API來訪問數據，把所有數據都整合進來，開始跑回歸，開始研究各種經濟變革從通縮、通脹角度對經濟的影響。美國勞工統計局，整個勞工統計局有整整一套大約2000個任務的清單。所以他用AI對這些任務進行了分析——哪些可以由AI完成，哪些不能，并按照一個評分標準對它們進行評級，你知道，大約3%的任務現在可以由AI完成。所以他創建了這樣一個指標，你可以用它來衡量哪些事情可以由AI完成，以及能夠用AI完成這些事情的巨大通縮效應是什么——也就是說，產出可以上升。他把它叫做"幽靈GDP"。幽靈GDP。產出可以上升，但因為成本下降得如此之多，理論上GDP實際上會萎縮。所以他創建了這整套分析，以及一個全新的語言模型基準測試——不是跨2000封不同的電子郵件，而是……對吧？
主持人：
這全都是他一個人做的？
Dylan Patel：
這全都是他一個人做的。他說，兄弟，這本來需要一個200人的經濟學家團隊花一年時間來完成。他就像是，他完全沉迷于Claude了。他說，一切都變了。
主持人：
作為一個企業主，你如何看待從接近零到25%、并加速向某個百分比邁進的這個過程——占總支出的比例？我明白。到什么程度你會說，好吧，我需要踩剎車，謹慎考慮我們的花費。也許我們不需要花在最貴的——今天剛發布的Opus 4.7上。也許我可以退回到一個稍微便宜一點的版本。
Dylan Patel：
歸根結底，我是做信息行業的，對吧？就是，你知道，我們出售分析，做咨詢，創建數據集。我不明白為什么這不會在相當快的速度上被完全商品化。如果我不能持續改進我最初作為數據集出售的核心產品，那就會發生這種情況。實際上，確實是這樣，你知道，現在有更多的人在嘗試做同樣的事情。我們讓它不斷變得更好、更詳細。因此，它仍然有市場。但我們在2023年做事的方式與現在其他人做的方式并沒有太大不同。如果我不提高標準，我就會被商品化。如果我移動得不夠快，我也會失去優勢。所以問題是，是的，AI會將事物商品化，就像它將軟件商品化一樣。那些能夠快速行動、保住客戶、持續提供出色服務并持續改進的人，業務不會萎縮，反而會增長得更快。那些固守現狀、什么都不做的老牌企業，將會失敗。所以這有點像生死存亡的問題——如果我不采用AI，別人會，而他們將會打敗我。
Dylan Patel：
另一個簡單的例子是能源領域。所以我們有幾位能源分析師，大概一年了，我們一直在嘗試建立這個能源模型。這非常復雜。能源數據服務市場大概有9億美元的規模。所以顯然是一個我試圖打入的巨大市場。但是，你知道，盡管團隊里有多人花了一年時間，我們真的沒能打入能源數據服務業務。然后"Claude Code狂熱癥"擊中了半導體分析公司負責數據中心、能源和工業業務的Jeremy。突然之間，在三周內，他花了很多。他每天花大約6000美元。這是一個瘋狂的數字。但他抓取了美國每一座發電廠、每一條超過特定電壓的輸電線路，并創建了對整個美國電網的完整映射，以及大量需求來源，所有數據都來自各種公開數據源。我們展示了它，它有一個儀表盤，你可以查看和檢查。你可以看到美國所有微區域的電力短缺和盈余，以及所有這些細節。
Dylan Patel：
在幾周內就建成了。我們開始向一些購買我們數據中心數據集的客戶展示，但也向一些能源交易員展示，他們看到后說，哇，這花了你多長時間？這真的很好。這比XYZ公司的產品還要好。然后我們深入挖掘。XYZ公司有100個人，已經在這上面工作了十年。顯然，我們的產品沒有那么完善、那么健壯，但在某些方面它確實更好。我要去商品化這些能源服務公司、數據服務公司——誰又會來商品化我，如果我移動得不夠快的話？所以從企業主的角度來看，問題是，是的，我花了很多，但這些花費給我帶來了什么？它帶來了更多收入嗎？
主持人：
你是否擔心，在極端情況下，那些掌控資本、投資資本的人——他們通常雇用你來做你所做的事情——會說，好吧，我們也有分析師，他們對這方面非常了解。就像，我們自己來建這個。就像，如果它變得那么容易，到什么程度它就會全部被吸納進那些投資公司——他們因為在數據或洞見上擁有最大的杠桿而最能從中獲益。
Dylan Patel：
首先，任何信息服務業務，顯然，我從信息中產生的價值遠不如我的客戶從這些信息中產生的價值。因為如果我以1美元的價格賣給你信息，你之所以愿意花1美元購買，是因為你知道這些信息能幫助你做出決策，讓你賺到超過1美元的收益。因此，你有，你有套利空間，你從這些信息中賺到的錢比我從信息本身賺到的更多。
Dylan Patel：
投資基金，這些投資基金都有自己的信息服務，你知道，尤其是像那些超級頂級的，比如Jane Street和Citadel。他們對自己的數據非常精細。然而，這類機構也從我們這里購買數據，并且持續這樣做，持續與我們共同成長，因為我認為就是有某種難以言說的特質，對吧？我們行動更快，我們更靈活，我們是一個專注于某一特定領域的小團隊。AI基礎設施，以及它帶來的巨大變革，還有AI和tokenomics以及所有這些事情。我們真的看到了它的走向。所以我們行動更快，建設更快。
Dylan Patel：
我認為投資專業人士只會，你知道，是的，他們會嘗試自己建一些我們做的東西，但更有可能的是，他們只會直接從我們這里購買數據。對他們來說，從我們這里購買數據，然后在此基礎上構建，比自己從頭開始建要便宜。但最終，有些人可能會嘗試自己建。
主持人：
我感覺每次和你談話，我一直在深入探討的就是token的供需關系。這是我現在覺得世界上最有趣的事情。這段經歷教會了你關于需求方面什么？它是否改變了你對這個等式需求側的看法，只是直觀地感受到了它本身？
Dylan Patel：
如果我們退后一步，從宏觀角度來看，對吧？Anthropic已經從9億美元的年經常性收入增長到了什么，他們現在大概在350億到400億，等這期節目播出時可能到400億到450億的年經常性收入了。他們的算力并沒有增長到同等程度。如果你做計算，并假設他們沒有削減研發算力——他們顯然沒有削減，他們發布了Mythos，他們有Opus 4.7，所以他們顯然沒有削減研究算力支出。所以最終，他們所做的是，即使你假設他們獲得的所有增量算力都用于了推理，他們的毛利率也已經超過了72%的底線。實際上，他們獲得的一些增量算力可能用于了研發。毛利率可能高于72%。需要說清楚的是，在年初，有人泄露了——是他們的某個融資方，他們的部分融資相關信息被泄露了。某人泄露了，大概30幾個百分點的毛利率。這樣一家企業，在哪里能實現這樣的利潤率增長？原理就在這里，對吧？他們的需求如此之高，他們能夠削減使用限制、速率限制，所有這些東西。真正重要的是擁有一個Anthropic客戶代表，與他們簽訂企業合同，并獲得你所需要的速率限制提升，因為否則token最終是極度供不應求的，誰能付得起錢，誰就能得到。
Dylan Patel：
Anthropic也面臨同樣的問題，對吧？我的意思是，不是問題，這只是資本主義運作方式的現實。是的。人們在向他們發送價值400億美元年經常性收入的token，但這些token產生的價值遠遠超過400億美元。不同的企業每個token產生的價值不同，但隨著我們變得越來越智能，真正重要的是獲得這些最智能的token，并將它們用于某些事情上。你作為一個人，決定如何最好地利用這些token來發展業務、創造價值。因為很多人都想要token并生成token。但舊金山那家用Claude來生成他們軟件產品的糟糕SaaS初創公司，不一定真的在創造大量價值，因此他們很快就會被token市場淘汰出局。
主持人：
你對此感到驚訝嗎？我今天剛剛有過這樣的經歷——在來這里的飛機上，我在某件事上被嚴重限速了。我看到4.7發布了，我立刻想要的就是那一秒就能用上4.7。而且，我根本無法想象再用4.6了。既然4.7已經出來了。在過去這么多周里，我對4.6一直非常滿意。太神奇了。你是否對人們如此堅持要用最貴的、最前沿的東西感到驚訝——程度之深令人咋舌。
Dylan Patel：
毫無疑問，過去一個半月里我最有趣的記憶之一，就是我和Buddy還有Leopold跪在一位Anthropic聯合創始人面前，懇求他給我們訪問Mythos的權限，然后假裝它不存在——因為我們知道它存在。我們說，請給我們訪問權限。他說，我不知道你在說什么。
主持人：
你對那個速率卡或者評估卡發布時是什么反應？
Dylan Patel：
在灣區就有傳言。每個人，你知道，我們有點像是知道它應該會非常好。但如果你只看基準測試，而且顯然基準測試會隨時間變化，Mythos可能是兩年來模型能力最大的一次躍升。我認為這是一個非常重要的細節，你知道，它好到他們都不想發布——盡管他們已經向那些他們為Cyber安全做了選擇性發布的人宣布了價格，token成本大概是5到10倍。他們就是不想發布它，因為他們擔心對世界的影響。他們發布給我們的是較差的版本Opus 4.7。他們在模型卡里明確說了，嘿，我們實際上是有意讓它在網絡安全方面變得更差的。如果你讀到這個，不管你是誰，如果你有足夠的資本，你應該去搞一個企業級Cloud、企業級Anthropic訂閱，在那里你按token付費，而不是用這些訂閱制，因為那樣你就不會被頻繁限速，然后你必須，你需要想清楚如何將這些token用于最高價值的任務并從中賺錢。因為最終，你現在做的事情，也許一年后或兩年后，這個業務實際上就是套利token，對吧？這些token非常強大，但讓我們搞清楚把它們指向什么方向。然后三四年后，模型將會知道，你知道，如何使用這些token以及如何創造最大價值。你知道，你可以回顧性地看，選擇任何一個基準測試。
Dylan Patel：
達到某個能力層級的成本，過去要花X，現在只需要X的百分之一或千分之一。Deep Seek為例，在GPT-4上，成本是原來的六百分之一。從那以后，GPT-4級別模型的成本進一步下降了。當然，沒有人再在乎GPT-4級別的模型了。他們想要的是前沿模型，因為前沿模型讓他們能夠創造出具有經濟價值的東西。但GPT-4級別的模型仍然可以用在一些場景中。人們在一些小型用例中使用它們。只是成本下降得太快了。真正驅動需求的不是成本，而是所有這些新的使用場景。是的。目前的4.6 Opus或4.7 Opus，對于你的這些模型。一年后，同等質量模型的花費可能大概是7萬美元。我打賭它會便宜100倍。但這無關緊要，因為我將會使用一個好得多、好得多、好得多的模型，它能做好得多的事情。所以Anthropic的Mythos作為模型來說更貴，但完成同樣的事情花費的token要少得多。因此，在大多數任務中，它實際上比4.6 Opus更便宜，因為它的效率要高得多。盡管每個單獨的token更聰明。
主持人：
我上次見到你時，Mythos可能剛出來一天左右，或者卡剛出來，你說了一些話，大意是它實際上讓你感到有點害怕，它太好了。你是什么意思？
Dylan Patel：
Anthropic在2025年的整體目標，甚至在2024年的很大一部分時間里，他們說，嘿，到2025年底，我們需要在我們的模型里實現L4級別的軟件工程師。他們基本上通過4.6 Opus實現了這一目標。他們沒有說的是，你知道，而且，如果你看Mythos，如果你比較基準測試，它就像是一個L6工程師。所以L4是相當新的。L6是相當有經驗的。我認為Anthropic說這個模型在內部是二月份就可用了。所以在兩個月內，他們從L4工程師進步到了L6工程師。
Dylan Patel：
接下來是什么？你知道，當你思考模型進展時，它只會加速。Anthropic的發布節奏壓縮了，OpenAI的發布節奏也壓縮了。為什么？因為這些模型，通常來說，要制造一個更好的模型，你需要幾樣東西，對吧？你需要驚人的算力。算力非常昂貴，它有一個時間尺度，我們，你知道，我們追蹤它，它就像是，你知道，它在增長，但就像是，你知道，對于接下來的，你知道，短期內，它就像是已經板上釘釘了，就是你已經簽署的那些合同。會有延誤和變動，你也許能多找到一點，但總體來說是相當板上釘釘的。有那些驚人的研究人員，人們為他們支付數千萬美元。
Dylan Patel：
最后，還有執行實施。歷史上，這一直非常困難。如果我有一個想法，現在我必須去實施。實施是困難的。現在想法有了，實施變得非常容易了。它很貴，但非常容易。那么，如何決定實施哪些想法呢？事實證明，如果你的實施現在變得如此容易，你就可以實施更多的想法，在跑步機上越跑越快，無論是AI模型研究，還是其他什么。所以現在你的模型發布節奏從之前的六個月壓縮到了兩個月，或者……
Dylan Patel：
嘿，我想把美國所有的發電廠和所有輸電線路都納入進來，建模，跑回歸，看看微觀層面的供需關系。我也可以做到這一點。
Dylan Patel：
想法是廉價的。你知道，哪個想法有意義，哪個想法值得你在token上花費那些資本，因為執行實施已經到位了。這就是，這就是，我認為這是關鍵的學習。如果執行實施成本繼續下降，而它們確實在下降，我們甚至還沒有Mythos呢。距離Opus 4.7發布才過了幾個小時。但你知道，我的團隊內部對此相當興奮。現在降臨到世界上的是什么，是經濟運作方式的徹底重組。過去，執行非常重要，因為執行非常困難，而想法則很廉價。現在想法既廉價又充裕，但執行變得非常容易。所以真正重要的——那些毫無價值的想法，以及那些能夠證明在超級廉價的執行上花費是值得的想法。
主持人：
所以你真的感到害怕，還是說，它只是引入了一種難以應對的不確定性？
Dylan Patel：
不確定性是存在的，但我確實認為這在某種程度上引發了一些恐懼——關于社會如何重組自身？在一個世界里，你實施某件事的能力實際上并不那么重要，你為AI選擇正確想法去實施的能力，以及你銷售那個想法或銷售AI所實施的東西的能力，才是重要的；你聚集資本的能力，才是重要的。回到之前那個觀點，擁有最新的模型始終非常重要——誰將能夠獲得最新的模型？
Dylan Patel：
Anthropic的那個項目。我知道它不叫earwig，但我通過叫它earwig來逗Anthropic的人——glasswig，Anthropic earwig，你知道，他們只向某些公司發布Mythos用于網絡安全——這只會是一種持續下去的趨勢。模型的廣泛部署范圍將越來越窄。我知道OpenAI和Anthropic以及所有這些人都在說，我們想要讓每個人都能用上出色的AI。AI非常昂貴。誰來為這萬億美元的基礎設施買單？那些有錢、能用AI構建有用東西的人，而且你不希望人們蒸餾你的模型。所以你不廣泛發布，而是向越來越少的客戶群體發布。那些客戶現在也在爭奪token。除非Anthropic，你知道，他們可以把Opus的定價翻倍，我會繼續付，我打賭大多數用戶也會繼續付。我打賭那也解決不了他們巨大的容量問題。所以問題就變成了，這個循環在哪里結束——token的使用，以及因此這些token帶來的好處，在這些token之上產生的額外價值，將匯聚于越來越少的公司之中。
Dylan Patel：
我還沒有Mythos。你知道，關于Mythos，頂級銀行現在只把它用于網絡安全。但在某個時刻，我可以設想這樣一個世界：嘿，也許因為我有一個Anthropic企業合同，而且因為Anthropic的人有點喜歡我，他們愿意給我們稍微早一點的訪問權限，或者稍微高一點的速率限制，或者某個模型的什么東西。我希望這就是會發生的事情。然后我的競爭對手，不管是誰，沒有這個，我就能碾壓他們。有些人，比如Ken Griffin和Citadel，他們人脈超廣、資金雄厚，他就像是，他直接去簽，你知道，誰知道呢？他去和OpenAI或Anthropic簽了一份合同，大概是這樣的：是的，我要獲得你們模型的訪問權限，我每年會購買價值100億美元的token。所以每當你發布模型，你知道，我會花掉前100億的token，然后其他人才能在那之后獲得這個模型。那就是說，好吧，那會怎樣呢？好吧，現在他將要在市場上碾壓所有人。這只是一個例子。可能是網絡安全，就像Anthropic擔心的那樣，哦，現在我可以入侵別人了。也可能是像我這樣的信息服務業務，我碾壓了別人。我認為，你知道，它的基礎如此廣泛。我們不知道這些模型能做什么，Anthropic也不知道這些模型能做什么。沒有人知道這些模型能做什么。這取決于最終用戶去弄清楚他們可以在哪里利用這些token，看看他們能構建什么、能想象什么——這對人類來說是極其富有成效和令人振奮的。但是，資源的集中和對它的使用會發生什么呢？
主持人：
可以這么說，目前機器人或機器人技術消耗的token相對于其他一切來說幾乎是零。你怎么看——如果這像是一條可能開始棘輪式上升的第二需求曲線？就在離這里一英里之內，每天都有新的初創公司在嘗試在機器人領域構建有趣的東西。所以有這個……
Dylan Patel：
有一個"純軟件奇點"的概念，就是說這個世界有。你知道，AI奇點，但只在軟件領域。那么世界上其他的部分呢？世界的絕大多數是物理的。你可以看到世界圍繞硬件而非軟件來運轉。這實際上就是為什么我認為純軟件奇點只是一個小插曲，而不是說，你知道，我們不會得到其他一切，因為一方面軟件太容易了。是什么讓機器人真的很難？就是給微控制器和執行器編程，控制所有這些東西，現在非常困難。
Dylan Patel：
關于AI模型，有趣的是，它們在學習上實際上是非常低效的。只是我們能夠給它們提供如此大量的數據，以至于它們能夠學習并在某些方面超越我們。機器人，目前，機器人模型，VLA——視覺語言動作模型，現在非常流行，可能不會是最終能夠規模化的東西，因為它們在數據上效率低下，而且我們無法足夠快地為它們擴充數據。將會有某種方式來大規模預訓練機器人模型，就像人類在一生中看到所有這些數據一樣。有趣的是，人類，我們之所以如此厲害，是因為我們的樣本效率很高。一個例子，兩個例子，我們就學會了。所以把這個應用到機器人上……
Dylan Patel：
所以一旦你有了這個純軟件奇點，執行實施的成本超級低廉，任何人都可以開始構建這些模型。人們可以開始構建模型，讓機器人現在真正變得有用。所以我認為在未來六到十八個月內，我們將開始看到機器人領域真正的突破，實現少樣本學習——也就是說，有一個預訓練的機器人模型，現在有一個你雇用了或購買了或隨便什么的機器人。你展示了幾個例子，它就能做到了。你告訴它把這兩樣東西疊起來，或者你告訴它，嘿，這實際上可以完美地保持平衡，你知道，它就開始做這些事情了。
主持人：
單樣本學習。
Dylan Patel：
不，相信我，我打翻了很多東西。所以我認為機器人將會，而且現在就能實現少樣本學習。你知道，現在有很多公司在做機器人，用于廣告或者簡單任務之類的。但它會變得非常細分，比如專門用于折疊衣物的機器人，但會越來越細分，比如專門用于擦黑板的機器人。它可以是一種租賃服務，或者，你知道，會有一個模型包，你下載到你的標準機器人上，然后它就能做那件事，對吧？你按使用量付費，不管怎樣，物理領域將會有一次巨大的爆炸性加速，以及相應的通縮效應。但是，而且，所以這最終將使token需求持續瘋狂增長。我個人不認為token需求會放緩。
主持人：
你有沒有根據 Metis 的結果以及它的構建方式學到關于這個世界的其他東西？比如說，如果你拆解規模定律的各個組成部分，你知道，比如說……
Dylan Patel：
這是一個在規模上明顯大于之前模型的模型。所以是的，它是一個大得多的模型。現在，它是否是，它在什么芯片上訓練的其實并不重要。重要的是規模。顯然，你知道，10萬塊 Blackwell 相當于數十萬塊上一代芯片。TPU 和 Trainium 有各自不同的發布節奏，并不完全是一比一的鏡像關系。但歸根結底，是的，Metis 是一個規模顯著更大的模型。它證明了規模定律仍然有效。關于它的一切都表明，模型的趨勢線仍在延續——向模型投入更多算力會使模型變得更好。而且在整個過程中，不僅僅是向模型投入更多算力使其變得更好，我們同時也在獲得這些算力效率上的提升，也就是說，你知道，實驗室花費的所有這些研究算力實際上正在轉化為——如果我想要某個能力水平的模型，每6個月，或者每兩個月，那個成本都在大幅下降。但如果我大規模地擴展它，我同時也能獲得巨大的能力飛躍。
Dylan Patel：
所以是的，這證明了這一切仍在發生。谷歌和 Anthropic 在訓練側并不是 GPU 的重度用戶，但是，OpenAI，他們將開始推出新一類的模型。我認為他們正在采取一種更合理、更有原則的方式，以小步驟進行擴展。Anthropic 則真的進行了一次巨大的躍進。我們將在這一年里看到越來越好的模型。而且發布節奏只會越來越快。
主持人：
在整個對話中，我們幾乎沒有提到 OpenAI，這在以前會顯得非常奇怪。
Dylan Patel：
所以這是有趣的地方。所有人都在說，好吧，所以 Anthropic 剛剛贏了，對吧？你知道，他們在二月份就有了 Metis。他們從來沒有發布它，因為他們覺得沒有必要。他們已經供不應求了。收入已經每月新增100億美元了。然后今天你還有 Opus 4/7，這一切都發生在 OpenAI 所謂的 GPT 發布之前，你知道，媒體如 The Information 等已經報道過這件事。所以很明顯，Anthropic 處于領先地位，對吧？而 OpenAI 已經完了。
Dylan Patel：
有趣的是，因為 Anthropic 在算力上有如此大的限制，他們只能以那么快的速度增長算力。從某種程度上來說，你知道，Daria 以前常常吹噓說 OpenAI 在算力上過于激進，而 Anthropic 在擴展上更為明智，但現在 Anthropic 的態度是，我們應該，我希望我們有更多的算力。OpenAI 能夠完全正常地支付賬單。事實上，他們籌集了大量資金來獲得額外的算力，除了他們從 Oracle、Corey、Softbank 以及所有這些人，還有微軟那里購買的不負責任水平的算力之外，你知道，比如 Trainium，現在他們也從 Amazon（Anthropic）那里獲得 Trainium。所以他們在算力上做了這種……瘋狂的事情，而且他們知道，不，他們也知道他們需要更多。
Dylan Patel：
但有趣的是，如果你說 Opus 4/6，你知道，讓我們忽略模型隨時間變好這件事。讓我們只看這項技術的擴散。你和我可能會在第一天就立刻使用這個模型。但其他企業需要時間，人們需要時間來學習，而那種"哦，AI 頓悟時刻"的火花并不會同時擊中所有人。所以到今年年底，假設一個純粹的 Opus 4/6 模型，整個經濟體會在上面花費1000億美元。我認為這并不是不合理的。現在的花費已經是400億了。
主持人：
那就像是線性外推。
Dylan Patel：
這是線性外推，不是指數級的。要達到指數級，你需要更好的模型。Anthropic 沒有足夠的算力來做到這一點。所以，大概 OpenAI 和谷歌也會很快達到那個層級。下一個達到那個層級的人，當然，Anthropic 可能可以收取70%以上的毛利率，但如果 OpenAI 下一個達到，他們收取50%的毛利率。他們仍然能獲得所有這些增量需求。而且可能他們也沒有足夠的算力來服務所有用戶。所以當然，也許 Mythos 是一個如果世界有足夠算力可以產生5000億美元收入的模型，或者某種瘋狂的數字，對這些 token 的需求如此之大，而供給又如此有限。
Dylan Patel：
算力上的限制，你知道，我們從 H100 價格飆升以及這些 GPU 的使用壽命不斷延長中看到了這一點。很明顯，即使是二線實驗室也會把 token 賣光，更不用說一線實驗室了。一線實驗室會有更好的利潤率，但二線實驗室也會賣光，而且可能三線實驗室也會接近賣光。最好的模型能夠提供的經濟價值增長速度，超過了我們通過基礎設施實際向人們提供這些 token 的能力。所以這個差距將繼續擴大，模型實驗室將繼續擁有不斷擴張的利潤率，直到硬件供應鏈、基礎設施供應鏈中的人們開始說，等等，不對，我為什么不直接大幅提高我的利潤率呢？
主持人：
所以可以說，我認為今天的評估，或者說你對需求側的評估，在你自己這個具體例子——Semi Analysis 這里——是完全爆炸性的，但更廣泛地說，當人們陷入你所說的 AI 心理癥，當人們陷入這種體驗，意識到自己能做什么，而實施難度完全消失的時候。我自己也確實感受到了，你知道，我自己的 token 消耗在短短幾周內就已經絕對突破天際了。所以這感覺是一個相當準確的評估。關于需求側，我們還遺漏了什么嗎？
Dylan Patel：
如果你不使用更多的 token，你將永遠無法逃脫永久底層階級。
主持人：
請展開說說。
Dylan Patel：
所以，要么你使用更多的 token，并且產生超出使用這些 token 本身經濟價值的經濟價值。很多人在用無聊、懶惰的方式做這件事。哦，我猜我每天只工作1小時，而不是8小時。然后讓 AI 來做我大部分的工作。那是無聊的方式。酷的方式是，我仍然每天工作8小時，然后我還額外完成8份工作，也許我能賺到5倍的錢，也許不能。你不能用一份工作來做到這一點。顯然，有些人有多份工作。有些人喜歡創業，開始賣東西，在所有人都開始使用之前、在它還沒有成為基本功能之前，從這個 AI 中獲取那些經濟價值，因為如果你不使用更多的 token 并從中產生價值，它仍然不是基本功能。并且要捕獲那個價值。
Dylan Patel：
這里有三個不同的問題。使用更多的 token，從這些 token 中產生價值，以及從你用這些 token 創造的價值中捕獲價值。如果你不做這三件事，你將永遠無法逃脫永久底層階級，也就是說，隨著模型能力繼續飆升，以及資源集中化可能發生的情況。
主持人：
好的，讓我們來談談供給側。發生了什么？你會如何描述前沿的變化，或者在供應整個堆棧方面，隨著需求曲線爆炸性增長，服務所有這些 token 所需的一切正在發生什么變化？
Dylan Patel：
隨著需求飆升，供給側的一切價格都在上漲，無論是 GPU，它們的價格都在上漲。此外，它們的使用壽命也在延長。
主持人：
H100 的價格看起來是這樣的（向上）？
Dylan Patel：
是的，正是。有些人認為 GPU 的使用壽命不到5年。完全是無稽之談。現在有些集群，3到4年前的 Hopper 集群正在續簽3到4年的合同。有些 A100 集群正在續簽幾年的合同。所以使用壽命顯然不是5年。也許甚至是7到8年，可以這么說。我們還不知道。等 Hopper 到那個時候我們再看，但顯然不是5年。所以使用壽命在延長，而且續簽時的價格也在上漲。所以實際上，一個集群的毛利率不是35%，而是超過了這個數字。所以云層的利潤率在擴張。硬件層的利潤率非常健康，你知道，Nvidia 仍然收取75%或其他某個百分比的毛利率。當我們向下移動堆棧時，內存，顯然那里的利潤率已經飆升。像光學和邏輯這樣的地方，有大量預付款，利潤率正在緩慢增長。更多的是那些像 Nvidia 一樣制造芯片的公司。
Dylan Patel：
支付巨額預付款。所以它影響了資本成本或現金流的時機，即使毛利率沒有提高，投資資本回報率也在上升。你在整個供應鏈中都能看到這一點。你看到 ASML 已經完全賣光了，他們需要 Carl Zeiss（蔡司）更快地擴張。在整個鏈條上，每個人要么賣光了利潤率在上升，要么在收取預付款，這提高了投資資本回報率，因為投資資本更低了。所以這就像是貫穿任何部分的一致趨勢。甚至像，你知道，一塊 PCB，制造 PCB 需要銅箔，那種銅箔已經賣光了，人們正在為它支付預付款。就像任何有點生命力的東西，只要它賣光了，人們就會爭先恐后地獲取更多的增量供應，并爭奪未來幾年的供應。
主持人：
你認為最重要的瓶頸是什么？通常在經濟歷史上，當出現這種需求時，供給會重新調整并迅速增長以滿足需求。在這個時刻，供給似乎幾乎不可能跟上。你知道，這是著名的"最后的話"，歷史上每次短缺之后都會出現過剩。但在整個供給側，哪些瓶頸對你來說是最有趣的？
Dylan Patel：
供應鏈通常反應非常快。一個獨特的地方是，我們的供應鏈現在比以往任何時候都更加復雜，我們正在構建的東西也比以往任何時候都更加復雜。因此，交貨期更長了。并不是說我們在其他行業沒有見過18個月的長交貨期，只是建立增量供應以前不需要數年時間。
Dylan Patel：
內存就是這種情況，對吧？內存每年只能以低兩位數的百分比增長產能，對吧？每年20%、30%，NAND 甚至更低，DRAM 稍微高一點，即使需求信號非常強烈。
Dylan Patel：
在2025年底，內存公司立即開始有所反應。除了他們決定增加的那些增量產能，加上典型的20到30%，你知道，他們可以稍微拉伸一下，但真正的增量供應要到28年才能到來，這是非常獨特的一件事。即使他們想盡快建設，最早也要到2027年底、2028年初才能到來。所以結果是內存價格，你知道，已經飛漲了。你猜怎么著？它們還會再翻倍和三倍，至少 DRAM 是這樣，特別是有些人說，哦，內存的故事被過度渲染了。大家都明白了。然后就是，不，你不明白。DRAM 從現在起還會翻倍或三倍，仍然是這樣，因為這就是需要的產能量，他們必須從其他地方挪用產能。而在資本主義經濟中，從其他地方挪用產能的唯一方法是通過更高的定價來摧毀需求。我們不是在這里實行配給制。所以最終，這就是將要發生的事情。所以利潤率繼續上升。
Dylan Patel：
我認為邏輯芯片也有巨大的產能問題。臺積電剛剛公布了他們的財報，他們繼續增加資本支出。最終，你知道，他們需要相當長的時間來建造晶圓廠。他們正在竭盡全力從每一個晶圓廠中擠出每一點產出。但最終，他們沒有快速提價，因為他們是好人。這看起來像是，你知道，個位數的價格漲幅，而不是像內存公司那樣三位數的價格漲幅。所以你最終會有這樣一個市場，是的，臺積電是一家偉大的公司，但他們真的會提取所有價值嗎？我提到了銅箔、PCB 用的玻璃纖維、激光器。這些都是眾所周知的利基供應鏈，但它們非常緊張。而最終在上游，半導體晶圓制造設備供應鏈是一個我仍然認為，它已經上漲了很多，但仍然非常被低估的領域。
Dylan Patel：
臺積電今年的資本支出，他們說是560億，我們自1月份以來得到的數字是574億。我們可能會稍微上調，因為我們看到了一些他們可以獲得增量資本支出的方式。但人們沒有關注的是，這對明年意味著什么，對后年意味著什么？事實證明，三年后，臺積電將在資本支出上花費1000億美元。也許兩年后，對吧？可能是2028年。說真的，他們可能在2028年花費1000億美元的資本支出，而人們根本無法想象這一點。
Dylan Patel：
但這對他們的下游供應鏈意味著什么？你知道，像泛林研究、應用材料、ASML 這樣的公司，或者更下游的供應鏈，比如 MKSI 和所有這些其他公司。鞭打效應會越來越猛烈。而最終這就是短缺。如果，你知道，臺積電想在2028年花費1000億美元，這是一個真實的可能性。我認為人們會覺得這太瘋狂了，但這是一個真實的可能性。
主持人：
那么芯片生態系統中其他GPU完全占主導地位的領域呢？比如CPU、ASIC，或者那些既是機遇又是瓶頸的東西，不僅僅是英偉達GPU的主導地位。
Dylan Patel：
是的，我的意思是，ASIC顯然正在起飛，但我會稍微轉移一下話題，從AI芯片聊到這些其他的東西。我們做了一個關于FPGA的項目，結果發現每個下一代機架、AI機架里有120個FPGA。然后，那些FPGA、CPU，所有這些強化學習環境，加上你我正在生成的那些垃圾代碼，現在都跑在某個Versal實例或者某個AWS實例，或者我們啟動的某個存儲桶上。所有這些都需要CPU。所以CPU完全供不應求，需求正在急劇攀升。
主持人：
幫大家理解一下CPU在其中扮演的角色。
Dylan Patel：
是的，所以你需要大量CPU主要有兩個原因。第一個是當你做強化學習的時候，CPU非常關鍵。與此同等重要的是：以前你會把所有互聯網上的數據扔進模型去訓練，它輸出一些東西。現在你訓練完全世界的互聯網，你把所有互聯網數據放進模型，然后你把它放進這個環境里。這個環境就像是：嘿，模型，試試這個。然后它嘗試各種各樣的東西。最終，有一個環境來評分，判斷它嘗試的東西是否成功，并給它打分。這些環境可以是任何東西。
Dylan Patel：
可以是：嘿，檢查一下文本輸出的格式是否正確。結構化輸出可以是非常簡單的事情，也可以是非常復雜的事情。人們開始涉足非常復雜的事情，對吧？
Dylan Patel：
比如：嘿，我要你打開這個文件，修改它、編輯它、更新它，然后提交到這個網站。我要你打開西門子的這個物理仿真軟件，編輯這個CAD模型——所以這些環境可以變得越來越復雜。而這些環境運行在CPU上，它們不運行在GPU上，也不運行在ASIC上。ASIC運行的是模型——那個從環境中接收輸入數據、將其傳入模型、模型生成各種不同軌跡輸出的模型，也就是我認為它可以在不同情況下解決問題的各種方式。這些軌跡被評分或打分，成功的那些你用來訓練，然后更新、反復迭代。所以CPU在這方面非常有用。然后，一旦你擁有了這些優秀的模型并開始部署它們，這些模型在生成代碼，在生成有用的輸出。這些有用的輸出，并不是直接從GPU傳到人類大腦的。它從GPU或ASIC傳到某個你部署在某處的應用程序，而那個應用程序實際上就是跑在CPU上的。所以這是另一個需求量很大的領域，而且在很大程度上已經供不應求。
主持人：
當你持續評估并努力成為全球在供需走勢方面信息最充分的人時，有哪些是你希望自己能了解的？也就是說，讓你意識到自己還不知道的那些東西。
Dylan Patel：
我認為對我們以及對所有人來說最難的領域是理解"Token經濟學"，也就是Token的經濟學。我認為我們對運行基礎設施的成本、Token的成本、模型的成本、這些實驗室的利潤率有著非常非常深刻的洞察，但使用量和采用情況才是真正難以持續建模的，你懂的，對吧？
Dylan Patel：
我們有這些……比如我們在一月份有過瘋狂的估算，在二月份也有瘋狂的估算。Anthropic 把它們全都打破了。我們該如何校準這個模型？二月份的數據來源是什么？我們對三月份有瘋狂的假設，然后他們又打破了，每個人都看到了100億這個數字，然后都在想，什么，他們怎么增加了100億的收入？誰在使用所有這些Token？他們為什么使用它們？他們用這些Token在構建什么？更重要的是，他們用這些Token構建的東西，實際上是如何擴散到經濟中去的？這又產生了什么價值？因為這實際上并不是你能在任何GDP統計數據中捕捉到的東西，對吧？我使用的所有Token的價值都被轉化成了更好的信息，然后我以相對低于人們過去出售信息的價格折扣出售這些信息，因此，這些信息現在正在整個經濟中傳播，人們正在做出更好的投資決策，或者更好的競爭決策——如果他們是半導體公司、數據中心公司或超大規模云服務商的話。
Dylan Patel：
那么，這一切的價值是多少，這對經濟做了什么？從每一個主觀指標來看，這顯然是驚人的。但那"幽靈GDP"在哪里？"幽靈GDP"是什么？我們如何追蹤真實的經濟增加值？因為GDP指標并不準確，你知道，如果你要說Dylan Battelle創造的GDP是多少，與我認為正在創造的價值相比，它是微不足道的。所以歸根結底。
Dylan Patel：
這些Token所創造的價值是什么——不是基于簡單的，你知道，連鎖效應是什么，對吧？所有這些東西正在做的事情的連鎖效應是什么？我認為這才是真正難以衡量的問題和挑戰。我認為我們在供給側有著非常出色的解讀。我們在很多需求側信號方面也有著非常出色的解讀，但難以量化和衡量的，是這些Token正在產生的價值。
主持人：
我希望我們每三個月都能有這樣一次機會，因為這變化得太快了。你認為接下來會發生什么？比如三個月后我再來，或者我們再次在舊金山相聚，你期待會發生什么？
Dylan Patel：
大規模抗議。真的嗎？是的，我認為會有針對Anthropic的大規模抗議。
主持人：
最終會演變成AI實驗的對立面。
Dylan Patel：
人們討厭AI，AI的受歡迎程度低于冰淇淋，低于政客。不知道皮尤是怎么做這個調查的，但顯然AI的受歡迎程度低于政客。你知道，隨著Anthropic增加如此多的收入，這將開始在下游引發商業變化。人們會越來越害怕AI。他們會開始把越來越多自己的問題，以及那些全球性的、長期以來根深蒂固的問題，歸咎于AI。這些問題會浮出水面并被歸咎于AI。可能某些政客或某些社交媒體人士，某個網紅，將能夠開始利用AI來對付人們。你看看那些新聞文章的評論，Sam Paul Altman在大約兩周內兩次遭人向他家扔燃燒 彈。評論里的人們都在歡呼，而這僅僅是個開始。所以我認為三個月內我們會看到針對AI的大規模抗議。
主持人：
對此的制衡力量是什么？AI行業應該如何化解這一局面？
Dylan Patel：
首先，Sam Altman和Dario必須停止接受采訪。他們太缺乏個人魅力了。我不知道他們在干什么。他們做的每一次采訪都像是，好吧，普通人會更加討厭你。比如Sam上塔克·卡爾森的節目，可能讓所有共和黨人都討厭OpenAI。Dario也一樣。他們完全沒有魅力。我認為這是前兩點。他們需要開始展示AI能做的那些振奮人心的事情。第三，他們需要停止不斷談論AI的能力將如何徹底改變整個世界，因為這樣人們就會對這種能力產生恐懼，因為他們與之毫無聯系。
主持人：
不知道如何使用它。
Dylan Patel：
是的，也沒有任何聯系。就像普通人不認識Anthropic的員工。普通人不認識OpenAI的員工。普通人不知道這些人是誰，他們的目標是什么，他們只是把這些人視為某種……像鬼鬼祟祟的小團體。就這5000個人的公司，他們要改變世界，自動化所有工作，摧毀社會。這就是他們的看法。而且，作為資助建造所有這些數據中心和發電廠的人，這些設施將污染世界，對吧？他們并不完全理解正在發生的事情。你知道，他們必須停止談論未來將要發生的事情，而只談論當下，談論AI如何令人振奮。我認為這需要一次重大的重組和品牌重塑。這件事必須要做。
主持人：
我很喜歡和你一起做這件事。感謝你的時間。太棒了。
Dylan Patel：
謝謝。