遞表、喊停、上新，十天之內(nèi)完成。

AIX財(cái)經(jīng)（AIXcaijing）原創(chuàng)

作者 | 陳丹

編輯 | 魏佳

向SEC秘密遞交了IPO文件三天后，Anthropic突然拋出一篇萬(wàn)字長(zhǎng)文，呼吁全世界為前沿AI開(kāi)發(fā)準(zhǔn)備一個(gè)“剎車(chē)”。又過(guò)了五天，它上線迄今最強(qiáng)的模型Claude Fable5，同時(shí)發(fā)布不設(shè)限版本Mythos5。

遞表、喊停、上新，都發(fā)生在十天內(nèi)。

這篇6月初發(fā)表的文章名為《When AI Builds Itself（當(dāng)AI開(kāi)始構(gòu)建自身）》，由Anthropic研究負(fù)責(zé)人Marina Favaro與政策負(fù)責(zé)人、聯(lián)合創(chuàng)始人Jack Clark共同執(zhí)筆。其核心概念是“遞歸自我改進(jìn)”，即AI幾乎無(wú)需人類介入，就能自行設(shè)計(jì)、訓(xùn)練并升級(jí)出下一代自己。

過(guò)去幾年，AI流行的風(fēng)險(xiǎn)被視為“AI替代人”。Anthropic這一次把問(wèn)題往前推了一層，當(dāng)AI開(kāi)始替代AI研究者，技術(shù)進(jìn)步就不再只是線性加速，而可能進(jìn)入自我加速。

另一家AI巨頭OpenAI，也加入了這場(chǎng)剎車(chē)討論。

6月8日，OpenAI發(fā)布由首席執(zhí)行官Sam Altman與首席研究官Jakub Pachocki聯(lián)署的戰(zhàn)略愿景文件，提出應(yīng)建立一個(gè)國(guó)際組織，協(xié)調(diào)全球領(lǐng)先AI開(kāi)發(fā)，并在必要時(shí)“放緩前沿開(kāi)發(fā)”，讓社會(huì)韌性、安全和對(duì)齊研究跟上技術(shù)進(jìn)步。

一邊是估值逼近萬(wàn)億美元、沖在公開(kāi)市場(chǎng)最前面的賽車(chē)手；一邊是提醒全世界“我們手里只有油門(mén)，沒(méi)有剎車(chē)”的吹哨人。兩種身份，集于一身。

于是問(wèn)題來(lái)了：這究竟是發(fā)自良知的警告，還是領(lǐng)先者在為下一程競(jìng)爭(zhēng)，提前劃賽道規(guī)則？

01.Anthropic到底在怕什么？

Anthropic這篇長(zhǎng)文最令人不安的地方，是它把風(fēng)險(xiǎn)的發(fā)生地，從外部世界拉回到了AI公司內(nèi)部。

在Anthropic內(nèi)部，一個(gè)人資歷越深，接到的任務(wù)就越開(kāi)放。打個(gè)比方，新人的任務(wù)如果是“導(dǎo)出按鈕壞了，修一下”；那么資深員工則要查清“為什么高負(fù)載下網(wǎng)絡(luò)會(huì)變慢”；更高層的可能要回答“團(tuán)隊(duì)下個(gè)季度該做什么”。

如果把AI比作一名普通員工，那么它正順著這個(gè)金字塔一步步往上爬。

早期，AI只是補(bǔ)全工具，人類寫(xiě)代碼、搭系統(tǒng)、訓(xùn)練模型。后來(lái)，它能生成代碼片段、修復(fù)Bug。再往后，編碼智能體開(kāi)始自己運(yùn)行代碼，把幾小時(shí)的工作交給另一個(gè)智能體完成。Anthropic稱之為“閉環(huán)”——未來(lái)，智能體可能具備自行構(gòu)建和訓(xùn)練模型的能力。若真如此，Claude的后續(xù)版本，將由Claude自己持續(xù)改進(jìn)。

這就是“遞歸自我改進(jìn)”。

這并非科幻推演，它來(lái)自Anthropic自己的生產(chǎn)數(shù)據(jù)。

截至2026年5月，Anthropic代碼庫(kù)中合并的代碼，超過(guò)80%由AI寫(xiě)成；2025年初Claude Code還是研究預(yù)覽版時(shí)，這個(gè)比例只有個(gè)位數(shù)。落到具體的人身上，2026年第二季度，一名典型工程師每天合并的代碼量是2024年的8倍。一位員工說(shuō)，他已大約五個(gè)月沒(méi)有親手寫(xiě)過(guò)一行代碼。

Claude寫(xiě)的也不只是簡(jiǎn)單代碼。在最開(kāi)放、最難定義的任務(wù)上，它的成功率在2026年5月達(dá)到76%，半年內(nèi)提升了50個(gè)百分點(diǎn)。舉個(gè)例子：一次例行升級(jí)讓數(shù)萬(wàn)個(gè)訓(xùn)練任務(wù)接連崩潰，工程師幾乎只丟給Claude一段說(shuō)明和集群權(quán)限，它逐個(gè)環(huán)境變量測(cè)試，兩小時(shí)內(nèi)揪出一個(gè)冷僻的調(diào)試參數(shù)，復(fù)現(xiàn)并修復(fù)。這放在以前，通常是兩三天的工作量。

更讓Anthropic警覺(jué)的是研究環(huán)節(jié)。每次發(fā)布新模型，它都讓Claude做同一道題：把一段訓(xùn)練小模型的代碼改到盡可能快、又不出錯(cuò)。通常來(lái)說(shuō)，一個(gè)熟練的人類研究員，要花四到八小時(shí)才能做到4倍。2025年5月，Opus4平均提速約3倍，還略遜于人類；到2026年4月，這個(gè)數(shù)字變成約52倍。不到一年，Claude在這件事上就從接近人類，變成了把人類遠(yuǎn)遠(yuǎn)甩在身后。

把這些曲線連起來(lái)，是一條人類不斷后撤的路徑。

即便是這家全球前沿的AI公司內(nèi)部，員工也經(jīng)常產(chǎn)生虛無(wú)感。一位員工說(shuō)：“在一切順利的日子里，我忍不住覺(jué)得自己做的事都不重要了。”

今天人類還守得住的，是所謂的研究品味與判斷力：判斷哪個(gè)問(wèn)題值得做、哪個(gè)結(jié)果可信、哪條路是死胡同，以及看見(jiàn)眼前任務(wù)之外那張更大的圖景。但Anthropic對(duì)這塊最后的陣地也并不樂(lè)觀。所謂“品味”，或許只是又一項(xiàng)AI先失敗一陣，然后就能學(xué)會(huì)的能力。

基于此，Anthropic拆解了三種未來(lái)：其一，趨勢(shì)停在今天，但現(xiàn)有能力被廣泛擴(kuò)散；其二，AI大量接管開(kāi)發(fā)，人類仍掌著方向盤(pán)，組織效率成倍放大；其三，AI具備完整的自我改進(jìn)能力，開(kāi)始設(shè)計(jì)并訓(xùn)練自己的繼任者，即“遞歸自我改進(jìn)”。

Anthropic說(shuō)，第三種尚未到來(lái)，也并非注定，“但可能比多數(shù)機(jī)構(gòu)準(zhǔn)備好的時(shí)間更早到來(lái)”。

那么，該怎么辦？

Anthropic的答案是希望世界保留一個(gè)選項(xiàng)——必要時(shí)能放慢甚至?xí)和Ｇ把亻_(kāi)發(fā)，讓社會(huì)結(jié)構(gòu)和對(duì)齊研究跟上技術(shù)的腳步。

02.呼吁暫停，但很難暫停

Anthropic設(shè)計(jì)的暫停鍵，分三層。

公司內(nèi)部，設(shè)立更嚴(yán)格的安全評(píng)估、紅線與發(fā)布門(mén)檻；行業(yè)層面，前沿實(shí)驗(yàn)室彼此協(xié)調(diào)，不能一家踩剎車(chē)、另一家繼續(xù)加速；國(guó)際層面，讓政府、科學(xué)家、倡議組織與競(jìng)爭(zhēng)對(duì)手坐到同一張桌前，討論如何核實(shí)“暫停”是否真的發(fā)生。

它把自己的態(tài)度也寫(xiě)得很清楚：只要這樣的驗(yàn)證機(jī)制存在，且其他同處前沿的開(kāi)發(fā)者也以可驗(yàn)證的方式停下，它就愿意一起放慢，甚至?xí)和！?/p>

但每一個(gè)前提，都指向同一句潛臺(tái)詞，它不會(huì)一個(gè)人停。

這像是一個(gè)囚徒困境。

Anthropic認(rèn)為，如果沒(méi)有全球協(xié)調(diào)機(jī)制，公司和政府都會(huì)在競(jìng)爭(zhēng)壓力下做安全決策。而訓(xùn)練前沿模型，不像看守一口導(dǎo)彈發(fā)射井，算力可以租，任務(wù)可以拆，云服務(wù)可以跨境調(diào)用。只要有人停下，偷偷往前跑的那一方，就可能順勢(shì)接過(guò)領(lǐng)先位置。

最直接的例子，就是Anthropic和OpenAI的貼身肉搏。

4月23日，OpenAI發(fā)布GPT-5.5，同時(shí)推出編程助手Codex，正面狙擊Anthropic的Claude Code。一個(gè)多月后，Anthropic把旗艦?zāi)Ｐ蜕?jí)至Opus4.8。外界普遍認(rèn)為，這一步正是被GPT-5.5和Codex逼出來(lái)的。

當(dāng)?shù)貢r(shí)間6月9日，Anthropic又上線了Fable 5版本，同時(shí)發(fā)布Mythos5系列模型和新一代智能體開(kāi)發(fā)工具，繼續(xù)把戰(zhàn)線推向代碼生成、復(fù)雜任務(wù)執(zhí)行和企業(yè)級(jí)工作流。Anthropic稱，F(xiàn)able5的能力超過(guò)它此前公開(kāi)發(fā)布的所有模型。一邊警告前沿AI可能失控，一邊把最強(qiáng)模型推向市場(chǎng)，中間只隔了五天。

現(xiàn)在，這場(chǎng)競(jìng)爭(zhēng)已經(jīng)蔓延到了資本市場(chǎng)。

就在更新Opus 4.8的同一天，Anthropic宣布完成新一輪650億美元融資，公司投后估值9650億美元，逼近萬(wàn)億。6月1日，它搶在OpenAI前面，向SEC秘密遞交了IPO文件。OpenAI也很快跟上：6月8日，宣布秘密提交S-1招股書(shū)草案，最快9月、最晚今年四季度上市，市場(chǎng)給出的估值預(yù)期最高到1萬(wàn)億美元。

兩家公司爭(zhēng)的是誰(shuí)能先成為資本市場(chǎng)上“前沿模型公司”的標(biāo)桿，在這種量級(jí)的資本競(jìng)賽里，沒(méi)人敢主動(dòng)松油門(mén)。

還是拿Anthropic來(lái)說(shuō)，它的最新估值已經(jīng)超過(guò)了OpenAI在3月融資后8520億美元的估值，但兩家的用戶規(guī)模完全不在一個(gè)量級(jí)。今年3月，ChatGPT移動(dòng)端月活約9.61億，Claude約2350萬(wàn)，相差40倍。撐起這個(gè)估值的，是企業(yè)客戶和單用戶價(jià)值。按第三方測(cè)算，每個(gè)Claude用戶貢獻(xiàn)的年化營(yíng)收約808美元，是ChatGPT用戶的30倍。

它現(xiàn)在的估值、融資能力和IPO預(yù)期，都建立在同一個(gè)前提上：它能持續(xù)推出更強(qiáng)模型，并把模型能力轉(zhuǎn)化成收入、客戶和平臺(tái)地位。如果它真的單方面停下來(lái)，估值邏輯會(huì)被削弱，企業(yè)客戶會(huì)擔(dān)心迭代放緩，開(kāi)發(fā)者可能流向OpenAI、Google或其他平臺(tái)，人才也會(huì)重新判斷自己是否還站在最前沿。

所以，Anthropic真正呼吁的不是“我先停”，而是“如果大家都能被驗(yàn)證地停，我也停”。

OpenAI的態(tài)度也是如此。

在Sam Altman和首席研究官Jakub Pachocki聯(lián)署文章里，OpenAI提出應(yīng)建立一個(gè)國(guó)際組織協(xié)調(diào)全球領(lǐng)先AI開(kāi)發(fā)，在必要時(shí)放緩前沿開(kāi)發(fā)，讓社會(huì)韌性、安全和對(duì)齊研究跟上技術(shù)進(jìn)步。

OpenAI說(shuō)的是國(guó)際協(xié)調(diào)，不是單方面減速；Anthropic說(shuō)的是可驗(yàn)證暫停，是確保別人停了我也停。兩家公司都承認(rèn)剎車(chē)有必要，但都把前提放在“大家一起踩”上。

更何況，這條賽道上不只有兩家公司。它們身后連著云廠商、芯片商、主權(quán)AI、軍工需求、金融資本和國(guó)家戰(zhàn)略。模型越強(qiáng)，利益鏈越長(zhǎng)，任何一環(huán)都可能成為減速的反對(duì)者。在這樣的結(jié)構(gòu)里，“暫停”很難是一個(gè)簡(jiǎn)單的道德選擇。它更像一份高難度的多方協(xié)議，所有人都要相信別人真的停了，也要相信自己不會(huì)因?yàn)橄韧６ノ磥?lái)。

停不下來(lái)，卻偏偏在這個(gè)節(jié)點(diǎn)提出來(lái)。于是很多人質(zhì)疑的，不是Anthropic對(duì)不對(duì)，而是它真不真誠(chéng)。

NYU教授Gary Marcus的批評(píng)頗具代表性。在他看來(lái)，Anthropic并不真想暫停，這不過(guò)是一場(chǎng)配合IPO的修辭表演，用一個(gè)“幾乎零成本”的姿態(tài)，讓人們認(rèn)真討論一個(gè)它本就沒(méi)打算執(zhí)行的選項(xiàng)。

03.為什么一邊喊“狼來(lái)了”，一邊繼續(xù)加速？

一邊警告風(fēng)險(xiǎn)，一邊加速迭代，幾乎成了前沿AI公司的標(biāo)準(zhǔn)動(dòng)作。臺(tái)面上，它們反復(fù)談安全、對(duì)齊、監(jiān)管與社會(huì)準(zhǔn)備；臺(tái)面下，模型照發(fā)、算力照擴(kuò)、開(kāi)發(fā)者照搶、融資和上市照常推進(jìn)。

過(guò)去一年，這種矛盾變得越來(lái)越明顯。

Anthropic的CEO Dario Amodei頻繁警告，未來(lái)幾年內(nèi)，AI可能獲得足以改變社會(huì)結(jié)構(gòu)的能力，甚至帶來(lái)失控風(fēng)險(xiǎn)。他呼吁政府和行業(yè)提前建立更嚴(yán)格的安全機(jī)制。但與此同時(shí)，Anthropic并沒(méi)有放慢腳步，而是在一年內(nèi)連續(xù)推出更強(qiáng)大的Claude模型，不斷刷新上下文長(zhǎng)度、代碼能力和智能水平，并積極爭(zhēng)奪企業(yè)客戶和開(kāi)發(fā)者市場(chǎng)。

OpenAI的表現(xiàn)同樣典型。CEO Sam Altman長(zhǎng)期強(qiáng)調(diào)超級(jí)智能可能帶來(lái)的巨大風(fēng)險(xiǎn)，多次表示人類需要為AGI做好準(zhǔn)備，甚至支持建立針對(duì)前沿模型的監(jiān)管框架。但在現(xiàn)實(shí)中，OpenAI持續(xù)加快產(chǎn)品發(fā)布節(jié)奏，從GPT-4到GPT-4o，再到后續(xù)更強(qiáng)模型和Agent能力的開(kāi)放，幾乎每隔幾個(gè)月就把競(jìng)爭(zhēng)門(mén)檻再往前推一步。

圍觀的人，開(kāi)始不買(mǎi)賬了。

在不少人看來(lái)，兩家頭部模型公司是趕在上市前，先把自己擺到“負(fù)責(zé)任玩家”的位置。

另一種批評(píng)更直接。有媒體稱，Anthropic等公司是想把“安全”變成護(hù)城河。

當(dāng)一家已經(jīng)站在第一梯隊(duì)、即將進(jìn)入公開(kāi)市場(chǎng)的公司反復(fù)強(qiáng)調(diào)“前沿模型過(guò)于危險(xiǎn)”，討論很容易轉(zhuǎn)向更高的準(zhǔn)入門(mén)檻、更復(fù)雜的評(píng)估制度、更昂貴的合規(guī)成本。對(duì)頭部公司來(lái)說(shuō)，這些都不難實(shí)現(xiàn)，甚至可以變成優(yōu)勢(shì)；但對(duì)開(kāi)源社區(qū)、中小團(tuán)隊(duì)和后發(fā)者來(lái)說(shuō)，可能會(huì)面臨出局的風(fēng)險(xiǎn)。

站在這個(gè)角度，問(wèn)題就從“AI是否危險(xiǎn)”變成了“誰(shuí)有權(quán)定義危險(xiǎn)”。一旦標(biāo)準(zhǔn)由少數(shù)前沿AI公司參與制定，最后被擋在門(mén)外的，未必是最危險(xiǎn)的玩家，反而可能是最沒(méi)有話語(yǔ)權(quán)的玩家。

這也是為什么英偉達(dá)CEO黃仁勛多次批評(píng)Dario Amodei等人的災(zāi)難敘事。在他看來(lái)，把AI說(shuō)得過(guò)于可怕，只會(huì)放大社會(huì)恐慌。

黃仁勛的觀點(diǎn)背后，其實(shí)代表著兩種生意的對(duì)撞。

對(duì)英偉達(dá)來(lái)說(shuō)，AI越開(kāi)放、越擴(kuò)散，芯片、開(kāi)發(fā)者和云生態(tài)越繁榮。對(duì)Anthropic這樣的前沿模型公司來(lái)說(shuō)，AI越被定義為高風(fēng)險(xiǎn)，行業(yè)越可能走向許可制、評(píng)估制和高合規(guī)成本，而頭部公司天然更能承受這種成本。

所以，反對(duì)者真正介意的，是Anthropic同時(shí)占據(jù)了三個(gè)位置：前沿競(jìng)賽的領(lǐng)先者、風(fēng)險(xiǎn)敘事的提出者，以及未來(lái)規(guī)則的潛在受益者。

哈耶克在《通往奴役之路》中曾寫(xiě)道，人們?cè)谂Π凑粘绺呃硐胨茉煳磥?lái)時(shí)，可能在不知不覺(jué)中創(chuàng)造出與初衷截然相反的結(jié)果。把這句話放到今天的AI行業(yè)，幾乎像一句精準(zhǔn)的預(yù)言。

OpenAI在2015年以非營(yíng)利身份成立，使命是確保AGI“造福全人類”。但隨著模型競(jìng)賽加速、算力成本膨脹、資金需求上升，它在2019年設(shè)立“有限盈利”子公司，隨后被更深地卷入商業(yè)化、融資和平臺(tái)競(jìng)爭(zhēng)。

一個(gè)把“為全人類”寫(xiě)進(jìn)章程的組織，十年里也被競(jìng)爭(zhēng)和資本不斷改寫(xiě)。

Anthropic今天面對(duì)的是同一個(gè)結(jié)構(gòu)。它可能真心相信AI風(fēng)險(xiǎn)正在逼近，也可能真心想為行業(yè)爭(zhēng)取時(shí)間。但在這個(gè)行業(yè)里，崇高的初衷很難單獨(dú)對(duì)抗激烈競(jìng)爭(zhēng)。

前沿AI競(jìng)賽的現(xiàn)實(shí)是：誰(shuí)先停，誰(shuí)就可能失去市場(chǎng)、人才、資本和話語(yǔ)權(quán)。于是，所有公司都知道速度危險(xiǎn)，卻都繼續(xù)加速；所有公司都討論剎車(chē)，卻都希望別人先踩剎車(chē)。

因此，Anthropic未必是在撒謊，也未必只是作秀。它可能既害怕自己正在制造的東西，又無(wú)法停止制造它。

*文中配圖來(lái)源于pexels。