2026年6月4日，Anthropic在官網發布了一篇題為《When AI builds itself》的長文，核心概念是"遞歸自我改進"，意思是AI開始參與設計和訓練自己的下一代版本，形成類似自我進化的循環。文章最后呼吁"如果世界能夠選擇暫時中止前沿AI的開發，讓社會跟上技術進步，這將對世界大有裨益"。

這話聽起來非常負責任。

但時間線很有意思。就在三天前的6月1日，路透社和紐約時報同時報道，Anthropic已經秘密向美國證券交易委員會提交了IPO招股書。再往前推一周，Anthropic剛剛完成了650億美元的H輪融資，投后估值達到9650億美元，超越OpenAI成為全球估值最高的AI公司。

一邊是萬億美元的IPO即將啟動，一邊是"AI太強大了我們自己都害怕"的安全警告。這兩件事挨得如此之近，很難不讓人產生聯想。

The Verge在報道中直接點出了這種微妙感：Anthropic一方面說"遞歸自我改進尚未到來，也并非不可避免"，另一方面又暗示"它可能比大多數機構準備好的時間來得更早"。這種既肯定又否定、既警告又暗示的表述方式，幾乎是為資本市場量身定制的敘事。

說白了，"我們的AI太強了，強到我們都要呼吁全行業停下來"，這本身就是最好的廣告。

科學界怎么看：76%的研究者不買賬

Anthropic的敘事建立在一個關鍵假設之上，即當前AI技術路線正在快速逼近AGI。但學術界對此的看法要冷靜得多。

美國人工智能促進協會在2025年初對475名AI研究者進行了大規模調查。結果顯示，76%的受訪者認為通過擴大當前AI方法的規模來實現AGI"不太可能"或"非常不可能"。同一調查中，77%的研究者表示更傾向于優先設計具有可接受風險收益比的AI系統，而非直接追求AGI。

這不是少數人的異議，而是絕大多數一線研究者的共識。

Meta首席AI科學家、圖靈獎得主Yann LeCun多次公開表態，稱大語言模型是通往AGI的"死胡同"。他在2025年的采訪中說："如果你對人類水平的AI真正感興趣，就不要做大語言模型。"他認為當前系統缺乏對物理世界的真正理解能力，只是在文本層面進行統計模式匹配。

ARC基準測試的創建者Fran?ois Chollet同樣持批評立場。他指出大語言模型擅長的是記憶和模式匹配，而非真正的抽象推理，它們在面對全新問題時的表現遠不如人類。即便在他設計的基準測試上取得高分，也不意味著AGI已經到來。

卡內基梅隆大學的Tim Dettmers在2025年12月發表了一篇廣受關注的文章《Why AGI Will Not Happen》，從物理計算的角度系統論證了為什么AGI和超級智能都是不切實際的幻想。他指出GPU性能的實質性提升在2018年左右就已經見頂，之后只是添加了16位精度、張量核心、高帶寬內存等"一次性特性"。Transformer架構已經接近物理最優，超級智能不會對神經網絡架構產生實質性改進。

他的核心論點是：線性進步需要指數級資源。這意味著即便AI有能力"自我改進"，每一步改進所需的計算資源都會指數級增長，最終撞上物理極限。所謂的"遞歸自我改進導致智能爆炸"，在物理現實中根本無法成立。

紐約大學教授Gary Marcus是AI領域最知名的批評者之一。他在2026年的多篇文章中指出，AI泡沫的頂峰可能是2025年9月，2026年將是泡沫開始破裂的一年。他在LinkedIn上直言："任何聲稱僅靠大語言模型就能實現AGI的人，要么是在騙你，要么是在騙自己。"

Tech Policy Press的研究員Eryk Salvaggio在2025年3月的一篇系統性分析中列出了AGI炒作的六大陷阱，包括"共識幻覺""助長壞科學""預設價值中立""目標彩票""通用性債務"和"規范化排斥"。他特別指出，AGI這個概念之所以特別容易被炒作，恰恰因為它定義模糊。Anthropic的CEO Dario Amodei把AGI定義為"比諾貝爾獎得主更聰明"，微軟AI負責人Mustafa Suleyman則認為AGI是"能把10萬美元變成100萬美元的系統"。連定義都無法統一，何談"已經接近實現"？

安全敘事還是商業敘事

AI Now研究所在2025年度報告中對這種現象有一個精準描述：AI公司正在將"AI威脅論"轉化為一種權力工具。聲稱自己的技術足以威脅人類文明，本質上是在向投資者和政策制定者傳遞一個信息，那就是"我們掌握的東西價值連城"。

Anthropic的處境尤其值得玩味。作為一家公益公司轉制為營利實體的企業，它的品牌核心就是"負責任的AI"。每一次安全警告都在強化這個品牌故事，同時也在暗示它的技術已經觸及了某種"危險的前沿"。對即將IPO的公司來說，這是完美的敘事組合：既有道德高度，又有技術壁壘的暗示。

但科學事實是冷酷的。當前沒有任何經過同行評審的研究表明大語言模型具備真正的自主推理、因果理解或世界建模能力。所謂的"遞歸自我改進"在論文中被描述為AI參與代碼編寫和模型調優，這和"AI設計自己的繼任者"之間存在巨大鴻溝。

Anthropic自己也承認"我們還沒有到那一步"。但在IPO招股書即將面世的時刻，它選擇用最具戲劇性的方式去描述一個"尚未到來"的未來，這個選擇本身就值得審視。

9650億美元的估值需要一個配得上的故事。"AI正在學會創造自己"，顯然比"我們做了一個挺好用的聊天機器人"更能支撐這個天價數字。

閱讀最新前沿科技趨勢報告，請訪問21世紀關鍵技術研究院的“未來知識庫”

未來知識庫是 “21世紀關鍵技術研究院”建 立的在線知識庫平臺，收藏的資料范圍包括人工智能、腦科學、互聯網、超級智能，數智大腦、能源、軍事、經濟、人類風險等等領域的前沿進展與未來趨勢。目前擁有超過8000篇重要資料。每周更新不少于100篇世界范圍最新研究資料。 歡迎掃描二維碼或訪問https://wx.zsxq.com/group/454854145828進入。

截止到2月28日 ”未來知識庫”精選的百部前沿科技趨勢報告

（加入未來知識庫，全部資料免費閱讀和下載）