當(dāng)人工智能行業(yè)還在爭(zhēng)論 AGI（通用人工智能）什么時(shí)候到來(lái)時(shí)，谷歌 DeepMind 的研究已經(jīng)把問(wèn)題往前推了一步：如果人類真的實(shí)現(xiàn)了 AGI，接下來(lái)會(huì)發(fā)生什么？

近日，DeepMind 發(fā)表了一項(xiàng)題為“From AGI to ASI” 的文章，探討了如果人類真的實(shí)現(xiàn) AGI，AI 將如何繼續(xù)演進(jìn)，最終達(dá)到 ASI（超人工智能）？

參與報(bào)告的研究人員包括 DeepMind 的多位核心研究者，他們長(zhǎng)期研究 AGI、強(qiáng)化學(xué)習(xí)、多智能體系統(tǒng)、AI 安全和通用智能理論。比如 DeepMind 聯(lián)合創(chuàng)始人之一、首席 AGI 科學(xué)家 Shane Legg，AIXI 模型提出者 Marcus Hutter，其被視為當(dāng)今最頂尖的 AGI 理論家之一，DeepMind 資深研究員、AlphaGo 項(xiàng)目核心成員之一 Thore Graepel 等等。

在討論之前，研究人員首先對(duì) AGI 和 ASI 進(jìn)行了清晰的界定。

AGI 是一套在絕大多數(shù)認(rèn)知任務(wù)中，達(dá)到普通人類中位數(shù)水平的智能系統(tǒng)；ASI 則設(shè)定了極高的門(mén)檻，它是在人類所有活動(dòng)與認(rèn)知領(lǐng)域，全面超越大規(guī)模人類專家協(xié)作團(tuán)隊(duì)的智能系統(tǒng)。

為什么 AGI 不是終點(diǎn)？

論文指出，AGI 不太可能剛好停在人類水平。原因在于，數(shù)字智能與生物智能有著根本不同的運(yùn)行條件。

人類智能很強(qiáng)，但它受到生物條件限制。一個(gè)人大腦的運(yùn)行速度、記憶容量、壽命、學(xué)習(xí)速度、溝通方式，都有明顯上限。AI 則運(yùn)行在數(shù)字計(jì)算系統(tǒng)上，很多限制可以通過(guò)更多算力、更好硬件、更高效算法來(lái)放大或繞開(kāi)。

第一，輸入輸出速度更快。人類閱讀、聽(tīng)說(shuō)、寫(xiě)作和操作工具的速度有限。AI 不一樣，今天的大模型已經(jīng)可以在很短時(shí)間內(nèi)處理大量文本。未來(lái)如果連接更強(qiáng)的檢索系統(tǒng)、數(shù)據(jù)庫(kù)、傳感器和執(zhí)行工具，它獲取信息、處理信息、輸出結(jié)果的速度還會(huì)繼續(xù)提高。

第二，內(nèi)部處理速度可以被加速。人類思考速度受大腦結(jié)構(gòu)限制。AI 的思考可以通過(guò)硬件和算法提高速度。更多 GPU、更高并行度、更優(yōu)推理框架、更高效模型，都可能讓系統(tǒng)在更短時(shí)間內(nèi)完成更多推理、搜索、規(guī)劃和驗(yàn)證。

第三，工作記憶和長(zhǎng)期記憶容量更大。人類工作記憶非常有限。我們很難同時(shí)穩(wěn)定處理幾十個(gè)復(fù)雜變量，也很難完整記住讀過(guò)的所有材料。AI 可以擁有更大的上下文窗口、更強(qiáng)外部記憶和更快檢索能力。它可以調(diào)用大量文檔、代碼庫(kù)、實(shí)驗(yàn)記錄和數(shù)據(jù)庫(kù)，并在任務(wù)過(guò)程中保持更多相關(guān)信息。

第四，AI 可以脫離單一身體或硬件。人類智能綁定在一個(gè)具體的身體和大腦上。人的身體會(huì)衰老，大腦也會(huì)疲勞、受傷和死亡。AI 系統(tǒng)原則上可以遷移到不同硬件上，它可以從舊服務(wù)器遷移到新服務(wù)器，從較慢硬件遷移到更快硬件，也可以被備份和恢復(fù)。

第五，AI 可以無(wú)損復(fù)制。一個(gè)人無(wú)法把自己的知識(shí)、記憶和經(jīng)驗(yàn)完整復(fù)制給另一個(gè)人。AI 可以，復(fù)制的不只是源代碼，也可以是模型參數(shù)、上下文狀態(tài)、記憶庫(kù)和任務(wù)經(jīng)驗(yàn)。一個(gè)表現(xiàn)良好的 AI 智能體，可以被復(fù)制成許多實(shí)例，同時(shí)處理不同任務(wù)。

第六，AI 可以高帶寬共享經(jīng)驗(yàn)。人類社會(huì)的知識(shí)積累很強(qiáng)，但傳播速度有限。AI 之間的信息共享可以更直接。不同實(shí)例可以共享日志、數(shù)據(jù)、模型更新、工具使用記錄、失敗經(jīng)驗(yàn)和成功策略。如果系統(tǒng)足夠同質(zhì)，甚至可以共享更底層的學(xué)習(xí)信號(hào)。

這并不是說(shuō)今天的 AI 已經(jīng)全面超過(guò)人類，而是說(shuō)：一旦 AI 達(dá)到人類水平，這些數(shù)字化特性會(huì)讓它更容易繼續(xù)擴(kuò)展。

AGI 走向 ASI 的 4 條路徑

圍繞如何從 AGI 到 ASI ，研究者們提出了四種可能路徑。

（來(lái)源：上述論文）

第一條路徑是繼續(xù)擴(kuò)大算力、模型和數(shù)據(jù)。過(guò)去幾年，AI 能力的提升很大程度上來(lái)自 scaling：模型越來(lái)越大，訓(xùn)練數(shù)據(jù)越來(lái)越多，訓(xùn)練算力越來(lái)越強(qiáng)，推理階段也開(kāi)始投入更多計(jì)算資源。

論文認(rèn)為，如果這種趨勢(shì)能持續(xù)，那么從 AGI 到 ASI 未必需要完全不同的技術(shù)路線。只要更多有效算力仍能轉(zhuǎn)化為更強(qiáng)能力，繼續(xù)擴(kuò)大規(guī)模就可能推動(dòng) AI 越過(guò)人類水平。

不過(guò)，這條路徑也面臨不確定性。

最直接的是數(shù)據(jù)。當(dāng)前大模型主要依賴人類生成的數(shù)據(jù)，尤其是文本數(shù)據(jù)。但高質(zhì)量文本并不是無(wú)限的。隨著模型繼續(xù)擴(kuò)大，可用數(shù)據(jù)可能不足以支撐下一階段訓(xùn)練。

除了數(shù)據(jù)，資源也是重要瓶頸。繼續(xù) scaling 需要更多芯片、能源、數(shù)據(jù)中心、資金和供應(yīng)鏈支持。算力不是抽象數(shù)字，它背后是真實(shí)世界的電力、土地、制造能力、冷卻系統(tǒng)和資本投入。如果這些資源無(wú)法持續(xù)增長(zhǎng)，scaling 路線就會(huì)放緩。

但論文也指出，所謂“數(shù)據(jù)墻”未必一定會(huì)成為硬障礙。AI 可能通過(guò)合成數(shù)據(jù)、自博弈、仿真環(huán)境、用戶交互和搜索增強(qiáng)生成新的高質(zhì)量訓(xùn)練材料。AlphaZero 就是一個(gè)例子：系統(tǒng)通過(guò)自我對(duì)弈產(chǎn)生數(shù)據(jù)，再將搜索結(jié)果蒸餾回模型，從而不斷提升能力。未來(lái)類似機(jī)制可能被推廣到更廣泛的任務(wù)中。

第二條路徑是算法層面的演化或范式轉(zhuǎn)變。論文指出，當(dāng)前 AI 的主流范式大致是：用大規(guī)模 Transformer 在海量數(shù)據(jù)上進(jìn)行預(yù)訓(xùn)練，然后再經(jīng)過(guò)指令微調(diào)、強(qiáng)化學(xué)習(xí)、人類反饋、工具調(diào)用、檢索增強(qiáng)和推理時(shí)計(jì)算等方式提升能力。

但研究者認(rèn)為，這一范式可能還不夠。要真正達(dá)到 AGI 或 ASI，AI 系統(tǒng)可能需要更強(qiáng)的長(zhǎng)期記憶、持續(xù)學(xué)習(xí)、互動(dòng)式強(qiáng)化學(xué)習(xí)、世界模型、規(guī)劃能力和工具使用能力。比如，當(dāng)前模型雖然可以在上下文窗口內(nèi)處理復(fù)雜任務(wù)，但還不具備真正穩(wěn)定的終身學(xué)習(xí)能力。它們?cè)诮换キh(huán)境中的長(zhǎng)期決策和可靠行動(dòng)能力也仍有限。

未來(lái)可能出現(xiàn)的范式演化包括：更長(zhǎng)甚至近乎無(wú)限的上下文、更高效的序列架構(gòu)、可更新記憶系統(tǒng)、面向真實(shí)環(huán)境的強(qiáng)化學(xué)習(xí)、基于世界模型的規(guī)劃、以及更強(qiáng)的自主智能體框架。

但論文也討論了更激進(jìn)的范式轉(zhuǎn)變。例如，完全不同的架構(gòu)、優(yōu)化方法、神經(jīng)形態(tài)硬件、模擬計(jì)算，或者基于強(qiáng)化學(xué)習(xí)預(yù)訓(xùn)練、顯式世界模型的新路線。

這條路徑最大的問(wèn)題是難以預(yù)測(cè)。真正的范式轉(zhuǎn)變往往不是簡(jiǎn)單外推可以得到的。Transformer 成為大模型時(shí)代核心架構(gòu)之前，也并非所有人都預(yù)見(jiàn)到它會(huì)產(chǎn)生如此深遠(yuǎn)影響。

第三條路徑是遞歸自我改進(jìn)。所謂遞歸自我改進(jìn)，指的是 AI 系統(tǒng)幫助推進(jìn) AI 研發(fā)，從而產(chǎn)生更強(qiáng)的 AI；更強(qiáng)的 AI 又進(jìn)一步加速下一輪 AI 研發(fā)，形成正反饋循環(huán)。

傳統(tǒng)討論中，自我改進(jìn)常被理解為 AI 修改自己的代碼。但論文把范圍擴(kuò)得更寬：AI 可以改進(jìn)算法，也可以輔助設(shè)計(jì)芯片，可以自動(dòng)調(diào)參，可以生成訓(xùn)練數(shù)據(jù)，可以分析實(shí)驗(yàn)結(jié)果，可以組織專業(yè)化分工。只要 AI 能顯著提高 AI 研發(fā)效率，就已經(jīng)構(gòu)成某種遞歸改進(jìn)。

這一路徑之所以重要，是因?yàn)樗赡芨淖?AI 進(jìn)步的速度。如果 AI 只是被人類研究者一點(diǎn)點(diǎn)改進(jìn)，進(jìn)步速度就受限于人類研發(fā)能力。但如果 AI 本身成為 AI 研發(fā)的重要力量，那么進(jìn)步速度可能加速。

事實(shí)上，今天已經(jīng)能看到某些形式的遞歸改進(jìn)。例如，AI 輔助寫(xiě)研究代碼、幫助設(shè)計(jì)實(shí)驗(yàn)、自動(dòng)調(diào)參、神經(jīng)架構(gòu)搜索、AI 輔助芯片設(shè)計(jì)、自動(dòng)課程生成、世界模型仿真，以及一些 AI Scientist 系統(tǒng)。這些還不是完全自主的自我改進(jìn)，但已經(jīng)說(shuō)明 AI 可以參與改善 AI 研發(fā)流程。

不過(guò)，研究者指出，遞歸改進(jìn)仍可能受到很多現(xiàn)實(shí)限制。例如，訓(xùn)練更強(qiáng)模型需要真實(shí)算力；芯片制造需要物理工廠；許多科學(xué)實(shí)驗(yàn)必須等待現(xiàn)實(shí)世界反饋；能源和供應(yīng)鏈無(wú)法無(wú)限加速。因此，遞歸自我改進(jìn)可能導(dǎo)致快速躍遷，也可能在資源、實(shí)驗(yàn)和工程瓶頸前逐漸放緩。

第四條路徑是多智能體協(xié)作，也就是 ASI 可能不是由單個(gè)系統(tǒng)產(chǎn)生，而是由大量 AGI 智能體組織起來(lái)之后形成。這一路徑與第一條 scaling 路徑有關(guān)，但重點(diǎn)不同。第一條路徑關(guān)心的是算力、模型和數(shù)據(jù)如何擴(kuò)大；這條路徑關(guān)心的是：當(dāng)許多 AGI 實(shí)例一起工作時(shí)，整體智能會(huì)如何變化。

論文認(rèn)為，超級(jí)智能可能作為一種集體屬性出現(xiàn)。許多 AGI 智能體通過(guò)協(xié)調(diào)、分工、通信和組織，可能形成類似“群體智能”或“集團(tuán)智能”的系統(tǒng)。

這個(gè)想法并不陌生。人類社會(huì)本身就是例子。一個(gè)現(xiàn)代科學(xué)機(jī)構(gòu)、一家大型公司、一個(gè)國(guó)家系統(tǒng)，都不是靠單個(gè)人完成復(fù)雜任務(wù)，而是依靠分工、協(xié)作、知識(shí)積累、組織管理和資源調(diào)配。

AGI 群體也可能如此。它們可以被組織成自動(dòng)化公司、研究機(jī)構(gòu)、智能體市場(chǎng)或服務(wù)網(wǎng)絡(luò)。每個(gè)智能體負(fù)責(zé)不同任務(wù)，有的做規(guī)劃，有的做執(zhí)行，有的做驗(yàn)證，有的做信息搜集，有的做專業(yè)分析。通過(guò)高帶寬通信，它們可以快速共享結(jié)果并調(diào)整策略。

論文提出，未來(lái)有必要研究多智能體的 scaling laws：當(dāng)智能體數(shù)量增加、通信密度提高、組織結(jié)構(gòu)優(yōu)化時(shí)，整體能力如何變化？是線性增長(zhǎng)、超線性增長(zhǎng)，還是很快被協(xié)調(diào)成本抵消？

這意味著，即使單個(gè)模型無(wú)法大幅超過(guò)人類，一個(gè)由大量人類水平 AGI 組成的系統(tǒng)，也可能構(gòu)成實(shí)際意義上的 ASI。

實(shí)現(xiàn) ASI 的六大瓶頸

雖然論文認(rèn)為 AGI 不太可能是終點(diǎn)，但它并沒(méi)有把 ASI 描繪成必然到來(lái)的神話。研究者們列出了可能阻礙 AGI 走向 ASI 的六大瓶頸。

第一是數(shù)據(jù)墻。當(dāng)前大模型的訓(xùn)練高度依賴大規(guī)模數(shù)據(jù)，尤其是人類生成的文本、圖像、音頻和視頻。但這些數(shù)據(jù)并不是無(wú)限的，模型規(guī)模和訓(xùn)練需求增長(zhǎng)很快，而人類自然產(chǎn)生高質(zhì)量數(shù)據(jù)的速度有限。尤其是高質(zhì)量文本數(shù)據(jù)，可能在未來(lái)成為限制因素。

第二是經(jīng)濟(jì)和自然資源約束。繼續(xù)擴(kuò)大 AI 能力需要資金、芯片、電力、數(shù)據(jù)中心、冷卻系統(tǒng)、土地、稀有材料、供應(yīng)鏈和工程能力。如果訓(xùn)練和部署更強(qiáng) AI 所需的經(jīng)濟(jì)投入增長(zhǎng)太快，而 AI 帶來(lái)的經(jīng)濟(jì)回報(bào)跟不上，那么 scaling 可能變得不可持續(xù)。

第三是神經(jīng)網(wǎng)絡(luò)范式可能不夠。當(dāng)前主流路線是大規(guī)模神經(jīng)網(wǎng)絡(luò)，尤其是 Transformer，加上預(yù)訓(xùn)練、后訓(xùn)練、推理時(shí)計(jì)算、工具調(diào)用和檢索增強(qiáng)。這一路線雖然非常成功，但不能保證一定足以達(dá)到 AGI，更不能保證足以達(dá)到 ASI。可能缺失的能力包括長(zhǎng)期記憶、持續(xù)學(xué)習(xí)、真實(shí)環(huán)境中的穩(wěn)健決策、世界模型、深層規(guī)劃和自主交互能力。如果這些能力無(wú)法在現(xiàn)有范式內(nèi)自然補(bǔ)齊，就可能需要新的架構(gòu)、新的訓(xùn)練方式，甚至新的計(jì)算范式。

第四是研究越來(lái)越難。很多技術(shù)領(lǐng)域都會(huì)遇到一個(gè)問(wèn)題：越往后，進(jìn)步越難。早期容易發(fā)現(xiàn)的改進(jìn)被快速利用，后續(xù)突破需要更多實(shí)驗(yàn)、更大團(tuán)隊(duì)、更高成本和更復(fù)雜工程。AI 研究也可能如此。模型越大，實(shí)驗(yàn)越貴，驗(yàn)證周期越長(zhǎng)，架構(gòu)和訓(xùn)練細(xì)節(jié)越復(fù)雜。繼續(xù)獲得同樣幅度的能力提升，可能需要越來(lái)越多資源。

第五是抽象壁壘，也就是 AI 能否創(chuàng)造超越人類的新概念。當(dāng)前 AI 主要訓(xùn)練在人類產(chǎn)生的數(shù)據(jù)上，因此它學(xué)習(xí)到的概念、語(yǔ)言和知識(shí)結(jié)構(gòu)，很大程度上來(lái)自人類已有抽象。如果 AI 只是在人類概念體系內(nèi)組合和外推，它是否能真正形成新的科學(xué)概念、新的抽象層次和超越人類的理解方式？

第六是人為放緩。如果 AI 帶來(lái)嚴(yán)重事故、濫用風(fēng)險(xiǎn)、軍事風(fēng)險(xiǎn)、政治沖突、失業(yè)沖擊、文化反彈或安全擔(dān)憂，政府和公眾可能要求放緩甚至限制前沿 AI 發(fā)展。可能表現(xiàn)為更嚴(yán)格的監(jiān)管、強(qiáng)制評(píng)估、事故報(bào)告、算力限制、出口管制、責(zé)任追究，甚至?xí)和Ｄ承└唢L(fēng)險(xiǎn)訓(xùn)練和部署。

這些瓶頸到底是硬上限，還是可以被技術(shù)繞過(guò)的摩擦，目前并不清楚。數(shù)據(jù)墻可能被合成數(shù)據(jù)、仿真和自博弈緩解；資源瓶頸可能被更高效算法和硬件緩解；研究變難可能被 AI 研究助手抵消；抽象壁壘可能需要新的互動(dòng)學(xué)習(xí)和強(qiáng)化學(xué)習(xí)范式來(lái)突破；人為放緩則可能受到經(jīng)濟(jì)利益和國(guó)際競(jìng)爭(zhēng)壓力影響。

如何評(píng)測(cè)超過(guò)人類的系統(tǒng)？

論文提出一個(gè)很現(xiàn)實(shí)的問(wèn)題：如果 AI 超過(guò)人類，我們?cè)撊绾卧u(píng)測(cè)它？

今天很多 benchmark 本質(zhì)上以人類水平為參照。比如考試題、編程題、數(shù)學(xué)題、問(wèn)答任務(wù)、專業(yè)知識(shí)測(cè)試等。一旦 AI 在這些任務(wù)上達(dá)到或超過(guò)頂尖人類水平，評(píng)測(cè)就會(huì)迅速飽和。

這會(huì)帶來(lái)兩個(gè)后果。一方面，研究者很難繼續(xù)準(zhǔn)確衡量 AI 能力提升。另一方面，社會(huì)也很難判斷系統(tǒng)到底處在什么能力階段。

因此，研究者們呼吁建立面向 AGI 后時(shí)代的新評(píng)測(cè)體系。包括多智能體競(jìng)爭(zhēng)與合作任務(wù)、自動(dòng)生成測(cè)試、通用壓縮任務(wù)、經(jīng)濟(jì)生產(chǎn)率等間接指標(biāo)，以及可以持續(xù)更新、不會(huì)輕易飽和的評(píng)估機(jī)制。

預(yù)測(cè)體系同樣需要升級(jí)。不能只依賴專家訪談或主觀判斷，而要建立更量化的模型，把有效算力增長(zhǎng)、算法效率、經(jīng)濟(jì)回報(bào)、資源投入、AI 研發(fā)自動(dòng)化等因素聯(lián)系起來(lái)，并隨新數(shù)據(jù)不斷更新。

安全和治理方面，論文采取了一個(gè)明確但很重要的前提：為了聚焦技術(shù)路徑，研究者們暫時(shí)假設(shè) AI 安全和監(jiān)管能在足夠程度上解決。但他們也承認(rèn)，這絕不是輕松前提。如果高級(jí) AI 不安全、不可控，那么它本身就會(huì)成為能力發(fā)展的瓶頸，因?yàn)闊o(wú)法放心部署到自動(dòng)化研究、基礎(chǔ)設(shè)施和社會(huì)系統(tǒng)中。

鑒于當(dāng)前存在太多不確定性，研究者們認(rèn)為很難精準(zhǔn)預(yù)測(cè) ASI 何時(shí)到來(lái)，以及它具體會(huì)具備哪些能力。他們反復(fù)強(qiáng)調(diào) ASI 仍受物理、計(jì)算復(fù)雜性、數(shù)據(jù)、資源、實(shí)驗(yàn)時(shí)間、現(xiàn)實(shí)世界反饋速度等限制。它不是魔法，也不自動(dòng)意味著能治愈一切疾病、任意改造物質(zhì)或解決所有社會(huì)問(wèn)題。

1.https://arxiv.org/abs/2606.12683

排版：胡莉花

注：封面/首圖由 AI 輔助生成