“21世紀(jì)關(guān)鍵技術(shù)”關(guān)注科技未來發(fā)展趨勢，研究21世紀(jì)前沿科技關(guān)鍵技術(shù)的需求，和影響。將不定期推薦和發(fā)布世界范圍重要關(guān)鍵技術(shù)研究進(jìn)展和未來趨勢研究。

來源：21世紀(jì)關(guān)鍵技術(shù)

谷歌DeepMind近日發(fā)布了一份題為《從AGI到ASI》（From AGI to ASI）的研究報告。這份由蒂姆·吉內(nèi)魏因、馬庫斯·胡特、沙恩·萊格等十余位研究人員共同撰寫的報告，把目光投向了一個曾經(jīng)只屬于科幻范疇的問題：當(dāng)人類終于造出與自身智能相當(dāng)?shù)耐ㄓ萌斯ぶ悄苤螅瑱C(jī)器智能還會沿著怎樣的軌跡繼續(xù)演進(jìn)，又會遇到哪些阻礙。

報告開門見山地指出，過去十年間，構(gòu)建達(dá)到人類水平的通用人工智能（AGI）已經(jīng)從遙不可及的空想，轉(zhuǎn)變?yōu)楸姸囗敿馊斯ぶ悄軝C(jī)構(gòu)為未來十年設(shè)定的具體目標(biāo)。在這一前提下，DeepMind團(tuán)隊選擇把分析的重心放在一個更進(jìn)一步的命題上——從人類水平的AGI向通用人工超級智能（ASI）的過渡。

值得注意的是，這并非一份預(yù)測時間表的報告。作者反復(fù)強(qiáng)調(diào)未來不可預(yù)測，他們的目標(biāo)不是斷言ASI何時到來，而是繪制一張技術(shù)路徑與潛在瓶頸的地圖，并由此提煉出一系列尚未解決的研究問題。報告以圖靈1950年那句名言收尾，也以之開篇：我們只能看到前方很短的距離，但已能看到那里有大量工作有待完成。

界定一個尚不存在的事物

要討論超級智能，首先要回答它"超"在何處。報告采取了一種刻意保持粗粒度的策略。作者用AGI指代大致具備人類中位數(shù)水平智能的系統(tǒng)，即在多數(shù)認(rèn)知任務(wù)上達(dá)到普通人水平；用ASI指代在幾乎所有人類關(guān)心的任務(wù)和領(lǐng)域都遠(yuǎn)超人類的系統(tǒng)。為了避免陷入定義之爭，他們把ASI的門檻設(shè)得很高：一個能在幾乎所有任務(wù)上超越大型人類專家集體的系統(tǒng)。報告甚至給出一個更具象的參照——一個能穩(wěn)定超越數(shù)萬名訓(xùn)練有素的專家協(xié)作十年所能完成工作的系統(tǒng)，其規(guī)模相當(dāng)于整個專業(yè)研究領(lǐng)域或大型企業(yè)。

這種界定背后有理論支撐。報告借用了萊格-胡特智能度量，它把智能形式化為一個智能體在所有可計算任務(wù)上的平均表現(xiàn)，較簡單的任務(wù)被賦予更高權(quán)重。在這一框架下，智能是一個連續(xù)譜，因此無需精確劃定AGI與ASI的分界線，重要的是兩者之間存在顯著差距。這一連續(xù)譜的理論終點是通用人工智能（Universal AI），由AIXI智能體形式化定義。AIXI在數(shù)學(xué)上是最優(yōu)的，但它不可計算，只能由越來越強(qiáng)大的ASI從下方逼近。

報告用相當(dāng)篇幅討論了數(shù)字智能相對于生物智能的根本優(yōu)勢，并強(qiáng)調(diào)這些優(yōu)勢會隨算力增長而放大。其中最具特色的一點是：我們知道人工智能的完整算法描述，也就是它的代碼。這意味著同一個AI可以在任何足夠強(qiáng)大的數(shù)字計算機(jī)上運行，可以被加速、減速、暫停，可以被完整復(fù)制——不僅復(fù)制源代碼這一"DNA"，還能復(fù)制記憶狀態(tài)這一"畢生經(jīng)驗"。由此衍生出輸入輸出速度、內(nèi)部處理速度、工作記憶容量、基底獨立性、無損復(fù)制以及高帶寬經(jīng)驗共享等一系列能力，而這些都是生物智能無法以同樣方式擴(kuò)展的。

不過報告也保持了清醒。它專門強(qiáng)調(diào)，ASI既非全知也非全能。即便智能水平遠(yuǎn)超人類，ASI仍受制于一系列基本限制：光速對信息傳播的約束、蘭道爾原理對計算能耗的約束、復(fù)雜度理論中P與NP的界限、哥德爾不完備定理與停機(jī)問題的邏輯邊界，以及物理世界以實時速度運行這一無法回避的事實。換句話說，ASI無法保證一定能夠治愈衰老、實現(xiàn)可控核聚變或統(tǒng)一廣義相對論與量子力學(xué)。這些限制確實成立，但作者也坦承，它們往往是最壞情況下的界限，在許多任務(wù)上近似解和啟發(fā)式方法仍能以遠(yuǎn)低于理論成本的代價取得很好的表現(xiàn)。

四條路徑與五道關(guān)口

報告的核心，是梳理出從AGI邁向ASI的四條潛在技術(shù)路徑，并明確指出它們并不互斥，很可能并行發(fā)生，從而帶來疊加而非簡單相加的智能增長。

第一條是擴(kuò)展算力、模型與數(shù)據(jù)。這是過去十年AI進(jìn)步的主引擎，也是唯一擁有歷史數(shù)據(jù)可供擬合預(yù)測模型的路徑。報告援引的估算顯示，綜合硬件制造改進(jìn)、算力投資增長和算法效率提升三個因素，有效算力的年增長率約為十倍，即每年一個數(shù)量級，而這還屬于公開估計中偏保守的一端。一個被反復(fù)提及的思想實驗頗具說服力：假設(shè)AGI實現(xiàn)時基礎(chǔ)模型進(jìn)步停滯，但有效算力繼續(xù)以十倍速度增長，那么即便最初只能運行一千個AGI實例，一年后就是一萬個，五年后則是一億個，或者一百萬個以百倍速度運行的實例。如此規(guī)模的量變，是否本身就構(gòu)成從AGI到ASI的質(zhì)變，這正是報告留下的開放問題之一。

第二條是算法范式轉(zhuǎn)變。當(dāng)前范式是用對數(shù)損失最小化預(yù)訓(xùn)練大型Transformer，輔以微調(diào)、測試時擴(kuò)展和工具使用。報告區(qū)分了范式的"演進(jìn)"與"轉(zhuǎn)變"：前者如無限上下文、持續(xù)學(xué)習(xí)、穩(wěn)健決策等當(dāng)下活躍的研究方向，后者則指向全新架構(gòu)或優(yōu)化方法，例如轉(zhuǎn)向脈沖神經(jīng)元、神經(jīng)形態(tài)硬件或模擬計算。作者坦言，真正的范式轉(zhuǎn)變在本質(zhì)上難以預(yù)測，這條路徑因而最難納入預(yù)測框架，但絕不應(yīng)因此被忽視。

第三條是遞歸自我改進(jìn)。這是最具爆炸性潛力的路徑——AI推動AI研發(fā)，進(jìn)而產(chǎn)生更強(qiáng)的AI，再加速研發(fā)，如此循環(huán)。報告把這種機(jī)制類比于人類演化，區(qū)分出基因式、文化式與合作式三種遞歸改進(jìn)，并指出由于AI產(chǎn)生和共享知識的速度遠(yuǎn)超人類，其"文化演化"速率可能高得多。如果完全自主的自我改進(jìn)成為可能，且沒有出現(xiàn)無法通過更多研究解決的重大阻力，從AGI到ASI的過渡確實可能相當(dāng)迅速，甚至呈現(xiàn)導(dǎo)致有限時間內(nèi)無限增長的雙曲線增長。但作者同樣提醒，即便是以超人速度運行的數(shù)字研究者，仍需運行越來越大的實驗并等待結(jié)果，涉及物理操作的環(huán)節(jié)無法被任意加速，這會抑制自我改進(jìn)的動力學(xué)。

第四條是通過群體智能體的形成實現(xiàn)ASI。這條路徑設(shè)想大量AGI智能體協(xié)調(diào)成日益復(fù)雜的集體結(jié)構(gòu)，類似于人類個體智能如何聚合為超智能的社會與組織實體。它既可能由市場動態(tài)自發(fā)涌現(xiàn)，也可能被刻意編排。報告提出"多智能體擴(kuò)展律"的概念，并指出對人類組織而言，集體智能主要取決于兩個因素：克服個體帶寬限制的并行化，以及源于專業(yè)分工的多樣性。一個同質(zhì)的大語言模型集體能否產(chǎn)生協(xié)同效應(yīng)，仍是懸而未決的研究問題。

在四條路徑之外，報告系統(tǒng)列出了五道可能阻礙進(jìn)展的關(guān)口，并為每一道關(guān)口都討論了可能的反制因素，因為這些瓶頸究竟是導(dǎo)致進(jìn)展停滯數(shù)年的根本限制，還是僅僅減緩而不會終止進(jìn)展的摩擦，本身就是開放的研究問題。

數(shù)據(jù)墻首當(dāng)其沖——模型規(guī)模的增長速度正在超過可供訓(xùn)練的新文本的全球增長速度，有估算認(rèn)為高質(zhì)量文本將在本個十年內(nèi)耗盡。其次是經(jīng)濟(jì)與自然資源需求增長過快，能否在多個數(shù)量級上持續(xù)承擔(dān)算力、能源、芯片供應(yīng)鏈乃至稀土的成本，取決于AI產(chǎn)生的經(jīng)濟(jì)回報，而這極難估計；報告還提到軌道數(shù)據(jù)中心等設(shè)想可能緩解地面約束，但會引入火箭排放削弱臭氧層、退役硬件再入焚毀改變高層大氣、軌道擁堵放大碰撞級聯(lián)風(fēng)險等新隱患。第三是神經(jīng)網(wǎng)絡(luò)范式可能不足以支撐通往AGI乃至ASI。第四是研究本身越來越難，正如經(jīng)典研究所指出的，思想正變得越來越難以發(fā)現(xiàn)，但AI對研究的自動化或許能扭轉(zhuǎn)這一減速趨勢。

第五道關(guān)口尤為耐人尋味，被稱為"抽象壁壘"。這一由勒希納提出的假說認(rèn)為，主要在人類認(rèn)知產(chǎn)物上訓(xùn)練的AI系統(tǒng)，可能被既有概念框架所束縛。報告用一個尖銳的問題來闡釋：如果一個現(xiàn)代基礎(chǔ)模型在同樣海量的語料上訓(xùn)練，但內(nèi)容僅限于前牛頓時代的科學(xué)知識，它能否推理出廣義相對論乃至量子力學(xué)？答案似乎是否定的，因為它缺少微積分、萬有引力或電磁學(xué)這些概念原語。當(dāng)前模型沒有從零發(fā)現(xiàn)"力"或"因果"這類概念的機(jī)制，它們只是成功攝取了由人類這種能從非語言數(shù)據(jù)中提煉新概念的智能所生成的數(shù)據(jù)。如果這一壁壘成立，真正的ASI就必須具備扎根于物理現(xiàn)實的概念發(fā)現(xiàn)能力，而這又會引出"具身瓶頸"——新假說必須經(jīng)由真實世界的實驗來驗證，從而把智能增長的速率限制在經(jīng)驗科學(xué)的速度，而非計算擴(kuò)展的速度。

報告同時把治理與社會反彈列為一類瓶頸。它注意到公眾輿論既普遍擔(dān)憂先進(jìn)AI，又強(qiáng)烈支持監(jiān)管，哪怕這意味著放緩潛在收益。重大事故或可信的險情可能改變公眾偏好、責(zé)任制度和監(jiān)管門檻，使進(jìn)一步擴(kuò)展在政治、法律或商業(yè)上變得不可行，即便它在技術(shù)和經(jīng)濟(jì)上依然可達(dá)。但作者也指出，國家間的經(jīng)濟(jì)與軍事競爭可能壓倒放緩的壓力，在缺乏有效全球協(xié)調(diào)的情況下，單邊監(jiān)管與減速會與競爭動態(tài)相抵觸。

謹(jǐn)慎的判斷與未竟的工作

在權(quán)衡了所有路徑與摩擦之后，報告給出了一個措辭克制的整體判斷。作者認(rèn)為，假如人類水平的AGI能夠?qū)崿F(xiàn)，AI進(jìn)步恰好停滯在人類水平這一點上是不太可能的——即便單個模型的進(jìn)步停滯，通過擴(kuò)展有效算力、運行大量AGI實例并以集體或市場形式組織起來，集體AI能力仍可能被進(jìn)一步提升。要讓進(jìn)步精確地止步于人類水平，報告列出的多道摩擦中必須有數(shù)道恰好成為硬性阻斷。

帶著大量不確定性，作者以較低的信心傾向于認(rèn)為，更可能的情形要么是AI在達(dá)到AGI之前就趨于平臺期，要么是從AGI相對平滑地過渡到弱ASI；當(dāng)然，這一判斷的前提是不存在通過遞歸自我改進(jìn)引發(fā)的劇烈加速，而這種智能爆炸無法被排除，一旦發(fā)生，過渡可能相當(dāng)迅速。綜合而言，報告認(rèn)為在未來一二十年內(nèi)越過AGI、進(jìn)入ASI領(lǐng)域的可能性不應(yīng)被輕易否定。

這份報告最鮮明的姿態(tài)，是把幾乎每一個關(guān)鍵判斷都轉(zhuǎn)化為研究議程而非結(jié)論。在長達(dá)數(shù)頁的研究議程中，作者列出了從擴(kuò)展瓶頸、量化預(yù)測、ASI基準(zhǔn)測試，到遞歸改進(jìn)動力學(xué)、多智能體擴(kuò)展、超級智能理論基礎(chǔ)等一系列主題。其中兩個挑戰(zhàn)被特別凸顯：設(shè)計出不會在人類專家水平飽和、且無需大量人工參與的ASI基準(zhǔn)測試方法；以及衡量智能體群體的能力如何隨算力擴(kuò)展，即所謂多智能體擴(kuò)展律。報告坦誠地把AI安全與對齊問題列為一項工作假設(shè)而非已解決的前提，承認(rèn)對齊的難度與重要性不應(yīng)被低估，甚至可能本身就成為能力發(fā)展的直接瓶頸。

一個有趣的細(xì)節(jié)是，報告專門設(shè)置了"摘要指令"一節(jié)，建議人類讀者請自己常用的AI助手生成一份契合自身興趣的摘要，并詢問報告中的論點是否經(jīng)受住了時間檢驗。作者還在文末披露，全文九成以上由人類從零撰寫，語言模型僅用于不到一成的措辭潤色、結(jié)構(gòu)討論、文獻(xiàn)整理與模擬評審。這種對自身寫作過程的透明交代，本身就呼應(yīng)了報告關(guān)于AI如何重塑知識生產(chǎn)的討論。

無論人們對超級智能的前景持樂觀還是審慎態(tài)度，這份來自全球領(lǐng)先AI實驗室的報告都提供了一個難得的、結(jié)構(gòu)化的思考框架。它沒有許諾烏托邦，也沒有預(yù)言災(zāi)難，而是把一個龐大而模糊的問題拆解為可供研究的若干部分。正如作者所言，為這一前景做好準(zhǔn)備，需要一項規(guī)模宏大、跨越學(xué)科、具有全球關(guān)切的協(xié)同努力。我們能看到的距離依然很短，但那里確實有大量工作有待完成。

閱讀最新前沿科技趨勢報告，請訪問21世紀(jì)關(guān)鍵技術(shù)研究院的“未來知識庫”

未來知識庫是 “21世紀(jì)關(guān)鍵技術(shù)研究院”建 立的在線知識庫平臺，收藏的資料范圍包括人工智能、腦科學(xué)、互聯(lián)網(wǎng)、超級智能，數(shù)智大腦、能源、軍事、經(jīng)濟(jì)、人類風(fēng)險等等領(lǐng)域的前沿進(jìn)展與未來趨勢。目前擁有超過8000篇重要資料。每周更新不少于100篇世界范圍最新研究資料。 歡迎掃描二維碼或訪問https://wx.zsxq.com/group/454854145828進(jìn)入。

截止到2月28日 ”未來知識庫”精選的百部前沿科技趨勢報告

（加入未來知識庫，全部資料免費閱讀和下載）