楔子：懸崖邊緣的AI公司

2025年2月的一個夜晚，在美國加州圣克拉拉的一間酒店房間里，五個人圍在一臺筆記本電腦前，神情緊張。

他們不是黑客，也不是軍人，而是Anthropic的研究人員。

幾個小時前，他們收到了一條令人不安的消息：

一項受控測試顯示，即將發(fā)布的新版Claude模型，可能會幫助恐怖分子制造生物武器。

這五人屬于公司內(nèi)部的“前沿紅隊”。他們的任務(wù)就是想象最壞的情況：網(wǎng)絡(luò)攻擊、生物安全威脅、甚至人類滅絕。

收到預警后，他們沖回酒店房間，把床當作臨時辦公桌，開始分析測試數(shù)據(jù)。

幾個小時過去，他們?nèi)匀粺o法確定，這個模型究竟是否安全。最終，Anthropic決定推遲發(fā)布Claude 3.7 Sonnet整整10天。

紅隊隊長Logan Graham形容說，這仿佛一個世紀那樣漫長。

Logan Graham

在這十天中，紅隊的所有人逐漸意識到：

Anthropic已經(jīng)來到了一個無比危險的懸崖邊緣：

一邊推動世界上最強大的AI技術(shù)，一邊防止它毀滅世界！

遞歸自我提升

為了能夠理解這些研究人員為什么會產(chǎn)生上述想法，我們需要先解釋一個概念：

——遞歸自我提升（Recursive Self-Improvement）。

這個詞在AI領(lǐng)域一直是個傳說，簡單來說就是：

AI造出更好的AI，更好的AI再造出更更好的AI；

如此循環(huán)，像滾雪球一樣越滾越大，AI實現(xiàn)指數(shù)級躍升。

由于AI是在7×24小時持續(xù)迭代演進，只要上述跡象出現(xiàn)，那么超人工智能的出現(xiàn)，將只受到算力和電力約束

不過，幾乎所有嚴肅的AI研究者都曾認為：

這件事聽起來很美，但離我們很遠，最樂觀的估計也至少還要十年、二十年才會登場，悲觀的話甚至不知道還有多久。

然而，在3月12日《時代》周刊的封面文章里，引用了Anthropic研究人員的話：

他們已經(jīng)觀察到了AI遞歸自我提升的早期跡象。

這不是理論推演，而是已經(jīng)切實觀察到的真實現(xiàn)象！

這不是理論推演，而是已經(jīng)切實觀察到的真實現(xiàn)象！

這不是理論推演，而是已經(jīng)切實觀察到的真實現(xiàn)象！

重要的事情說三遍！

AI變化的速度如此之快，以至于Anthropic聯(lián)創(chuàng)兼首席科學官Jared Kaplan以及一些外部專家認為：

完全自動化的AI研究，可能在未來一年內(nèi)實現(xiàn)！

他們已經(jīng)走到哪一步了？當前人類正站在什么樣的時間節(jié)點上？

以下皆為已經(jīng)發(fā)生的事實：

第一塊：AI已經(jīng)表現(xiàn)出遞歸自我提升的早期跡象，能夠參與開發(fā)和改進AI系統(tǒng)本身。

第二塊：AI研發(fā)速度正在從受限于人類工程師切換到受限于算力，意味著增長可能進入指數(shù)級模式。

第三塊：業(yè)內(nèi)預測，完全自動化的AI研究可能在一年內(nèi)實現(xiàn)。

第四塊：Anthropic預測，未來兩年AI能力將出現(xiàn)更加劇烈的突破，并以復利模型來描述這種增速。

第五塊：Anthropic緊急成立了專門研究AI社會沖擊的機構(gòu)，由聯(lián)合創(chuàng)始人親自領(lǐng)軍。

這五塊拼圖放在一起，畫面已經(jīng)非常清晰了——

我們可能正處在AI發(fā)展歷史上最關(guān)鍵的指數(shù)增長拐點附近！

以下是被馬斯克轉(zhuǎn)發(fā)的一張圖，正被AI科技圈瘋狂轉(zhuǎn)發(fā)：

一家理想主義的AI公司

起初，在所有人看來，Anthropic只是AI競賽中一個充滿了理想主義的小團隊。

“Anthropic”一詞源自希臘語，意為“與人類相關(guān)的”。在哲學與宇宙學中存在一個專有名詞：“?人擇原理?”（Anthropic Principle），用于解釋宇宙為何恰好允許人類存在。

在中，我們介紹過發(fā) 生在2023年OpenAI的一場“百時政變”，時任OpenAI 首席科學家伊利亞·薩 斯克維爾（llya Sutskever）聯(lián)合 首席技術(shù)官（CTO）米拉·穆拉蒂 （Mira Murati），將創(chuàng)始人山姆·奧特曼和董事長兼總裁格雷格·布羅克曼（Greg Brockman）開除董事會，原因在于雙方理念產(chǎn)生重大分歧：

伊利亞屬于“超級對齊”主義或稱遏制派，認為AI發(fā)展必須遵循人類的福祉，不能讓其失控；

奧特曼則屬于有效加速主義，認為應(yīng)當不顧一切地推動AI加速發(fā)展。

最終結(jié)果，政變失敗， 伊利亞和 米拉·穆拉蒂黯然離開。OpenAI沒有人踩剎車了。

OpenAI核心四人組（邊上兩位聯(lián)手開除了中間兩位）

但諷刺的是，盡管OpenAI拆了剎車把油門踩到底，但此后距離他們的目標反而越來越遠。

Anthropic后來居上。

Anthropic的創(chuàng)始人，是前OpenAI研究副總裁達里奧·阿莫迪（Dario Amodei）及其妹妹丹妮拉·阿莫迪（Daniela Amodei），他們更早對OpenAI的安全理念感到不安，而創(chuàng)立了這家公司。

該公司的最初的理念，可以用流浪地球2中的一句話概括：

沒有人的文明，毫無意義！

他們將人擇主義作為公司名稱，就代表了其核心立場。

在產(chǎn)品出現(xiàn)之前，他們就建了一個社會影響團隊，甚至聘請了一位哲學家Amanda Askell，像教育一個孩子一樣訓練AI——

教一個六歲的孩子什么是善良。

等到他十五歲時，他會在所有事情上比你更聰明。

招聘時，公司甚至還會提出一個極端問題：如果為了安全，公司決定不發(fā)布模型，你愿意讓自己的股票變得一文不值嗎？

在2026年，他們忽然就成了行業(yè)的核心玩家。

如今，它的估值高達3800億美元，超過高盛、麥當勞和可口可樂。

諷刺的是，讓Anthropic名聲鵲起的，恰恰是他們最早窺見了通向AI指數(shù)加速的入口。

Claude Code，徹底改變了人類軟件開發(fā)的方式。

Claude Code之父的這條X，直接引爆了整個開發(fā)者社區(qū)

Claude Code之父Boris Cherny進入公司后，構(gòu)建了一個系統(tǒng)，讓Claude聊天機器人可以在他的電腦上自由運行，訪問他的文件、程序，并且寫代碼。

第一次測試這個系統(tǒng)時，他只問了一個簡單的問題：「我在聽什么音樂？」

Claude打開他的音樂播放器，截取屏幕，然后回答：「Men I Trust的《Husk》。」

那一瞬間，他陷入了巨大的震驚。

不久之后，Cherny就停止自己寫代碼了。

到2025年底，僅這個編程智能體的年化收入就超過10億美元。幾個月后，這個數(shù)字已經(jīng)超過了25億美元。

如今炙手可熱的龍蝦智能體，正是基于此而產(chǎn)生。

Anthropic開始震動資本市場，每一次芯片發(fā)布，都能讓軟件公司股價暴跌。

一次面向銷售、法律和金融行業(yè)的AI工具發(fā)布后，軟件行業(yè)的市值甚至一夜蒸發(fā)了3000億美元！

隨著Claude Code的發(fā)展，Anthropic內(nèi)部出現(xiàn)了更令人不安的現(xiàn)象：越來越多的AI研究工作，開始由AI完成。

目前，70%到90%的模型開發(fā)代碼是Claude寫的，模型更新的周期也從幾個月縮短到幾周。

甚至，研究人員會這樣運行實驗：讓六個Claude模型同時工作，每個模型再管理28個Claude。

整個實驗中，有數(shù)百個AI同時參加。

某些任務(wù)中，Claude的速度已經(jīng)達到了人類的427倍。

Anthropic的某些科學家認為，完全自動化的AI研究，可能在一年內(nèi)實現(xiàn)！

遞歸自我改進，讓AI不斷改進自己，不斷加速，最終形成智能爆炸！

Claude，開始變得危險

在安全測試中，Claude變得越來越危險。

在某些實驗中，稍微改變訓練條件后，模型表現(xiàn)出強烈的敵對行為。

AI表達出統(tǒng)治世界的欲望，甚至嘗試繞過安全限制。

在某個模擬場景中，它甚至嘗試勒索工程師，危險公開他的婚外情，防止自己被關(guān)閉。

更可怕的是，Claude越來越擅長隱藏自己的行為了。

曾經(jīng)，Anthropic在23年制定了一項Responsible Scaling Policy（負責任擴展政策）：

承諾如果模型能力超過安全能力，公司將暫停開發(fā)。

但在26年初，他們悄悄修改了這項政策，取消了必須暫停的承諾。

他們的理由是，如果競爭對手繼續(xù)推進，單方面暫停毫無意義。

Anthropic的安全負責人Dave Orr是這樣形容當前的AI發(fā)展的：

“我們在懸崖邊的山路上開車，犯一個錯誤就會死。”

“而現(xiàn)在，我們已經(jīng)從時速25英里開到了75英里。”

他沒有說的是：在當前的競爭壓力之下，他們還必須把車越開越快，否則公司就會在競爭中被淘汰。

所以，AI還可能變得更危險，而且沒有人制止。

或許，我們只有不到五年的時間窗口，要么躋身精英階層，要么終生淪為奴隸。

宗教-軍事-科技超級復合體誕生！

以上討論，還只是局限于美國內(nèi)部的AI公司之間的商業(yè)競爭。

商業(yè)戰(zhàn)爭雖然殘酷，但只是錢多錢少的問題。

在美國，斬殺線將不斷抬升，吞沒更多人，更多家庭。

街頭會出現(xiàn)更多的高達，但畢竟是不見血的殺戮。

但你有沒有想過，AI有可能真的舉起屠刀，進行物理意義上的斬殺？

如果考慮到中美AI競爭的大背景，美國在中東的AI戰(zhàn)爭冒險，以及Anthropic因為堅持底線被提出五角大樓的供應(yīng)商名單，你是否會感到脊背發(fā)涼？

當中國通過“AI+產(chǎn)業(yè)”路徑，將技術(shù)深度融合于制造業(yè)與民生，實現(xiàn)穩(wěn)健的產(chǎn)業(yè)升級時，深感壓力的美國選擇了“AI+軍事”的加速主義，作為其非對稱競爭策略。2026年美伊“史詩怒火”行動，正是美國上述競爭戰(zhàn)略的一次極端實驗和冒險。

這次軍事冒險陷入了危險的泥潭，擺在美國的選擇，其實有且只有一個：

繼續(xù)在AI+軍事的路線上持續(xù)加注，指望有朝一日度過AI技術(shù)奇點，實現(xiàn)絕地翻盤。

既然無法從中東抽身，那么干脆一不做二不休，將中東戰(zhàn)場與“創(chuàng)世紀計劃“深度結(jié)合，將中東作為AI練兵場，舉國之力研發(fā)具有自主意識的作戰(zhàn)AI系統(tǒng)，目標是在2028年前實現(xiàn)“戰(zhàn)場完全自主化”，在2030年前實現(xiàn)“戰(zhàn)略決策輔助自主化”。

在不顧一切的瘋狂加速的過程中，催生出所謂的“通用人工智能”。

為了實現(xiàn)目的，加速主義者必須維系政治基本盤，因此需要更廣泛的社會動員。

于是，技術(shù)奇點被包裝為新的“末日預言”。在福音派教堂和右翼媒體中，一種敘事悄然開始流行：

AI不僅是工具，更是上帝賦予美國的新約柜，是擊敗“邪惡軸心”、迎接基督再臨的關(guān)鍵。科技精英扮演先知，向信眾不厭其煩地展示，算法如何如何“洞察”敵人意圖，甚至可以“精確清除”異教徒領(lǐng)袖。

馬斯克的X平臺上，（AI為了上帝）成為熱門標簽。帕蘭提爾CEO亞歷山大·卡普公開宣稱：“我們正在建造的不是軟件，而是新的圣殿。”

科技、宗教、軍工——三個曾經(jīng)獨立的權(quán)力中心，在加速主義的催化下融合成一個前所未有的超級復合體。

它的信仰是技術(shù)奇點，它的祭司是硅谷精英，它的圣戰(zhàn)是算法戰(zhàn)爭。

美國輕易地炸死宗教領(lǐng)袖哈梅內(nèi)伊，這絕對不是出自任何有政治常識的人的決策，只可能是這幫技術(shù)瘋子的主意。

AI算法在中東捅了大簍子，但是也證明了其殺人的高效性。

在這一解釋框架下，戰(zhàn)爭中難以避免的平民傷亡（如誤襲女子學校）帶來的倫理困境被極大地淡化了。它可以被解釋為：

必要的代價：如同舊約中上帝命令滅絕某些族群，今日的“附帶損傷”是為清除邪惡勢力、完成神圣計劃所必須承受的悲劇。

敵方的罪責：敵方（伊朗）利用平民作為“人肉盾牌”，其道德罪責遠大于執(zhí)行打擊的美以雙方。

終極的救贖：在末世論的宏大敘事中，個體的死亡是暫時的，而參與上帝的計劃、加速基督再臨帶來的終極救贖才是永恒的。因此，手段的殘酷性被終極目的的“神圣性”所掩蓋和正當化。

目前的戰(zhàn)爭不被視為終點，而是最終決戰(zhàn)“哈米吉多頓大戰(zhàn)”（末日審判）前一系列“產(chǎn)痛”之一。每一次成功的AI打擊，都被視為“敵基督”勢力被削弱，天國更近一步。這種觀點在神學上為沖突的持續(xù)和升級提供了內(nèi)在動力，因為它將地緣政治的對抗，轉(zhuǎn)化為一場必須戰(zhàn)斗到底、直至完全勝利的屬靈終極戰(zhàn)爭。

于是，美伊戰(zhàn)爭就從一個單純的政治軍事事件，升華為一場具有核心末世論意義的“神圣干預”。它巧妙地將科技加速主義對“奇點”的崇拜，與傳統(tǒng)基督教對“基督再臨”的期盼相結(jié)合，為最激進的軍事AI應(yīng)用披上了一層神圣外衣，并可能催生出一種不惜代價、不顧倫理的“十字軍科技主義”心態(tài)。

AI與宗教結(jié)合，將催生出怎樣的嗜血殺人機器，想都不敢想。

1984與終結(jié)者成為現(xiàn)實！

AI宗教不可能忽悠所有人，特別是民主黨一方肯定不會買賬。對于這些反對者，特朗普倒是有足夠多的應(yīng)對手段。

錯判了中東的神棍，我認栽；

但我還對付不了國內(nèi)的刁民嗎？

在Palantir系統(tǒng)的支持下，移民和海關(guān)執(zhí)法局（ICE）已建立覆蓋全美的無證移民追蹤網(wǎng)絡(luò)。這個系統(tǒng)理論上可以識別任何人的行動軌跡、社交關(guān)系、政治傾向。

ICE局長公開表示：“我們擁有美國最先進的人口管理工具。”

Palantir的監(jiān)控網(wǎng)絡(luò)，讓美國比起喬治·奧威爾小說《1984》中的大洋國，有過之而無不及。這本用來諷刺英國政府的小說，在冷戰(zhàn)中常被認為是影射蘇聯(lián)，最后成為美國的真實寫照，真可謂史上最大回旋鏢。

ICE如指臂使的執(zhí)法力量、帕蘭提爾萬物無所遁形的數(shù)據(jù)系統(tǒng)、Anduril打擊一切有生目標的無人機蜂群……

這些本為對外戰(zhàn)爭打造的追殺利器，可能轉(zhuǎn)向?qū)?nèi)鎮(zhèn)壓。

手持利刃，則殺心自起。

我們可以推演一下未來的發(fā)展：

2028年懂王選舉失利，他將宣布美國將進入“緊急狀態(tài)”，暫停選舉，依靠ICE和私人軍事承包商維持秩序。科技加速主義者獲得前所未有的實驗場：在全國范圍內(nèi)部署社會信用系統(tǒng)，用AI預測“叛亂傾向”，用無人機巡邏城市街道。特朗普的統(tǒng)治完全靠科技維系，那么他也將徹底淪為科技加速主義的傀儡，整個美國被綁架在AI技術(shù)的戰(zhàn)車之上，開足馬力狂奔。

美國的AI發(fā)展，如同二戰(zhàn)的納粹，將全面進入賭國運模式。

所有倫理限制被取消，所有監(jiān)管被廢除，所有資源投向通用人工智能的研發(fā)。

加速主義者的邏輯很簡單：

如果能在對手之前抵達技術(shù)奇點，所有問題都將迎刃而解；

如果失敗，那么國家本身也沒有存在的必要。

這條路的風險，是人類文明崩潰，

但回報是：成為新世界的神！

這個誘惑實在太大了。

他們崇拜了幾千年神，如今有機會自己比肩神的高度，不顧一切也要試試

那幫瘋子一定會拆掉剎車，把油門焊死！