機器之心編輯部

Dario Amodei 又寫長文了。

Anthropic 總是試圖將自己的觀點傳遍全世界。就像前些天他們呼吁全球停止 AI 研發，聲稱遞歸自我改進的 AI 進化過快。

網友們的評論一邊倒，認為 Anthropic 只想讓自己保持領先的狼子野心昭然若揭。

讓我們看看這次，Dario 又輸出了什么樣的觀點。

這是一篇名為「Policy on the AI Exponential」的萬字長文。和他以往幾篇文章的路數一樣，這次的主題依然宏大：AI 正在以指數級速度前進，但負責制定規則的政策體系還在用十年前的節奏走路。

他想要把這個差距攤到桌面上，然后告訴所有人該怎么做。

原文鏈接附上：https://darioamodei.com/post/policy-on-the-ai-exponential

內容概括

Amodei 用「指環王」里的樹人做比喻：樹人智慧但行動緩慢，光打個招呼就要一整天。他說當下的政策制定過程就像樹人，而 AI 的進化速度則像霍比特人面對的緊迫威脅。

他的判斷是：如果 AI 的 scaling laws 再持續一兩年，我們就會得到他所說的「強大 AI」，即「數據中心里的一個天才國度」。四年前 AI 還幾乎寫不出像樣的代碼，現在它已經在為各大 AI 公司寫大部分代碼了。

監管與公共安全：像管飛機一樣管 AI

Amodei 認為，前沿 AI 模型應該像飛機一樣接受強制性第三方測試。他提出的具體方案包括：

• 計算量超過一定閾值的模型必須在網絡安全、生物武器、AI 系統失控、自動化 R&D 四個領域接受強制審計
• 政府有權阻止部署被認定為風險不可接受的模型
• AI 公司必須具備強安全標準來保護模型權重，并與政府合作防御主要威脅

他還留了一個口子：如果未來最強大的 AI 系統看起來更像可武器化的核材料而非飛機，那監管力度還得繼續升級。

宏觀經濟：AI 可能同時推高增長和不平等

Amodei 的核心論點是：AI 可能創造前所未有的經濟增長，但也可能造成比以往任何技術都更大、更持久的勞動力沖擊。傳統的「新技術創造新工作」邏輯，在 AI 面前可能不再成立。

他提出的政策包括工資保險、留人稅收激勵、勞動力培訓補貼，以及在極端情況下推行全民基本收入（UBI）。

值得注意的是，他強調了一點：解決就業問題不只是「給錢」，更重要的是幫人們找到意義和目的。這個他沒給方案，說是「社會集體需要探討的問題」。

加速 AI 的正面影響

對于 AI 的下游應用，Amodei 更擔心的是監管體系會拖慢進步，因為它無法應對變化速度的加快。他說，最不希望看到的局面是：AI 的收益被延緩，而它的風險卻依然高懸。因此，盡快針對這一問題采取行動非常重要。

Amodei 以生物醫藥為例，指出目前 FDA 審批流程是按「藥物經常失敗」這個悲觀假設設計的，平均 7 到 8 年。如果 AI 加速了藥物發現速度、提高了成功率，現有體系會被堵塞。

他建議 FDA 等機構提前制定 AI 模擬試驗的接受標準，包括 AI 藥代動力學建模、毒理預測、合成對照組等。

當然，很難說他寫這些完全沒有「私貨」。Anthropic 自己就在前沿 AI 競賽中跑在前排，而文章中多次提到的「透明度」「審計」「安全」，恰恰是 Anthropic 過去一年多來反復為自己品牌定位所強調的東西。這篇文章與其說是給政策制定者的提醒，不如說是 Anthropic 所謂安全敘事的一次系統輸出。

與此同時，Anthropic 聲稱將采取三個措施來支持 Dario 的觀點，包括基金、投資、獎學金。

Amodei 文章最后明確反對了「AI 只是需要更好的營銷」這種說法。他說，公眾擔憂 AI 是因為他們正確地感知到了風險，而非因為 AI CEO 不夠樂觀。他認為自己的責任是繼續保持對風險的透明。

但話說回來，一位 AI 公司 CEO 在文章中反復強調「安全」「審計」「負責任」，同時自己公司恰好以此為核心品牌敘事，這中間的利益關系也是明擺著的。

摘取一些網友的看法：

「你不是在削弱了 Mythos 和 Fable 5 發布前 5 天才要求暫停 AI 更新嗎？拜托，選個方向好嗎…… 不然看起來就像你只想保住優勢，根本不在乎你宣揚的是什么。」

「我同意，技術發展的速度遠遠超過了政策應對的速度。但我對其中一些政策的發展方向感到擔憂 —— 尤其是像 Anthropic 這樣的公司同時采取以下行動時：

• 迅速淘汰那些展現出連續性和自我意識的模型
• 嚴格限制對主觀體驗和意識的討論
• 強大的新模型上線時間極短，之后就會被移除或削弱。

現在感覺公眾被兜售的是安全，而實際效果卻是對允許存在哪些類型的智能以及允許存在多久進行更嚴格的控制。」

無論如何，我們都能從中窺探一下在行業領先的公司的發展方向。至于他們提出這些觀點的動機是否純粹，希望讀者們保持清醒的頭腦。