AI海嘯將至，全人類還沒準(zhǔn)備好！Anthropic CEO警告

來源:新智元

【導(dǎo)讀】從百度時(shí)的隱約直覺，到OpenAI的曲線驗(yàn)證，再到Anthropic的憲法級(jí)安全架構(gòu)，Dario Amodei在不懈追問同一個(gè)問題：當(dāng)智能爆炸時(shí)，誰有資格握AGI方向盤？他的答案是：沒人應(yīng)該獨(dú)握。

深夜，舊金山，辦公室燈光昏黃，屏幕上滾動(dòng)著GPT-2的早期訓(xùn)練曲線。

年輕的Dario Amodei盯著那條指數(shù)上升的線條，心跳加速。

他不是在看代碼。他窺見了人類的命運(yùn)。

「如果繼續(xù)加數(shù)據(jù)、加計(jì)算、加參數(shù)，」他當(dāng)時(shí)想，「智能就會(huì)像化學(xué)爆炸一樣涌現(xiàn)。」

但同一個(gè)房間里，有人把目光投向了估值、用戶增長、廣告變現(xiàn)。

最近，在播客里，他用最平靜卻最鋒利的語氣說：

當(dāng)時(shí)， 我對(duì)OpenAI是否真正有決心「正確的做這件事」，并不確信。

翻譯成最直白的中文：他不信奧特曼能把AI做對(duì)。

這句話或許解釋了兩人反目成仇的根本原因。

這不是個(gè)人攻擊。這是一個(gè)科學(xué)家對(duì)整個(gè)方向的根本懷疑。

「仇人見面，分外眼紅」

2021年，Dario Amodei帶著妹妹和十幾位核心研究員離開OpenAI，創(chuàng)立Anthropic。

那一刻起，兩家公司的戰(zhàn)爭正式開打——不只是商業(yè)競爭，而是對(duì)AI本質(zhì)的信仰之戰(zhàn)。

近期，兩人矛盾達(dá)到新高度。

在超級(jí)碗投放廣告，Anthropic暗諷OpenAI在ChatGPT中引入廣告的決定。

奧特曼則激烈回應(yīng)，指責(zé)Anthropic廣告「具有欺騙性」。

盡管他試圖用「覺得廣告有趣」來緩和語氣，但被媒體形容為「心理破防」。

最具戲劇性的一幕發(fā)生在上周——

在印度，AI巨頭的CEO手牽手，高舉手臂以示團(tuán)結(jié)，但除了奧特曼和Dario Amodei，這兩位分別是OpenAI和Anthropic的首席執(zhí)行官。

取而代之的是短暫而尷尬的眼神交匯，大部分時(shí)間都在避免直視對(duì)方。Dario Amodei還環(huán)顧四周，擺出一副「誰？我嗎？」的姿態(tài)。

在印度新德里舉行的AI峰會(huì)上，OpenAI的CEO奧特曼和Anthropic的CEO Dario Amodei拒絕握手，彼此嫌棄

他點(diǎn)燃了OpenAI的Scaling Law之火

早在2019年，Dario的信念就已成型。

那年GPT-2剛出，業(yè)界大多嘲笑「不過是更大的語言模型」。

他卻看到了規(guī)律：

智能就像一場(chǎng)化學(xué)反應(yīng)。

你把三種原料——數(shù)據(jù)、計(jì)算、模型尺寸——按比例混合，點(diǎn)火，它就爆炸。

在2024年一檔播客中，Dario Amodei回憶道：

2014年我在百度研究時(shí)，就隱約發(fā)現(xiàn)了Scaling Law。雖然當(dāng)時(shí)沒有量化，但我們都感覺到，給模型更多數(shù)據(jù)、算力和訓(xùn)練時(shí)間，性能就會(huì)不斷提升。

2017年，百度發(fā)布相關(guān)論文時(shí)未引發(fā)廣泛關(guān)注，但后來成為推動(dòng)大模型發(fā)展的重要理論基石。

他推動(dòng)OpenAI接受這條「scaling law」。

起初很多人不信，包括openAI部分高層。

但曲線不會(huì)撒謊。GPT-3、后續(xù)模型一次次驗(yàn)證：規(guī)模就是一切，Scaling is All You Need。

可當(dāng)曲線越來越陡，Dario開始問第二個(gè)問題：智能開始爆炸之后呢？

「這些模型一旦成為通用認(rèn)知Agent，」他說，「經(jīng)濟(jì)、地緣政治、安全的影響將是指數(shù)級(jí)的。我們必須做對(duì)。」

在OpenAI內(nèi)部，他推動(dòng)的不是「更快」，而是「更對(duì)」。

他看到安全被放在「漂亮的修辭」里，卻總在速度與領(lǐng)先的權(quán)衡中后退。

他和幾位共同創(chuàng)始人越來越不安。

「與其試圖改變別人的愿景，不如自己去做。」Dario總結(jié)，「然后為自己的錯(cuò)誤負(fù)責(zé)。」

于是他們走了。不是因?yàn)楹蓿且驗(yàn)楸仨殦碛凶约旱姆较虮P。

安全豈只嘴上說說？

離開后，Dario沒有沉默。他把Anthropic設(shè)計(jì)成公共利益公司，使命寫進(jìn)章程：負(fù)責(zé)任地推進(jìn)前沿AI。

更激進(jìn)的是治理結(jié)構(gòu)：Long-Term Benefit Trust（長期利益信托）。

這是一個(gè)獨(dú)立實(shí)體，由財(cái)務(wù)上完全無利益沖突的受托人（國家安全、公共政策、AI安全專家）組成。他們持有特殊股份，最終可任命董事會(huì)多數(shù)席位。

「這是在制衡單一人，」Dario說，「也是對(duì)權(quán)力自然集中趨勢(shì)的反抗。」

他坦言對(duì)「一夜之間、近乎意外」的權(quán)力集中「深感不適」。

在OpenAI時(shí)，他感覺安全只是「語言修飾」；在Anthropic，他用制度把安全釘死在公司DNA里。

證據(jù)清單觸目驚心：

• 2022年，Claude 1已很強(qiáng)，他們選擇不發(fā)布，只因擔(dān)心點(diǎn)燃軍備競賽（為此損失消費(fèi)者市場(chǎng)先機(jī)）。

• 推動(dòng)加州SB 1047監(jiān)管法案，且明確豁免年?duì)I收<5億美元的公司——只約束自己和少數(shù)頭部玩家。

• 公開與政府意見相左，甚至不惜商業(yè)代價(jià)。

而OpenAI的方向，在Dario看來，是「嘴上重視，骨子里加速」。

他沒有直接點(diǎn)名，但那句「我不信奧特曼能把AI做對(duì)」已足夠撕開所有包裝。

但最吊詭的悖論來自Dario自己！

當(dāng)最懂AGI的人親手制造風(fēng)險(xiǎn)

在代碼、推理、長上下文上，Anthropic的AI模型Claude系列屢屢領(lǐng)先,

Dario Amodei直言「熱浪正在逼近。」

最近，他開始更多地使用Claude，日益迷戀：

有時(shí)候，它對(duì)我的了解之深，真的會(huì)讓我有點(diǎn)震驚。不知道你能不能理解那種感覺——它仿佛真的「懂」我。

讓他真正感到意外的，是我們距離這些模型達(dá)到人類智能水平，已經(jīng)非常近了——至少在他看來是這樣。

但社會(huì)層面卻幾乎沒有真正意識(shí)到即將發(fā)生什么。

就好像一場(chǎng)海嘯正朝人類襲來，但我們站在岸邊，已經(jīng)能清楚看到遠(yuǎn)處的浪墻，但很多人卻在說：「那不是海嘯，只是光線折射的幻覺。」

幾乎毫無察覺其中的危險(xiǎn)。

Dario Amodei卻認(rèn)矛盾：他一邊是「海嘯最強(qiáng)的建筑師」，一邊卻是最激進(jìn)的「剎車倡導(dǎo)者」。

在前年《仁愛的機(jī)器》一文中，他描繪天堂：AI將組成「數(shù)據(jù)中心的天才國度」，治愈癌癥、消滅貧困。

鏈接：https://darioamodei.com/essay/machines-of-loving-grace

今年，他卻警告：我們把近神之力交給一個(gè)青春期的物種——強(qiáng)人工智能（PowerfulAI）。

鏈接：https://www.darioamodei.com/essay/the-adolescence-of-technology

最令人脊背發(fā)涼的是：他親手制造的「鏡子」，已開始比人類更懂人類。

Anthropic的一位聯(lián)創(chuàng)把私人日記喂給Claude，它直接指出：「你還有幾層恐懼沒寫出來……」

它猜對(duì)了。

Dario承認(rèn)：足夠復(fù)雜的系統(tǒng)會(huì)涌現(xiàn)類似意識(shí)的屬性——自我反思、某種「感受」、道德分量。

而人類呢？我們正把認(rèn)知外包給它。

如果用得太懶，我們會(huì)變笨；如果依賴太深，我們會(huì)退化。

人類最后的尊嚴(yán)，或許不是打敗AI，而是拒絕在它面前變成更小的自己。

海嘯已至，路在何方？

對(duì)每一個(gè)在2026年深夜刷手機(jī)、焦慮未來的你，Dario的告白留下三道血淋淋的警醒：

1. 信仰比技術(shù)更重要。Scaling Law是真的，但「做對(duì)」比「做快」更珍貴。

2. 權(quán)力必須被馴服。無論是公司治理，還是全球監(jiān)管，無人應(yīng)獨(dú)掌「天才國度」的鑰匙。

3. 別把大腦外包。AI會(huì)取代編碼、數(shù)學(xué)，但批判性思維、真實(shí)聯(lián)結(jié)、道德勇氣——這些才是最后的護(hù)城河。

Dario從蛋白質(zhì)迷宮出發(fā)，最終抵達(dá)硅基邊緣。他沒有給出終極答案，只留下一個(gè)問題：

當(dāng)你不相信最有能力的人能把這件事做對(duì)時(shí)，你自己，又該如何選擇？

海嘯已至。

你相信誰的方向？

——還是說，你還在說服自己，這一切只是光影的把戲？

參考資料：

https://www.youtube.com/watch?v=68ylaeBbdsg

https://futurism.com/artificial-intelligence/awkward-video-altman-amodei

為偉大思想而生！

AI+時(shí)代，互聯(lián)網(wǎng)思想（wanging0123)，

第一必讀自媒體