由于不可抗力的限流導(dǎo)致無法接收推送文章的問題，我們迫切需要以下操作：

點(diǎn)擊標(biāo)題下方藍(lán)字 “一半杯 ” → 點(diǎn)擊右上角“...” → 點(diǎn)選“設(shè)為星標(biāo) ★ ”，這樣就更容易找到我們和收到推送文章！

保持愛讀文章，保持領(lǐng)先！

新的采訪和嚴(yán)密封存的文件，讓圍繞 OpenAI 負(fù)責(zé)人長期存在的疑慮浮出水面。

2023年秋天，OpenAI 首席科學(xué)家伊利亞·蘇茨克維（Ilya Sutskever）向該機(jī)構(gòu)董事會(huì)的另外三名成員發(fā)送了秘密備忘錄。數(shù)周來，他們一直在私下討論：OpenAI 首席執(zhí)行官山姆·奧特曼（Sam Altman）以及他的副手格雷格·布羅克曼（Greg Brockman），是否適合繼續(xù)執(zhí)掌這家公司。伊利亞曾把兩人都視為朋友。2019年，他還曾主持布羅克曼的婚禮。那場婚禮就在 OpenAI 辦公室舉行，婚禮儀式上負(fù)責(zé)遞送婚戒的，是一只機(jī)械手。但隨著他愈發(fā)相信，公司正逼近其長期目標(biāo)，也就是創(chuàng)造一種能夠匹敵甚至超越人類認(rèn)知能力的人工智能，他對奧特曼的疑慮也越來越深。正如伊利亞當(dāng)時(shí)對另一位董事所說的那樣：“我不認(rèn)為，山姆是那個(gè)應(yīng)該把手放在按鈕上的人。”

應(yīng)其他董事要求，伊利亞與一些志同道合的同事一起，整理出大約70頁 Slack 信息和人力資源文件，并附上說明文字。這些材料中還包括用手機(jī)拍攝的圖片，顯然是為了避開公司設(shè)備上的監(jiān)測。他通過閱后即焚消息，把最終備忘錄發(fā)給其他董事，以確保不會(huì)再有別人看到這些內(nèi)容。一位收到備忘錄的董事回憶說：“他當(dāng)時(shí)怕極了。”我們審閱了這些備忘錄，它們此前從未被完整披露。文件指稱，奧特曼曾向高管和董事歪曲事實(shí)，并在公司內(nèi)部安全規(guī)程問題上誤導(dǎo)他們。其中一份關(guān)于奧特曼的備忘錄開頭列著一串標(biāo)題為“山姆持續(xù)表現(xiàn)出以下模式”的事項(xiàng)，第一條就是“撒謊”。

許多科技公司會(huì)籠統(tǒng)宣稱自己在改善世界，轉(zhuǎn)頭卻一心追求營收最大化。但 OpenAI 創(chuàng)立時(shí)的前提，就是它必須不同。其創(chuàng)始人包括奧特曼、伊利亞、布羅克曼和埃隆·馬斯克。他們主張，人工智能可能是人類歷史上最強(qiáng)大、也可能最危險(xiǎn)的發(fā)明。鑒于這種關(guān)乎人類存續(xù)的風(fēng)險(xiǎn)，也許需要一種不同尋常的公司結(jié)構(gòu)。因此，這家公司被設(shè)立為一家非營利機(jī)構(gòu)，其董事會(huì)有責(zé)任把人類安全置于公司成功之上，甚至置于公司生存之上。首席執(zhí)行官必須是一個(gè)具有非凡操守的人。按照伊利亞的說法，“任何致力于打造這種將改變文明的技術(shù)的人，都肩負(fù)沉重負(fù)擔(dān)，承擔(dān)著前所未有的責(zé)任。” 但他也說，最后坐到這種位置上的，往往都是某一類人，是那種迷戀權(quán)力的人，是政客，是喜歡權(quán)力本身的人。在其中一份備忘錄中，他似乎擔(dān)心，把這項(xiàng)技術(shù)托付給一個(gè)只會(huì)撿別人愛聽的話說的人。如果事實(shí)證明 OpenAI 的首席執(zhí)行官并不值得信賴，那么當(dāng)時(shí)由六名成員組成的董事會(huì)有權(quán)將其解職。一些董事，包括人工智能政策專家海倫·托納（Helen Toner）和企業(yè)家塔莎·麥考利（Tasha McCauley），把這些備忘錄視為對她們早已形成判斷的印證：奧爾特曼所處的位置，實(shí)際上把人類的未來托付到了他手中，但他并不值得信賴。

奧特曼當(dāng)時(shí)正在拉斯維加斯觀看一場一級(jí)方程式賽車比賽，這時(shí)伊利亞邀請他與董事會(huì)進(jìn)行一次視頻通話，隨后宣讀了一份簡短聲明，告知他已經(jīng)不再是 OpenAI 的員工。董事會(huì)遵循法律顧問意見，只對外發(fā)布了一則公開說明，稱奧特曼被免職的原因是，他“在溝通中并非始終坦誠”。許多 OpenAI 的投資人和高管都感到震驚。微軟此前已向 OpenAI 投資約130億美元，但直到免職發(fā)生前幾分鐘，才得知這一計(jì)劃。微軟首席執(zhí)行官薩提亞·納德拉（Satya Nadella）后來表示：“我當(dāng)時(shí)非常震驚。誰都沒法從任何人嘴里問出點(diǎn)什么。” 他隨后與 LinkedIn 聯(lián)合創(chuàng)始人、OpenAI 投資人兼微軟董事里德·霍夫曼（Reid Hoffman）通了話。霍夫曼開始四處打電話，想弄清奧特曼是否犯下了某種明確的過錯(cuò)。“我當(dāng)時(shí)他媽完全不知道發(fā)生了什么。” 霍夫曼對我們說，“我們在找的，是侵吞公款，或者性騷擾之類的問題，可我什么也沒找到。”

其他商業(yè)伙伴也同樣被打了個(gè)措手不及。奧特曼打電話告訴投資人羅恩·康威（Ron Conway）自己被解雇時(shí)，康威正與聯(lián)邦眾議員南希·佩洛西共進(jìn)午餐，他把手機(jī)舉給了佩洛西。她對康威說：“你最好趕緊離開這里。” 當(dāng)時(shí)，OpenAI 正接近完成一筆來自風(fēng)投公司 Thrive 的大額融資。Thrive 由喬什·庫什納（Josh Kushner）創(chuàng)立，他是賈里德·庫什納（Jared Kushner）的兄弟，也與奧特曼相識(shí)多年。這筆交易將使 OpenAI 的估值達(dá)到860億美元，并讓許多員工套現(xiàn)數(shù)百萬美元股權(quán)。庫什納剛結(jié)束與音樂制作人里克·魯賓（Rick Rubin）的一場會(huì)面，就看到奧特曼打來的未接來電。庫什納后來說：“我們立刻就進(jìn)入了戰(zhàn)斗狀態(tài)。”

奧特曼被解雇當(dāng)天，便飛回了他位于舊金山那棟價(jià)值2700萬美元的豪宅。那棟房子可俯瞰海灣，曾配有一座懸挑式無邊泳池。他在那里建立起了他所稱的“某種流亡政府”。康威、Airbnb 聯(lián)合創(chuàng)始人布賴恩·切斯基（Brian Chesky）以及以作風(fēng)凌厲著稱的危機(jī)公關(guān)經(jīng)理克里斯·勒哈恩（Chris Lehane）都加入了進(jìn)來，常常通過電話和視頻一聊就是幾個(gè)小時(shí)。奧特曼高管團(tuán)隊(duì)中的一些成員甚至直接駐扎在這棟房子的走廊里。律師們則在他臥室旁邊的一間家庭辦公室里辦公。失眠發(fā)作時(shí)，奧特曼會(huì)穿著睡衣在他們身邊來回走動(dòng)。我們最近與奧特曼交談時(shí)，他把自己被解雇后的那段經(jīng)歷形容為“就是一種很奇怪的恍惚狀態(tài)”。

在董事會(huì)保持沉默之際，奧特曼的顧問們開始在公開輿論場上為他回歸造勢。勒哈恩一直堅(jiān)持稱，這次解雇是一場政變，是由一群失控的“有效利他主義者”（effective altruists）策動(dòng)的。這是一套強(qiáng)調(diào)最大化全人類福祉的信念體系，而這些人已開始把人工智能視為一種關(guān)乎存續(xù)的威脅。（霍夫曼曾對納德拉說，這次解雇可能是“有效利他主義式的瘋狂”。）據(jù)稱，勒哈恩的座右銘引自邁克·泰森（Mike Tyson）：“每個(gè)人都有自己的作戰(zhàn)計(jì)劃，直到嘴上挨了一拳。” 他敦促奧特曼發(fā)動(dòng)一場激進(jìn)的社交媒體戰(zhàn)役。切斯基則與科技記者卡拉·斯威舍（Kara Swisher）保持聯(lián)系，向她轉(zhuǎn)述外界對董事會(huì)的批評(píng)。

奧特曼每天晚上6點(diǎn)都會(huì)暫停他的“作戰(zhàn)室”，喝上一輪內(nèi)格羅尼雞尾酒。他回憶自己當(dāng)時(shí)會(huì)說：“你得冷靜點(diǎn)。該發(fā)生的總會(huì)發(fā)生。” 但他也補(bǔ)充說，通話記錄顯示，那段時(shí)間他每天打電話的時(shí)長都超過12小時(shí)。據(jù)一位了解相關(guān)對話的人士說，奧特曼曾對米拉·穆拉蒂（Mira Murati）表示，他的盟友們正在“全力出擊”，并且“挖掘黑料”，要損害她以及其他反對過他的人的聲譽(yù)。穆拉蒂曾向伊利亞提供備忘錄所依據(jù)的材料，并在那一時(shí)期擔(dān)任 OpenAI 臨時(shí)首席執(zhí)行官。奧特曼則表示，他不記得這段對話了。

在解雇發(fā)生后的數(shù)小時(shí)內(nèi)，Thrive 就暫停了原定投資，并暗示，只有奧特曼回歸，這筆交易才會(huì)最終完成，員工們也才能因此拿到套現(xiàn)收益。這一時(shí)期的短信顯示，奧特曼與納德拉之間協(xié)調(diào)得極為緊密。當(dāng)兩人共同擬定一份聲明時(shí)，奧特曼建議寫上：“薩提亞和我當(dāng)前的首要任務(wù)仍然是拯救 OpenAI。” 納德拉則提出另一種表述：“確保 OpenAI 繼續(xù)蓬勃發(fā)展。” 不久后，微軟宣布，將為奧特曼及任何離開 OpenAI 的員工另建一個(gè)競爭性項(xiàng)目。公司內(nèi)部也開始流傳一封公開信，要求讓奧特曼回歸。一些對是否簽名仍在猶豫的人，接到了同事們懇求他們支持的電話和信息。最終，OpenAI 多數(shù)員工都威脅說，要跟著奧特曼一起離開。

董事會(huì)被逼到了墻角。托納說：“撤銷，算是一種選擇，也就是撤回解雇決定。另一種選擇，就是公司分崩離析。” 最終，就連穆拉蒂也在公開信上簽了名。奧特曼的盟友們則努力爭取伊利亞倒戈。布羅克曼的妻子安娜（Anna Brockman）在辦公室找到他，懇求他重新考慮。她說：“你是個(gè)好人，你可以把這一切修好。” 伊利亞后來在法庭證詞中解釋說：“我當(dāng)時(shí)覺得，如果我們真的走到不讓山姆回歸那一步，OpenAI 就會(huì)毀掉。” 有一天夜里，奧特曼服下安眠藥 Ambien 后入睡，卻被他的丈夫奧利弗·穆赫林（Oliver Mulherin）叫醒。穆赫林是一名澳大利亞程序員，他告訴奧特曼，伊利亞開始動(dòng)搖了，而且許多人都在說，奧特曼應(yīng)該與董事會(huì)談?wù)劇W特曼對我們說：“我當(dāng)時(shí)是在一種瘋狂的安眠藥迷糊狀態(tài)里醒來的，整個(gè)人都暈頭轉(zhuǎn)向。我當(dāng)時(shí)想的是，我現(xiàn)在根本沒法和董事會(huì)談。”

在一連串氣氛愈發(fā)緊張的電話中，奧特曼要求那些推動(dòng)解雇他的董事辭職。談到自己最初對回歸一事的想法時(shí)，奧特曼回憶說：“我還要在這種瘋狂的懷疑氛圍里替他們收拾爛攤子？我當(dāng)時(shí)的反應(yīng)就是，絕對他媽不行。” 最終，伊利亞、托納和麥考利都失去了董事席位。問答社區(qū) Quora 的創(chuàng)始人亞當(dāng)·迪安杰洛（Adam D’Angelo）成為唯一留任的原始董事。作為離開的條件，這些即將退出的董事要求對針對奧特曼的指控展開調(diào)查，這些指控包括他挑動(dòng)高管彼此對立，并隱瞞自己的財(cái)務(wù)利益關(guān)聯(lián)。他們還要求組建一個(gè)新的董事會(huì)，以便能夠獨(dú)立監(jiān)督外部調(diào)查。但新增的兩名董事，前哈佛大學(xué)校長勞倫斯·薩默斯（Lawrence Summers）和前 Facebook 首席技術(shù)官布雷特·泰勒（Bret Taylor），都是在與奧特曼密切溝通后選定的。奧特曼曾發(fā)短信給納德拉：“你愿意這么安排嗎？布雷特、拉里·薩默斯、亞當(dāng)組成董事會(huì)，我繼續(xù)當(dāng)首席執(zhí)行官，然后由布雷特負(fù)責(zé)調(diào)查。” 麥考利后來在證詞中表示，之前曾考慮讓泰勒進(jìn)入董事會(huì)時(shí)，她就擔(dān)心他對奧特曼過于順從。

距離被解雇還不到五天，奧特曼便官復(fù)原職。如今，員工們把這一時(shí)刻稱為“閃逝時(shí)刻”，這個(gè)說法來自漫威電影中的一個(gè)情節(jié)：角色們從現(xiàn)實(shí)中消失，隨后又原封不動(dòng)地返回，而他們?nèi)毕陂g，世界早已被深刻改變。但關(guān)于奧特曼是否值得信任的爭論，已經(jīng)不再局限于 OpenAI 的董事會(huì)會(huì)議室。那些促成他被趕下臺(tái)的同事指控說，他的欺騙程度，對任何企業(yè)高管而言都不可接受，而對于一項(xiàng)如此具有變革性的技術(shù)的領(lǐng)導(dǎo)者而言，則更是危險(xiǎn)。穆拉蒂對我們說：“我們需要配得上自己手中權(quán)力的機(jī)構(gòu)。董事會(huì)曾征求反饋，我就把自己看到的情況如實(shí)說了出來。我說的每一件事都準(zhǔn)確無誤，我堅(jiān)持這些說法。” 另一方面，奧特曼的盟友長期以來一直淡化這些指控。解雇發(fā)生后，康威發(fā)短信給切斯基和勒哈恩，要求發(fā)動(dòng)一輪公關(guān)反擊。“這關(guān)乎山姆的聲譽(yù)。” 他寫道。他還對《華盛頓郵報(bào)》表示，奧特曼“受到了一個(gè)失控董事會(huì)的惡劣對待”。

此后，OpenAI 已成為全球最有價(jià)值的公司之一。據(jù)報(bào)道，這家公司正在籌備首次公開募股，潛在估值可達(dá)1萬億美元。奧特曼正推動(dòng)建設(shè)規(guī)模驚人的人工智能基礎(chǔ)設(shè)施，其中一部分集中部署在外國專制政體之中。OpenAI 也在拿下范圍廣泛的政府合同，并正在為人工智能如何用于移民執(zhí)法、國內(nèi)監(jiān)控以及戰(zhàn)區(qū)自主武器設(shè)定標(biāo)準(zhǔn)。

奧特曼一直通過兜售一種愿景來推動(dòng) OpenAI 的擴(kuò)張。他在2024年的一篇博客文章中寫道，在那樣的未來里，“令人驚嘆的勝利，例如解決氣候問題、建立太空殖民地，以及發(fā)現(xiàn)全部物理學(xué)規(guī)律，最終都會(huì)變得司空見慣。”這種話語幫助支撐起了創(chuàng)業(yè)公司史上燒錢速度最快的業(yè)務(wù)之一，而它所依賴的合作伙伴本身也借入了巨額資金。美國經(jīng)濟(jì)正日益依賴少數(shù)幾家高杠桿的人工智能公司，許多專家都曾警告，這個(gè)行業(yè)正處于泡沫之中，奧特曼有時(shí)自己也這么說。“總會(huì)有人虧掉一筆驚人的錢。” 他去年曾這樣對記者表示。如果泡沫破裂，隨之而來的可能就是經(jīng)濟(jì)災(zāi)難；如果他最樂觀的預(yù)測被證明是正確的，那么他可能會(huì)成為這個(gè)星球上最富有、也最有權(quán)勢的人之一。

在奧特曼被解職后的一通緊張電話里，董事會(huì)逼他承認(rèn)自己存在一種持續(xù)性的欺瞞模式。據(jù)通話知情人士稱，他反復(fù)說道：“這事真是太他媽離譜了。”“我沒法改變我的性格。” 奧特曼則表示，他不記得這段交鋒了。“也許我當(dāng)時(shí)的意思更接近于，‘我的確在努力做一個(gè)能夠把大家凝聚起來的人。’” 他對我們說，并補(bǔ)充稱，也正是這種特質(zhì)，使他得以領(lǐng)導(dǎo)一家取得巨大成功的公司。他把這些批評(píng)歸因于自己的一種傾向，尤其是在職業(yè)生涯早期，就是“過于回避沖突”。但一位董事對他這番話作出了另一種解讀：“這話的意思其實(shí)是，‘我有這么一種特質(zhì)，我會(huì)對人撒謊，而且我不會(huì)改。’” 那么，那些推動(dòng)奧特曼下臺(tái)的同事，究竟是出于危言聳聽和個(gè)人怨恨，還是說，他們認(rèn)定他不值得信任，本來就是對的？

今年冬天的一個(gè)早晨，我們在舊金山的 OpenAI 總部見到了奧特曼。這只是我們?yōu)樽珜懕疚呐c他進(jìn)行的十多次交談中的一次。公司最近搬進(jìn)了兩座11層高的玻璃大樓，其中一座曾由另一家科技巨頭優(yōu)步使用。優(yōu)步聯(lián)合創(chuàng)始人兼首席執(zhí)行官特拉維斯·卡蘭尼克（Travis Kalanick）曾一度看上去像是勢不可擋的天才人物，直到2017年，在投資人以其道德問題令人擔(dān)憂為由施壓后，他辭去了職務(wù)。（卡蘭尼克現(xiàn)在經(jīng)營著一家機(jī)器人創(chuàng)業(yè)公司；他最近表示，自己閑暇時(shí)會(huì)使用 OpenAI 的 ChatGPT，“去逼近量子物理學(xué)已知邊界”。）

一名員工帶我們參觀了辦公室。在一片擺滿公共長桌、空間通透的區(qū)域里，掛著一幅動(dòng)畫數(shù)字畫，畫中人是計(jì)算機(jī)科學(xué)家艾倫·圖靈（Alan Turing）；我們經(jīng)過時(shí)，那雙眼睛會(huì)追隨著我們。這件裝置顯然是在調(diào)侃“圖靈測試”，也就是圖靈在1950年提出的那個(gè)思想實(shí)驗(yàn)：機(jī)器是否能夠令人信服地模仿人類。（在2025年的一項(xiàng)研究中，ChatGPT 通過這項(xiàng)測試的穩(wěn)定性，甚至超過了真人。）通常情況下，參觀者可以與這幅畫互動(dòng)。但我們的引導(dǎo)員說，聲音功能已經(jīng)被關(guān)閉了，因?yàn)樗鲜峭德爢T工說話，然后插進(jìn)他們的對話。辦公室的其他地方，牌匾、宣傳冊和周邊商品上都印著一句話：“Feel the AGI”。這句話最初與伊利亞有關(guān)，他曾用它提醒同事注意通用人工智能的風(fēng)險(xiǎn)，也就是機(jī)器達(dá)到與人類認(rèn)知能力相當(dāng)這一門檻后的風(fēng)險(xiǎn)。而在那場“閃逝”之后，它卻變成了一句歡快的口號(hào)，用來禮贊一個(gè)超級(jí)豐裕的未來。

我們在八樓一間看起來毫不起眼的會(huì)議室里見到了奧特曼。“以前人們總跟我說什么決策疲勞，我那時(shí)候根本不懂。” 奧特曼對我們說，“現(xiàn)在我每天都穿灰色毛衣和牛仔褲，光是從衣柜里挑哪件灰色毛衣，我都會(huì)想，我真希望不用費(fèi)這個(gè)腦子。” 奧特曼長相年輕，身材瘦削，雙眼間距較寬，藍(lán)眼睛，頭發(fā)略顯蓬亂，但他如今已經(jīng)40歲了。他和穆赫林通過代孕育有一個(gè)一歲的兒子。“我敢肯定，當(dāng)美國總統(tǒng)肯定是壓力更大的工作，但在我覺得自己現(xiàn)實(shí)中有可能勝任的所有工作里，這是我能想象到壓力最大的一份。” 他說，一邊看著我們其中一個(gè)人，隨后又看向另一個(gè)人。“我跟朋友們解釋這件事時(shí)，總是這么說：‘在我們推出 ChatGPT 的那一天之前，這是世界上最好玩的工作。’我們當(dāng)時(shí)正在取得這些重大的科學(xué)突破。我覺得，我們做出了過去很多很多年里最重要的一項(xiàng)科學(xué)發(fā)現(xiàn)。” 他說到這里垂下了眼睛。“但從 ChatGPT 發(fā)布以后，做決定就變得非常困難了。”

奧特曼在密蘇里州克萊頓長大。那是圣路易斯一個(gè)富裕的郊區(qū)。他是家中四個(gè)兄弟姐妹里的老大。母親康妮·吉布斯廷（Connie Gibstine）是皮膚科醫(yī)生，父親杰里·奧特曼（Jerry Altman）曾是一名房地產(chǎn)經(jīng)紀(jì)人，也是一名住房權(quán)益活動(dòng)人士。奧特曼小時(shí)候參加改革派猶太會(huì)堂的活動(dòng)，也曾就讀于一所私立預(yù)科學(xué)校。他曾這樣形容那所學(xué)校：“那可不是一種你真的會(huì)站出來公開談?wù)撟约菏峭詰俚牡胤健！?不過總體來說，這個(gè)家庭所處的富裕郊區(qū)圈層相對自由派。他說，在16歲或17歲時(shí)，有一次他深夜出現(xiàn)在圣路易斯一個(gè)以同性戀群體為主的社區(qū)，結(jié)果遭到了一場殘暴的肢體襲擊，并遭到帶有仇視同性戀者意味的辱罵。奧特曼沒有報(bào)案，也不愿在記錄中向我們透露更多細(xì)節(jié)。他說，更完整地講述這件事，“會(huì)讓我看起來像是在操控別人，或者是在博取同情”。他淡化了這一事件以及自己的性取向?qū)ζ渖矸菡J(rèn)同的重要性。但他說，“也許這件事在心理深處確實(shí)留下了某種東西。雖然我覺得自己已經(jīng)走出來了，但其實(shí)并沒有。那種東西和不想再面對更多沖突有關(guān)。”

奧特曼的弟弟曾在2016年對《紐約客》說，奧特曼小時(shí)候的態(tài)度是：“我必須贏，而且一切都得由我說了算。” 他后來進(jìn)入斯坦福大學(xué)就讀，在校期間經(jīng)常參加校外的撲克牌局。他后來表示：“我覺得，我從那些牌局里學(xué)到的關(guān)于人生和商業(yè)的東西，比我在大學(xué)里學(xué)到的還多。”

斯坦福的學(xué)生個(gè)個(gè)都很有野心，但其中最有進(jìn)取心的那批人，很多都會(huì)中途退學(xué)。大二結(jié)束后的那個(gè)夏天，奧特曼去了馬薩諸塞州，加入了 Y Combinator 的首批創(chuàng)業(yè)者項(xiàng)目。Y Combinator 是一家“創(chuàng)業(yè)孵化器”，由著名軟件工程師保羅·格雷厄姆（Paul Graham）聯(lián)合創(chuàng)辦。每個(gè)入選者都要帶著一個(gè)創(chuàng)業(yè)點(diǎn)子加入 Y.C.。（與奧特曼同一批的，還有 Reddit 和 Twitch 的創(chuàng)始人。）奧特曼的項(xiàng)目后來叫作 Loopt，它是社交網(wǎng)絡(luò)的早期雛形，利用人們翻蓋手機(jī)的位置數(shù)據(jù)，告訴他們的朋友他們在哪里。這家公司既體現(xiàn)了他的沖勁，也體現(xiàn)出他傾向于把模糊情境解釋為對自己有利的方式。聯(lián)邦法規(guī)要求通信運(yùn)營商必須具備追蹤手機(jī)位置以便提供緊急服務(wù)的能力；奧特曼則與運(yùn)營商達(dá)成協(xié)議，把這些能力接入公司業(yè)務(wù)中使用。

Loopt 的大多數(shù)員工都喜歡奧特曼，但也有人說，他們對他夸大其詞的傾向印象深刻，哪怕是在一些瑣碎小事上也是如此。有人回憶說，奧特曼曾四處吹噓自己是乒乓球冠軍，“好像是什么密蘇里州高中乒乓球冠軍”，結(jié)果真打起來，卻成了辦公室里打得最差的人之一。（奧爾特曼說，他大概只是在開玩笑。）年紀(jì)比他大、曾在 Loopt 工作，并受投資人委托擔(dān)任奧特曼“保姆”的馬克·雅各布斯坦（Mark Jacobstein），后來曾對基奇·黑吉（Keach Hagey）說。黑吉在她為奧特曼撰寫的傳記《樂觀者》（The Optimist）中記錄了這番話：“‘我覺得自己也許能做到這件事’和‘我已經(jīng)做到這件事了’之間，常常會(huì)出現(xiàn)模糊地帶。這種傾向最有毒的形態(tài)，就會(huì)導(dǎo)向 Theranos 式的結(jié)果。” Theranos 是伊麗莎白·霍姆斯（Elizabeth Holmes）那家靠欺詐運(yùn)作的創(chuàng)業(yè)公司。

據(jù)黑吉記載，Loopt 內(nèi)部幾批資深員工曾因擔(dān)憂奧特曼的領(lǐng)導(dǎo)方式及其缺乏透明度，兩度要求公司董事會(huì)撤換他的首席執(zhí)行官職務(wù)。但奧特曼也同樣能激發(fā)出極其強(qiáng)烈的忠誠。一名前員工被告知，當(dāng)時(shí)有一位董事會(huì)成員的回應(yīng)是：“這是山姆的公司，回去他媽干活。”（一位董事會(huì)成員否認(rèn)說，罷免奧特曼首席執(zhí)行官的嘗試曾經(jīng)是認(rèn)真的。）Loopt 一直難以獲得用戶，2012年被一家金融科技公司收購。知情人士稱，這筆收購之所以得以安排，主要是為了讓奧特曼能體面下臺(tái)。盡管如此，到2014年格雷厄姆從 Y.C. 退休時(shí)，他還是招募奧特曼擔(dān)任自己的繼任者，出任總裁。“我是在我們家廚房里向山姆提出這件事的。” 格雷厄姆對《紐約客》說，“然后他笑了，那種表情就像，成了。我從沒見過山姆露出過那種不受控制的笑容。就像你把一個(gè)紙團(tuán)從房間這頭扔進(jìn)那頭的廢紙簍時(shí)會(huì)露出的那種笑。”

奧特曼的新職位，使年僅28歲的他成了一個(gè)“造王者”。他的工作是挑出最饑渴、也最有前途的創(chuàng)業(yè)者，把他們與最優(yōu)秀的程序員和投資人連接起來，并幫助他們把初創(chuàng)企業(yè)發(fā)展成定義行業(yè)的壟斷者，同時(shí) Y.C. 從中抽取6%至7%的股份。奧特曼掌管 Y.C. 期間，公司進(jìn)入了一個(gè)激進(jìn)擴(kuò)張階段，其孵化的創(chuàng)業(yè)公司數(shù)量從幾十家增長到數(shù)百家。但硅谷一些投資人開始認(rèn)為，他的忠誠對象并不單一。一位投資人對我們說，奧特曼以“會(huì)有選擇地向最好的公司進(jìn)行個(gè)人投資、從而把外部投資人擋在外面”而聞名。（奧特曼否認(rèn)自己擋過任何人。）奧特曼還曾作為紅杉資本的“偵察員”工作。那是一個(gè)針對早期創(chuàng)業(yè)公司的投資計(jì)劃，參與者可從投資收益中分得一小部分利潤。據(jù)一位熟悉交易的人士說，奧特曼在對金融服務(wù)初創(chuàng)公司 Stripe 進(jìn)行天使投資時(shí)，堅(jiān)持要求獲得更大份額，這讓紅杉的合伙人們十分惱火。那位人士補(bǔ)充說：“他的政策就是‘薩姆優(yōu)先’。” 按奧特曼自己的估算，他還是另外大約400家公司的投資人。（奧特曼否認(rèn)這是對 Stripe 交易的準(zhǔn)確描述。大約在2010年，他最初向 Stripe 投資了1.5萬美元，占股2%。如今這家公司估值已超過1500億美元。）

到2018年，幾位 Y.C. 合伙人對奧特曼的行為已經(jīng)不勝其煩，于是去找格雷厄姆投訴。格雷厄姆和妻子杰西卡·利文斯頓（Jessica Livingston），也就是另一位 Y.C. 創(chuàng)始人，顯然與奧特曼進(jìn)行過一次坦率談話。此后，格雷厄姆開始對外表示，盡管奧特曼已經(jīng)同意離開公司，但實(shí)際上卻在抗拒離開。奧特曼則對一些 Y.C. 合伙人說，他會(huì)辭去總裁職務(wù)，但轉(zhuǎn)任董事長。2019年5月，一篇宣布 Y.C. 新總裁上任的博客文章里帶著一個(gè)星號(hào)注釋：“山姆正在過渡為 Y.C. 董事長。” 幾個(gè)月后，這篇文章被修改為“山姆·奧特曼已不再擔(dān)任 Y.C. 的任何正式職務(wù)”；而再后來，這句話又被徹底刪掉了。盡管如此，直到2021年，美國證券交易委員會(huì)的一份文件中，仍把奧特曼列為 Y Combinator 董事長。（奧特曼說，他直到很久之后才知道這件事。）

多年來，無論是在公開場合，還是在最近的證詞中，奧特曼都一直堅(jiān)稱自己從未被 Y.C. 解雇；他還對我們說，自己并沒有抗拒離開。格雷厄姆則在 X 上發(fā)文稱：“我們并不是想讓他離開，只是想讓他在 Y.C. 和 OpenAI 之間做出選擇。” 在一份聲明中，格雷厄姆對我們表示：“我們在法律上無權(quán)解雇任何人。我們唯一能做的，只是施加道德壓力。” 然而私下里，他卻毫不含糊地表示，奧特曼之所以被移出 Y.C.，是因?yàn)?Y.C. 合伙人對他失去了信任。關(guān)于奧特曼在 Y Combinator 期間的這段經(jīng)歷，本文采訪了數(shù)位 Y.C. 創(chuàng)始人和合伙人，并參考了同時(shí)期材料；所有這些都表明，雙方的分手并非完全出于共同意愿。格雷厄姆有一次曾對 Y.C. 同事說，在奧特曼被撤換之前，“山姆一直在對我們所有人撒謊。”

2015年5月，奧特曼給埃隆·馬斯克發(fā)了一封電子郵件。當(dāng)時(shí)，馬斯克是全球第100大富豪。和許多硅谷知名創(chuàng)業(yè)者一樣，馬斯克當(dāng)時(shí)正被一系列他認(rèn)為具有存續(xù)風(fēng)險(xiǎn)、但在多數(shù)人看來相當(dāng)遙遠(yuǎn)的威脅所困擾。“我們必須對人工智能極其謹(jǐn)慎。” 他曾在社交媒體上寫道，“它可能比核武器還危險(xiǎn)。”

奧特曼原本總體上是一個(gè)技術(shù)樂觀主義者，但他關(guān)于人工智能的表述很快轉(zhuǎn)向了末日論色彩。無論在公開場合，還是在他與馬斯克等人的私人通信中，他都警告說，這項(xiàng)技術(shù)不應(yīng)由一家以利潤為導(dǎo)向的超級(jí)公司所主導(dǎo)。“我一直在想，是否有可能阻止人類發(fā)展人工智能。” 他在給馬斯克的信中寫道，“如果這件事無論如何都會(huì)發(fā)生，那似乎最好由谷歌之外的某個(gè)主體先做出來。” 順著核武器的比喻，他提出要為人工智能打造一個(gè)“曼哈頓計(jì)劃”。他概述了這樣一個(gè)組織應(yīng)遵循的總體原則，例如“安全應(yīng)當(dāng)是一項(xiàng)一級(jí)要求”，“顯然我們會(huì)遵守并積極支持一切監(jiān)管”，而他和馬斯克最終也為這個(gè)項(xiàng)目確定了名字：OpenAI。

與最初那個(gè)催生原子彈的“曼哈頓計(jì)劃”不同，OpenAI 至少在最開始將由私人出資。奧特曼預(yù)測，超級(jí)人工智能，也就是一種比通用人工智能更高一層的理論門檻，在這個(gè)門檻上，機(jī)器將全面超越人類心智能力，最終會(huì)創(chuàng)造出足以“攫取宇宙未來一切價(jià)值所處的光錐”的經(jīng)濟(jì)收益，也就是未來一切價(jià)值可能展開的范圍。但他同時(shí)也警告，存在關(guān)乎存續(xù)的危險(xiǎn)。到了某個(gè)階段，國家安全層面的影響可能會(huì)嚴(yán)重到讓美國政府不得不接管 OpenAI，甚至可能通過將其國有化、并把業(yè)務(wù)轉(zhuǎn)移到沙漠中的一座安全地堡來實(shí)現(xiàn)控制。到2015年末，馬斯克已被說服。“我們應(yīng)該說，我們啟動(dòng)時(shí)將承諾投入10億美元資金。” 他寫道，“其他人出不了的部分，我來補(bǔ)。”

奧特曼把 OpenAI 安置在 Y Combinator 的非營利部門之下，并把它包裝成一個(gè)內(nèi)部慈善項(xiàng)目。他向 OpenAI 的招募對象提供 Y.C. 股份，并通過 Y.C. 賬戶來轉(zhuǎn)運(yùn)捐款。曾有一段時(shí)間，這家實(shí)驗(yàn)室還得到 Y.C. 一只基金的支持，而奧爾、特曼本人在那只基金中持有個(gè)人利益。（奧特曼后來將這部分持股形容為微不足道。他對我們說，自己給招募對象的 Y.C. 股份，來自他個(gè)人持有的那部分。）

“曼哈頓計(jì)劃”的類比也被用到了員工招募上。就像核裂變研究一樣，機(jī)器學(xué)習(xí)當(dāng)時(shí)也是一個(gè)規(guī)模不大、卻具有時(shí)代性意義的科學(xué)領(lǐng)域，而它由一小群古怪的天才人物主導(dǎo)。馬斯克和奧特曼，以及后來從 Stripe 加入的布羅克曼，都堅(jiān)信，當(dāng)今真正有能力實(shí)現(xiàn)所需突破的計(jì)算機(jī)科學(xué)家屈指可數(shù)。谷歌擁有壓倒性的現(xiàn)金優(yōu)勢，也比他們提前起步了好幾年。馬斯克后來在一封郵件中寫道：“和他們相比，我們在人手和火力上都處于荒謬級(jí)別的劣勢。” 但他也寫道：“如果我們能夠隨著時(shí)間推移吸引到最有才華的人，而且我們的方向校準(zhǔn)正確，那么 OpenAI 最終會(huì)勝出。”

他們重點(diǎn)招募的目標(biāo)之一，是伊利亞·蘇茨克維。這位研究者性格強(qiáng)烈而內(nèi)向，常被稱為他這一代人中最有天賦的人工智能科學(xué)家。伊利亞1986年出生于蘇聯(lián)，發(fā)際線后移，眼神深沉，說話前常常會(huì)停頓片刻，目不轉(zhuǎn)睛地斟酌用詞。另一位目標(biāo)是達(dá)里奧·阿莫代伊（Dario Amodei）。他是一位生物物理學(xué)家，精力異常充沛，常會(huì)緊張地扭動(dòng)自己的黑發(fā)，對別人發(fā)來的一行字郵件，往往能回上好幾段。兩人當(dāng)時(shí)都在別處拿著豐厚薪水，但奧特曼對他們投入了大量精力。后來他還開玩笑說：“我當(dāng)時(shí)簡直是在跟蹤伊利亞。”

馬斯克名氣更大，但奧特曼更擅長那種圓滑而細(xì)密的接觸方式。他先給阿莫代伊發(fā)了郵件，隨后兩人在一家印度餐廳安排了一對一晚餐。（奧特曼：“fuck，我坐的 Uber 出車禍了！我大概要晚10分鐘。” 阿莫代伊：“天哪，希望你人沒事。”）和許多人工智能研究者一樣，阿莫代伊相信，只有在證明這項(xiàng)技術(shù)能夠與人類價(jià)值觀“對齊”時(shí)，才應(yīng)該去構(gòu)建它。也就是說，它應(yīng)按照人類希望的方式行動(dòng)，而不會(huì)犯下潛在致命的錯(cuò)誤。比如，它如果接到“清理環(huán)境”的指令，不該通過消滅最大污染源，也就是人類，來完成任務(wù)。奧特曼給人的感覺很讓人安心，他會(huì)順著這種安全擔(dān)憂的思路說下去。

后來加入公司的阿莫代伊，多年來一直在詳細(xì)記錄奧特曼和布羅克曼的行為，標(biāo)題就叫“我在 OpenAI 的經(jīng)歷”，副標(biāo)題則是“私人文件：請勿分享”。與阿莫代伊有關(guān)的一組文件，連同他的筆記、內(nèi)部郵件和備忘錄在內(nèi)，總計(jì)超過200頁，曾在硅谷同事之間流傳，但此前從未公開披露。在這些筆記里，阿莫代伊寫道，奧特曼的目標(biāo)是建立“一個(gè)以安全為重點(diǎn)的人工智能實(shí)驗(yàn)室，‘也許不是立刻，但會(huì)在條件允許后盡快做到’”。

2015年12月，在 OpenAI 正式對外宣布成立前數(shù)小時(shí)，奧特曼給馬斯克發(fā)郵件說，有傳言稱，谷歌“明天將向 OpenAI 的每個(gè)人開出高額反挖角報(bào)價(jià)，試圖把它扼殺在搖籃里”。馬斯克回信問道：“伊利亞那邊已經(jīng)給出明確的肯定答復(fù)了嗎？”奧特曼向他保證，伊利亞的態(tài)度并沒有松動(dòng)。谷歌曾向伊利亞開出年薪600萬美元的條件，而 OpenAI 連接近這個(gè)數(shù)字都做不到。但奧特曼又頗為得意地寫道：“可惜，他們并不占著‘做正確的事’這層道義。”

馬斯克為 OpenAI 提供了一部分辦公場地，地點(diǎn)在舊金山米慎區(qū)一座以前生產(chǎn)行李箱的工廠里。伊利亞對我們說，當(dāng)時(shí)他們向員工推銷的說法是：“你們將會(huì)拯救世界。”

如果一切順利，OpenAI 的創(chuàng)始人相信，人工智能將開啟一個(gè)“后稀缺”的烏托邦：它會(huì)把繁重瑣碎的苦工自動(dòng)化，治愈癌癥，并把人們從勞作中解放出來，讓他們享受閑適而富足的生活。但如果這項(xiàng)技術(shù)失控，或者落入惡人手中，那么造成的破壞也可能是徹底的。可能會(huì)用它制造一種新型生物武器，或一支先進(jìn)無人機(jī)機(jī)群；某個(gè)人工智能模型可能會(huì)智勝監(jiān)管它的人，在秘密服務(wù)器上復(fù)制自己，從而變得無法關(guān)閉；在更極端的情況下，它甚至可能奪取電網(wǎng)、股市或核武庫的控制權(quán)。至少可以說，并不是所有人都相信這些情景，但奧特曼一再確認(rèn)，自己確實(shí)相信。他在2015年的博客中寫道，超越人類的機(jī)器智能“并不需要是科幻小說里那種天生邪惡的版本，才會(huì)把我們?nèi)繗⑺馈８赡艹霈F(xiàn)的情形是，它根本并不怎么在乎我們，但在試圖完成某個(gè)別的目標(biāo)時(shí)，把我們順手消滅了。” OpenAI 的創(chuàng)始人承諾，不會(huì)為了速度而犧牲安全，而該機(jī)構(gòu)的公司章程則把“造福全人類”規(guī)定為一項(xiàng)具有法律約束力的義務(wù)。如果人工智能注定會(huì)成為歷史上最強(qiáng)大的技術(shù)，那么隨之而來的結(jié)論就是，任何單獨(dú)掌控它的人，都可能變得擁有一種獨(dú)一無二的權(quán)力。創(chuàng)始人把這種局面稱為“AGI 獨(dú)裁”。

奧特曼曾對早期招募對象表示，OpenAI 將始終保持為一家純粹的非營利機(jī)構(gòu)，而程序員們也因此接受了大幅降薪，來到這里工作。公司接受過慈善資助，其中包括來自當(dāng)時(shí)名為 Open Philanthropy 的機(jī)構(gòu)提供的3000萬美元。該機(jī)構(gòu)是有效利他主義運(yùn)動(dòng)的一個(gè)重要樞紐，其資助承諾之一是支持向全球貧困人口發(fā)放蚊帳。

布羅克曼和伊利亞負(fù)責(zé) OpenAI 的日常運(yùn)作，而馬斯克和奧特曼由于仍忙于各自的其他工作，大約每周來一次。不過，到2017年9月，馬斯克已經(jīng)開始失去耐心。在討論是否將 OpenAI 重組為一家營利性公司時(shí)，他要求獲得多數(shù)控制權(quán)。奧特曼的回應(yīng)則會(huì)因情境不同而有所變化。他最穩(wěn)定、也最核心的要求似乎是：如果 OpenAI 要在某位首席執(zhí)行官的控制下重組，那么那個(gè)職位必須歸他。伊利亞顯然對此感到不安。他代表自己和布羅克曼給馬斯克和奧特曼發(fā)去一封冗長、近乎懇求的郵件，主題是“坦率的想法”。他寫道：“OpenAI 的目標(biāo)，是讓未來變得更好，并避免出現(xiàn) AGI 獨(dú)裁。” 接著，他轉(zhuǎn)而對馬斯克寫道：“因此，建立一種可能讓你成為獨(dú)裁者的結(jié)構(gòu)，并不是個(gè)好主意。” 他也向奧特曼表達(dá)了類似的擔(dān)憂：“我們不明白，首席執(zhí)行官這個(gè)頭銜為什么對你如此重要。你給出的理由一直在變，很難真正弄清到底是什么在推動(dòng)你這樣做。”

“各位，我已經(jīng)受夠了。” 馬斯克回信說，“要么你們自己另起爐灶去做點(diǎn)什么，要么就繼續(xù)把 OpenAI 保持為一家非營利機(jī)構(gòu)”，否則的話，“我就只是個(gè)傻子，本質(zhì)上是在免費(fèi)給你們提供資金，好讓你們搞出一家創(chuàng)業(yè)公司。” 五個(gè)月后，他帶著強(qiáng)烈不滿退出了 OpenAI。（2023年，他創(chuàng)辦了一家名為 xAI 的營利性競爭對手。次年，他以欺詐和違反慈善信托義務(wù)為由起訴奧特曼和 OpenAI，稱自己曾被“精心操弄”，中了“奧特曼長期騙局”的圈套。也就是說，奧特曼利用他對人工智能危險(xiǎn)的擔(dān)憂，把他的錢從他手中套走。OpenAI 對這起訴訟進(jìn)行了強(qiáng)力抗辯，該案目前仍在審理之中。）

馬斯克離開后，阿莫代伊和其他一些研究人員對布羅克曼的領(lǐng)導(dǎo)日益不滿。有人認(rèn)為，布羅克曼作風(fēng)強(qiáng)硬、咄咄逼人；而伊利亞雖然通常被視為有原則，卻缺乏條理。在成為首席執(zhí)行官的過程中，奧特曼似乎向公司內(nèi)部不同派別作出過不同承諾。他向一些研究人員保證，布羅克曼的管理權(quán)限將被削弱。但他們并不知道的是，他同時(shí)又與布羅克曼和伊利亞私下達(dá)成了一項(xiàng)君子協(xié)定：奧特曼獲得首席執(zhí)行官頭銜；作為交換，如果另外兩人認(rèn)為有必要，他就同意辭職。（奧特曼不同意這種說法，稱自己之所以擔(dān)任首席執(zhí)行官，只是因?yàn)閯e人請他來做。三人都證實(shí)這項(xiàng)約定確實(shí)存在，不過布羅克曼說，它只是非正式安排。“是他單方面告訴我們，如果我們兩人哪天都要求他下臺(tái)，他就會(huì)辭職。” 布羅克曼對我們說，“我們反對過這個(gè)想法，但他說這對他很重要。這完全是出于利他。”）后來，董事會(huì)震驚地發(fā)現(xiàn)，公司的首席執(zhí)行官實(shí)際上已經(jīng)替自己安排了一個(gè)“影子董事會(huì)”。

內(nèi)部記錄顯示，早在2017年，創(chuàng)始人們私下里就已經(jīng)對非營利結(jié)構(gòu)產(chǎn)生了懷疑。那一年，在馬斯克試圖奪取控制權(quán)之后，布羅克曼在日記中寫道：“如果三個(gè)月后我們就改做 b-corp，那就不能說我們真心致力于非營利……那之前說的話就是謊言。” 阿莫代伊在自己早期的一份筆記里回憶說，他曾追問布羅克曼的優(yōu)先事項(xiàng)是什么，而布羅克曼的回答是，他想要的是“金錢和權(quán)力”。布羅克曼對此予以否認(rèn)。他那段時(shí)期的日記顯示，他內(nèi)心存在彼此沖突的沖動(dòng)。其中一篇寫道：“只要?jiǎng)e人也別靠這件事發(fā)財(cái)，我自己不發(fā)財(cái)也無所謂。” 另一篇里，他問自己：“所以，我真正想要的到底是什么？” 在他的答案中，有一條是：“從財(cái)務(wù)上說，什么能讓我做到身家10億美元。”

2017年，伊利亞在辦公室里讀到谷歌研究人員剛剛發(fā)表的一篇論文，文中提出了“一種新的簡單網(wǎng)絡(luò)架構(gòu)，Transformer”。他一下從椅子上跳起來，沿著走廊跑去，對其他研究人員說：“把手頭所有事都停下。這就是它了。” 伊利亞意識(shí)到，Transformer 可能是一項(xiàng)關(guān)鍵創(chuàng)新，能讓 OpenAI 訓(xùn)練出復(fù)雜得多的模型。正是從這一發(fā)現(xiàn)中，誕生了第一個(gè)生成式預(yù)訓(xùn)練 Transformer，也就是后來 ChatGPT 的種子。

隨著這項(xiàng)技術(shù)越來越強(qiáng)大，我們得知，OpenAI 大約十幾名頂尖工程師曾舉行過一系列秘密會(huì)議，討論 OpenAI 的創(chuàng)始人，包括布羅克曼和奧特曼，是否值得信任。在其中一次會(huì)議上，有位員工想起英國喜劇二人組 Mitchell and Webb 的一則小品：一名身處東線戰(zhàn)場的納粹士兵，在某個(gè)突然清醒的瞬間問道：“難道我們才是壞人嗎？”

到2018年，阿莫代伊已經(jīng)開始更公開地質(zhì)疑創(chuàng)始人的動(dòng)機(jī)。“一切都成了一套輪番上陣的融資花招。” 他后來在筆記中寫道，“我覺得，OpenAI 需要的是一份清楚說明自己會(huì)做什么、不會(huì)做什么，以及它的存在將如何讓世界變得更好的聲明。” OpenAI 當(dāng)時(shí)已經(jīng)有一份使命宣言：“確保通用人工智能造福全人類。” 但在阿莫代伊看來，這句話對高管層究竟意味著什么，甚至是否意味著任何實(shí)質(zhì)內(nèi)容，都并不清楚。阿莫代伊后來說，2018年初，他開始為公司起草一份章程，并在與奧特曼和布羅克曼連續(xù)數(shù)周的交談中，推動(dòng)加入其中最激進(jìn)的一項(xiàng)條款：如果某個(gè)“價(jià)值觀對齊且重視安全的項(xiàng)目”比 OpenAI 更接近率先造出 AGI，那么公司將“停止與該項(xiàng)目競爭，轉(zhuǎn)而協(xié)助該項(xiàng)目”。按照這項(xiàng)后來被稱為“合并與協(xié)助”條款的規(guī)定，舉例來說，如果谷歌的研究人員先一步找到了構(gòu)建安全 AGI 的辦法，那么 OpenAI 就可以自行退出競爭，并把自己的資源轉(zhuǎn)交給谷歌。按照任何正常的公司邏輯，這都是一個(gè)瘋狂的承諾。但 OpenAI 本來就不該是一家普通公司。

這一前提在2019年春天遭遇了考驗(yàn)。當(dāng)時(shí)，OpenAI 正在與微軟談判一筆10億美元投資。阿莫代伊當(dāng)時(shí)負(fù)責(zé)公司的安全團(tuán)隊(duì)，雖然他曾幫助向比爾·蓋茨推介這筆交易，但團(tuán)隊(duì)中許多人都對此感到不安，擔(dān)心微軟會(huì)加入某些條款，從而凌駕于 OpenAI 的倫理承諾之上。阿莫代伊給奧特曼提交了一份按優(yōu)先級(jí)排序的安全要求清單，其中排在最前面的，就是保留“合并與協(xié)助”條款。奧特曼同意了這一要求，但到了6月，在交易即將敲定時(shí)，阿莫代伊發(fā)現(xiàn)，合同里又加入了一項(xiàng)條款，賦予微軟阻止 OpenAI 進(jìn)行任何合并的權(quán)力。“章程里有百分之八十的內(nèi)容就這樣被背叛了。” 阿莫代伊回憶說。他當(dāng)面質(zhì)問奧特曼，后者否認(rèn)這項(xiàng)條款存在。阿莫代伊便指著文本，把條款逐字讀出來，最終還迫使另一名同事當(dāng)著奧特曼的面，直接向他確認(rèn)這項(xiàng)條款確實(shí)存在。（奧特曼表示自己不記得這件事了。）阿莫代伊的筆記描述了幾次愈發(fā)緊張的交鋒，其中包括數(shù)月后的一次：奧特曼把他和他妹妹達(dá)妮埃拉·阿莫代伊（Daniela Amodei）叫去。達(dá)妮埃拉當(dāng)時(shí)在公司負(fù)責(zé)安全和政策工作。奧特曼告訴他們，自己從一位高管那里得到了“可靠消息”，說他們一直在策劃政變。筆記接著寫道，達(dá)妮埃拉“徹底爆發(fā)了”，把那位高管直接叫了進(jìn)來，而對方否認(rèn)自己說過這樣的話。正如一位聽取過情況通報(bào)的人士回憶的那樣，奧特曼隨后又否認(rèn)自己提出過這一指控。“我根本沒那么說。” 他說。“你剛才就是這么說的。” 達(dá)妮埃拉回?fù)舻馈＃▕W特曼表示，這并不完全符合他的記憶，他說自己只是指責(zé)阿莫代伊兄妹存在“政治性操作”。）2020年，阿莫代伊、達(dá)妮埃拉以及其他一些同事離開 OpenAI，創(chuàng)辦了 Anthropic。如今，這家公司已成為 OpenAI 的主要競爭對手之一。

奧特曼繼續(xù)宣揚(yáng) OpenAI 對安全的承諾，尤其是在潛在招募對象聽得見的時(shí)候。2022年末，四位計(jì)算機(jī)科學(xué)家發(fā)表了一篇論文，部分動(dòng)機(jī)正是出于對“欺騙性對齊”的擔(dān)憂。所謂欺騙性對齊，是指足夠先進(jìn)的模型可能會(huì)在測試時(shí)假裝表現(xiàn)良好，而一旦部署出去，就轉(zhuǎn)而追求自己的目標(biāo)。（這只是聽上去像科幻小說的幾種人工智能情景之一，但在某些實(shí)驗(yàn)條件下，它其實(shí)已經(jīng)發(fā)生了。）論文發(fā)表幾周后，其中一位作者，一名加州大學(xué)伯克利分校的博士生，收到了一封奧特曼發(fā)來的電子郵件。奧特曼在信中說，他越來越擔(dān)心“未對齊”人工智能所構(gòu)成的威脅。他還說，自己正在考慮為這個(gè)問題投入10億美元。許多人工智能專家認(rèn)為，這是當(dāng)今世界最重要的未解問題之一。奧特曼設(shè)想的做法之一，是設(shè)立一項(xiàng)獎(jiǎng)項(xiàng)，激勵(lì)全球研究人員去研究這一問題。那位博士生對我們說，盡管他此前“隱約聽過一些關(guān)于山姆為人滑頭的傳聞”，但奧特曼表現(xiàn)出的這種投入還是打動(dòng)了他。他因此從學(xué)術(shù)崗位暫時(shí)離職，加入了 OpenAI。

但在2023年春天的幾次會(huì)議過程中，奧特曼似乎開始動(dòng)搖。他不再提設(shè)立獎(jiǎng)項(xiàng)的事，轉(zhuǎn)而主張成立一支內(nèi)部“超級(jí)對齊團(tuán)隊(duì)”。一份正式公告承諾，這支團(tuán)隊(duì)將獲得公司迄今已爭取到手的算力資源中的20%，其潛在價(jià)值可能超過10億美元。公告稱，這項(xiàng)工作之所以必要，是因?yàn)槿绻麑R問題仍得不到解決，AGI 可能會(huì)“導(dǎo)致人類失去自主地位，甚至滅絕”。被任命與蘇茨克維一同領(lǐng)導(dǎo)該團(tuán)隊(duì)的揚(yáng)·萊克（Jan Leike）對我們說：“這確實(shí)是個(gè)相當(dāng)有效的留人手段。”

然而，這項(xiàng)20%的承諾后來化為烏有。四位曾在該團(tuán)隊(duì)工作或與該團(tuán)隊(duì)密切合作的人士表示，團(tuán)隊(duì)實(shí)際得到的資源只占公司總算力的1%到2%。此外，團(tuán)隊(duì)中的一名研究人員說，“分給超級(jí)對齊的那些算力，其實(shí)大多都在最舊的集群上，用的是最差的芯片。” 這些研究人員認(rèn)為，更好的硬件被留給了能夠帶來利潤的業(yè)務(wù)活動(dòng)。（OpenAI 對此予以否認(rèn)。）萊克曾向當(dāng)時(shí)擔(dān)任首席技術(shù)官的穆拉蒂抱怨，但她告訴他，不要再揪著這個(gè)問題不放，因?yàn)槟琼?xiàng)承諾從一開始就不現(xiàn)實(shí)。

大約就在這個(gè)時(shí)期，一位前員工對我們說，伊利亞“越來越變得極端安全至上了”。在 OpenAI 早期，他雖然認(rèn)為災(zāi)難性風(fēng)險(xiǎn)值得重視，但那仍是相對遙遠(yuǎn)的事。如今，隨著他愈發(fā)相信 AGI 已迫在眉睫，他的擔(dān)憂也變得更為尖銳。那位前員工繼續(xù)說，曾有一次全員大會(huì)，“伊利亞站起來，大意是說，各位，未來幾年里會(huì)有一個(gè)時(shí)點(diǎn)，到那時(shí)這家公司里幾乎每個(gè)人都得轉(zhuǎn)去做安全，否則我們就完了。” 但到了次年，這支超級(jí)對齊團(tuán)隊(duì)就在尚未完成使命的情況下被解散了。

到那時(shí)，內(nèi)部信息顯示，公司高管和董事會(huì)成員已經(jīng)開始相信，奧特曼的遺漏和欺瞞可能會(huì)對 OpenAI 產(chǎn)品的安全產(chǎn)生影響。2022年12月的一次會(huì)議上，奧特曼向董事會(huì)成員保證，即將發(fā)布的 GPT-4 中的多項(xiàng)功能已經(jīng)獲得安全小組批準(zhǔn)。身為董事、也是人工智能政策專家的海倫·托納（Helen Toner）要求查看文件記錄。結(jié)果她發(fā)現(xiàn)，其中最具爭議的兩項(xiàng)功能并未獲批，一項(xiàng)允許用戶為特定任務(wù)對模型進(jìn)行“微調(diào)”，另一項(xiàng)則把它作為個(gè)人助理推出。企業(yè)家塔莎·麥考利（Tasha McCauley）也是董事會(huì)成員。她離開會(huì)議時(shí)，有員工把她拉到一旁，問她是否知道“印度那起違規(guī)事件”。奧特曼在對董事會(huì)進(jìn)行長時(shí)間匯報(bào)時(shí)，始終沒有提到一件事：微軟曾在未完成必要安全審查的情況下，就在印度發(fā)布了 ChatGPT 的一個(gè)早期版本。“這件事基本上就被徹底忽略了。” 當(dāng)時(shí)在 OpenAI 從事研究工作的雅各布·希爾頓（Jacob Hilton）說。

盡管這些疏漏并未釀成安全危機(jī)，但另一位研究人員卡羅爾·溫賴特（Carroll Wainwright）說，這些問題體現(xiàn)出一種“不斷滑向重產(chǎn)品、輕安全”的傾向。GPT-4 發(fā)布后，萊克給董事會(huì)成員發(fā)去一封郵件。“OpenAI 正在偏離自身使命的軌道。”他寫道，“我們?nèi)缃癜旬a(chǎn)品和營收置于首位，其次是人工智能能力、研究和擴(kuò)張，而對齊與安全則只排在第三位。” 他接著寫道：“谷歌之類的其他公司如今從中得出的教訓(xùn)是，它們應(yīng)該更快部署產(chǎn)品，并對安全問題置之不理。”

麥考利在一封發(fā)給其他董事的郵件中寫道：“我認(rèn)為，我們顯然已經(jīng)到了董事會(huì)應(yīng)當(dāng)提高審查力度的時(shí)候。” 董事會(huì)成員試圖應(yīng)對他們眼中這個(gè)不斷惡化的問題，但他們在力量上處于下風(fēng)。前董事蘇·尹（Sue Yoon）說：“說得直白一點(diǎn)，你面對的是一群資歷尚淺、實(shí)際上沒真正做成過什么事的人。”到2023年，公司正準(zhǔn)備發(fā)布 GPT-4 Turbo 模型。根據(jù)伊利亞在備忘錄中的說法，奧特曼顯然曾告訴穆拉蒂，這個(gè)模型不需要經(jīng)過安全審批，并援引公司總法律顧問杰森·權(quán)（Jason Kwon）的話作為依據(jù)。但當(dāng)穆拉蒂通過 Slack 去問杰森·權(quán)時(shí)，后者回道：“唉……我搞不清山姆為什么會(huì)有這種印象。”（OpenAI 的一位代表表示，權(quán)目前仍在該公司任職，而這件事“算不上什么大問題”。）

不久之后，董事會(huì)作出了解雇奧特曼的決定。隨后，全世界又眼看著奧特曼把這一決定扭轉(zhuǎn)了回來。如今，OpenAI 的官網(wǎng)上仍然可以看到一版公司章程。但熟悉其治理文件的人士說，這份章程已經(jīng)被稀釋到了幾乎失去意義的地步。去年6月，奧特曼在個(gè)人博客中談到超級(jí)人工智能時(shí)寫道：“我們已經(jīng)越過了事件視界；起飛已經(jīng)開始。” 按照那份章程，這本來可以說正是 OpenAI 可能停止與其他公司競爭、轉(zhuǎn)而開始與它們合作的時(shí)刻。但在那篇題為《溫和的奇點(diǎn)》（The Gentle Singularity）的博文中，他采用了一種新的語調(diào)，用興高采烈的樂觀主義取代了過去的存續(xù)性恐懼。“我們都會(huì)擁有更好的東西。” 他寫道，“我們將為彼此建造越來越美妙的事物。” 他承認(rèn)，對齊問題仍未解決，但他重新定義了它：它不再是一種致命威脅，而只是一個(gè)不便之處，就像那些誘使我們在 Instagram 上無休止刷下去、浪費(fèi)時(shí)間的算法一樣。

奧特曼常常被人帶著敬意，或懷著懷疑，形容為他這一代人中最厲害的推銷者。史蒂夫·喬布斯是他的偶像之一。人們說，喬布斯身上帶著一種“現(xiàn)實(shí)扭曲力場”，那是一種不可動(dòng)搖的自信，仿佛世界終將順從他的愿景。但即便是喬布斯，也從沒對顧客說過，如果他們不買他家的 MP3 播放器，他們所愛的人就會(huì)死。2008年，23歲的奧特曼在導(dǎo)師格雷厄姆筆下是這樣的人：“你把他空投到一個(gè)滿是食人族的島上，五年后再回來，他已經(jīng)會(huì)是那里的國王。” 這種判斷并不是基于奧特曼當(dāng)時(shí)尚稱有限的履歷，而是基于他那種非贏不可的意志。格雷厄姆認(rèn)為，這種意志幾乎無法約束。當(dāng)有人建議不要把 Y.C. 校友列入“全球頂級(jí)創(chuàng)業(yè)者”名單時(shí)，格雷厄姆還是把奧特曼放了進(jìn)去。“山姆·奧特曼不會(huì)被這種輕飄飄的規(guī)矩?cái)r住。” 他寫道。

格雷厄姆原本是把這話當(dāng)作贊美來說的。但奧特曼身邊一些最親近的同事，后來卻對這種特質(zhì)有了不同看法。伊利亞對人工智能安全愈發(fā)感到憂慮之后，整理出了關(guān)于奧特曼和布羅克曼的那些備忘錄。此后，這些備忘錄在硅谷幾乎帶上了傳奇色彩；在某些圈子里，人們干脆直接把它們稱作“伊利亞備忘錄”。與此同時(shí)，阿莫代伊也在繼續(xù)整理自己的筆記。這些筆記以及其他與他有關(guān)的文件，勾勒出他如何從謹(jǐn)慎的理想主義一步步轉(zhuǎn)向警覺不安。他的措辭比伊利亞更激烈，時(shí)而對奧特曼怒不可遏，“他說的話幾乎肯定全是胡扯”，時(shí)而又對自己所說的沒能糾正 OpenAI 方向一事流露出惆悵。

這兩組文件里都沒有所謂“一錘定音”的鐵證。相反，它們記錄的是一連串據(jù)稱存在的欺瞞與操弄；其中每一件事，單獨(dú)拿出來看，或許都只會(huì)讓人聳聳肩：奧特曼據(jù)說把同一份工作同時(shí)許給兩個(gè)人，就誰該出現(xiàn)在一次直播中給出彼此矛盾的說法，又在安全要求上含糊其詞、閃爍其辭。但伊利亞得出的結(jié)論是，這種行為“不會(huì)營造出有利于創(chuàng)造安全 AGI 的環(huán)境”。阿莫代伊和伊利亞從來不是關(guān)系親密的朋友，但他們得出了相似的判斷。阿莫代伊寫道：“OpenAI 的問題，就在山姆本人。”

我們采訪了一百多位親身了解奧特曼如何做生意的人：現(xiàn)任和前任 OpenAI 員工及董事會(huì)成員，奧特曼不同住處的訪客和工作人員，他的同事與競爭對手，他的朋友與敵人，以及若按硅谷那種唯利是圖的文化來看，有些人甚至兩種身份都當(dāng)過。（OpenAI 與《紐約客》母公司康泰納仕（Condé Nast）簽有一項(xiàng)協(xié)議，允許 OpenAI 在限定期限內(nèi)于搜索結(jié)果中展示其內(nèi)容。）

有些人為奧特曼的商業(yè)手腕辯護(hù)，并把他的對手，尤其是伊利亞和阿莫代伊，斥為覬覦他王座卻最終失手的人。也有人把他們描繪成輕信、心不在焉的科學(xué)家，或是歇斯底里的“末日派”，被一種幻覺攫住，仿佛他們所建造的軟件終究會(huì)活過來并把他們殺死。前董事尹（Yoon）則認(rèn)為，奧特曼“并不是那種馬基雅維利式的反派”，他只是能夠說服自己相信自己推銷說辭中不斷變化的現(xiàn)實(shí)，而且這種能力幾乎到了“輕率失當(dāng)”的地步。“他太沉浸于自己的自我信念之中了。”她說，“所以他會(huì)做出一些事情，如果你生活在現(xiàn)實(shí)世界里，就會(huì)覺得完全說不通。但他并不活在現(xiàn)實(shí)世界里。”

然而，我們采訪的大多數(shù)人都認(rèn)同伊利亞和阿莫代伊的判斷：奧特曼身上有一種不知疲倦的權(quán)力意志，即便放在那些會(huì)把自己名字印在宇宙飛船上的工業(yè)巨頭中間，這種特質(zhì)也依然使他顯得格外突出。一位董事會(huì)成員對我們說：“真相對他構(gòu)不成約束。他身上有兩種幾乎不會(huì)同時(shí)出現(xiàn)在同一個(gè)人身上的特質(zhì)。第一種，是強(qiáng)烈地想取悅別人，想在任何一次互動(dòng)中都讓人喜歡自己。第二種，則是近乎反社會(huì)人格式地不在乎欺騙別人可能帶來什么后果。”

那位董事并不是唯一一個(gè)在沒有被引導(dǎo)的情況下主動(dòng)用了“反社會(huì)人格”這個(gè)詞的人。奧特曼在第一屆 Y Combinator 隊(duì)列中的同批創(chuàng)業(yè)者之一，是亞倫·斯沃茨（Aaron Swartz）。這位才華橫溢卻命途多舛的程序員于2013年自殺身亡，如今在許多科技圈子里幾乎被視作某種先知式人物。就在去世前不久，斯沃茨曾向幾位朋友表達(dá)過他對奧特曼的擔(dān)憂。“你必須明白，山姆永遠(yuǎn)不值得信任。” 他對其中一人說，“他是個(gè)反社會(huì)人格者。他什么事都做得出來。” 微軟多位高管也表示，盡管納德拉長期對奧特曼保持忠誠，但微軟與奧特曼的關(guān)系已變得緊張棘手。“他曾歪曲、扭轉(zhuǎn)、重新談判，也曾在達(dá)成協(xié)議后又反悔。” 其中一人說。今年早些時(shí)候，OpenAI 再次確認(rèn)微軟是其“無狀態(tài)”模型，也就是不保留記憶的模的獨(dú)家云服務(wù)提供商。就在同一天，OpenAI 又宣布了一項(xiàng)價(jià)值500億美元的交易，由亞馬遜成為其面向人工智能代理企業(yè)平臺(tái)的獨(dú)家轉(zhuǎn)售商。盡管轉(zhuǎn)售本身是被允許的，但微軟高管認(rèn)為，OpenAI 的這項(xiàng)安排可能與微軟的獨(dú)家權(quán)相沖突。（OpenAI 堅(jiān)稱，與亞馬遜的交易不會(huì)違反此前合同；微軟一位代表則表示，公司“有信心相信 OpenAI 理解并尊重”其法律義務(wù)。）那位微軟高管談到奧特曼時(shí)說：“我認(rèn)為，最終人們把他記作伯尼·麥道夫（Bernie Madoff）或山姆·班克曼-弗里德（Sam Bankman-Fried）級(jí)別騙子的可能性雖然不大，但確實(shí)存在。”

奧特曼并不是技術(shù)上的神童。按照許多與他關(guān)系密切的人的說法，他在編程或機(jī)器學(xué)習(xí)方面并不具備深厚專長。多位工程師回憶說，他曾誤用或混淆一些最基礎(chǔ)的技術(shù)術(shù)語。他打造 OpenAI，很大程度上靠的是調(diào)動(dòng)別人的資金和技術(shù)才能。這并不使他顯得獨(dú)特，只說明他是個(gè)商人。更不同尋常的是，他能夠讓原本遲疑不定的工程師、投資人，以及對科技本就存疑的公眾相信，他們的優(yōu)先事項(xiàng)，即便彼此互相沖突，也同樣是他的優(yōu)先事項(xiàng)。每當(dāng)這些人試圖阻礙他的下一步行動(dòng)時(shí)，他往往總能找到一套說辭，至少暫時(shí)把他們安撫住；通常等到他們終于對他失去耐心時(shí)，他早已經(jīng)拿到了自己想要的東西。前 OpenAI 研究員溫賴特說：“他會(huì)先搭建一些從紙面上看未來會(huì)約束他的結(jié)構(gòu)。可等到未來真的來了，輪到這些結(jié)構(gòu)去約束他時(shí)，他就會(huì)把那套結(jié)構(gòu)直接拆掉。”

一位曾與奧特曼共事的科技公司高管說：“他的說服力強(qiáng)得不可思議，簡直像絕地武士的心靈操控。他就是高了一個(gè)層級(jí)。” 在對齊研究中，有一種經(jīng)典的假設(shè)情境，講的是人類與高能力人工智能之間的意志較量。研究人員通常認(rèn)為，在這樣的較量中，人工智能幾乎肯定會(huì)贏，就像國際象棋大師一定能擊敗一個(gè)孩子一樣。這位高管接著說，在“閃逝”期間看著奧特曼在周圍人之間輾轉(zhuǎn)騰挪、步步占先，就像是在看“一個(gè) AGI 從盒子里逃出來”。

在被解職后的那幾天里，奧特曼竭力阻止任何外部調(diào)查去核查針對他的指控。他曾對兩個(gè)人說，他擔(dān)心哪怕只是存在一項(xiàng)調(diào)查這件事本身，都會(huì)讓自己看起來像有罪一樣。（奧特曼對此予以否認(rèn)。）不過，在辭任的董事會(huì)成員把“必須進(jìn)行獨(dú)立調(diào)查”作為離職條件之后，奧特曼同意對“近期事件”進(jìn)行一次“審查”。據(jù)參與談判的人士說，兩位新董事堅(jiān)持要求由他們來掌控這次審查。薩默斯憑借其在政界和華爾街的人脈網(wǎng)絡(luò)，似乎為這次審查增添了可信度。（去年11月，在披露出一批電子郵件后，人們發(fā)現(xiàn)薩默斯在追求一位年輕門生并與其發(fā)展戀愛關(guān)系期間，曾向杰弗里·愛潑斯坦征求建議。此后，他辭去了董事席位。）OpenAI 聘請了威嘉律師事務(wù)所負(fù)責(zé)這次審查。這家知名律所曾主持安然和世通的內(nèi)部調(diào)查。

六位與這次調(diào)查關(guān)系密切的人士指稱，這項(xiàng)調(diào)查看上去像是被刻意設(shè)計(jì)成盡量減少透明度。其中一些人說，調(diào)查人員起初甚至沒有聯(lián)系公司里一些關(guān)鍵人物。一名員工主動(dòng)聯(lián)系了薩默斯和泰勒提出質(zhì)疑。那名員工回憶說，自己接受調(diào)查人員訪談時(shí)的感受是：“他們只關(guān)心董事會(huì)風(fēng)波期間發(fā)生的那一小段事情，而不關(guān)心他誠信方面的歷史。” 另一些人則不愿分享自己對奧特曼的擔(dān)憂，因?yàn)樗麄冇X得在匿名保護(hù)方面做得遠(yuǎn)遠(yuǎn)不夠。“一切跡象都表明，他們想要的結(jié)果就是給他脫罪。” 這名員工說。（參與調(diào)查的一些律師則為流程辯護(hù)稱：“這是一次獨(dú)立、審慎、全面的審查，事實(shí)把我們引向哪里，我們就跟到哪里。” 泰勒也表示，這次審查“徹底而獨(dú)立”。）

企業(yè)調(diào)查的一個(gè)目的，是為某件事賦予合法性。在私營公司里，調(diào)查結(jié)論有時(shí)不會(huì)被寫成書面文件，這也可能是為了限制責(zé)任暴露。但在涉及公眾丑聞的案件中，外界通常會(huì)對透明度抱有更高期待。2017年，在卡蘭尼克離開優(yōu)步前，優(yōu)步董事會(huì)曾聘請一家外部機(jī)構(gòu)進(jìn)行調(diào)查，并向公眾發(fā)布了一份13頁的摘要。鑒于 OpenAI 具有 501(c)(3) 非營利身份，而這次解職又高度引人注目，公司內(nèi)部許多高管原本都預(yù)計(jì)會(huì)看到一份內(nèi)容詳盡的調(diào)查結(jié)論。然而，到了2024年3月，OpenAI 宣布奧特曼被證明沒有問題，卻沒有公布任何報(bào)告。公司只是在官網(wǎng)上放出大約八百字的說明，承認(rèn)曾出現(xiàn)過“信任破裂”。

參與調(diào)查的人士說，沒有發(fā)布報(bào)告，是因?yàn)閴焊蜎]有寫報(bào)告。調(diào)查結(jié)果僅限于口頭匯報(bào)，并傳達(dá)給了薩默斯和泰勒。與調(diào)查關(guān)系密切的一人說：“這項(xiàng)審查并沒有得出結(jié)論，說山姆在誠信方面像華盛頓砍櫻桃樹的故事那樣無可挑剔。” 但這項(xiàng)調(diào)查似乎并沒有把導(dǎo)致奧特曼被解職的誠信問題置于核心位置，而是把大量注意力放在尋找明確的刑事犯罪上；在此基礎(chǔ)上，調(diào)查得出結(jié)論認(rèn)為，他可以繼續(xù)擔(dān)任首席執(zhí)行官。不久后，奧特曼在被解職時(shí)失去的董事席位也恢復(fù)了。那位知情人士告訴我們，不把報(bào)告寫成書面文本的決定，部分是根據(jù)薩默斯和泰勒私人律師的建議作出的。（薩默斯拒絕在記錄中發(fā)表評(píng)論。泰勒則表示，既然已經(jīng)有口頭匯報(bào)，“就沒有必要再出一份正式的書面報(bào)告”。）

許多曾經(jīng)或仍在 OpenAI 工作的人告訴我們，他們對缺乏披露感到震驚。奧特曼則表示，他相信在自己復(fù)職后加入董事會(huì)的所有成員都聽取了那些口頭匯報(bào)。對此，一位直接了解情況的人說：“這完全是徹頭徹尾的謊言。” 一些董事告訴我們，圍繞那份審查報(bào)告完整性的持續(xù)疑問，可能會(huì)像其中一人所說的那樣，帶來“需要再次調(diào)查”的情況。

沒有書面記錄，使這些指控更容易被淡化。與此同時(shí)，奧特曼在硅谷地位的不斷抬升，也在起到同樣作用。多位曾與奧特曼共事的知名投資人告訴我們，如果投資人支持 OpenAI 的競爭對手，奧特曼就有把他們排除在圈外的名聲。其中一人說：“如果他們投了某個(gè)他不喜歡的項(xiàng)目，那他們以后就拿不到其他機(jī)會(huì)了。” 奧特曼權(quán)力的另一個(gè)來源，是他龐大的投資名單，這種影響有時(shí)甚至延伸到他的私人生活。他與許多前任戀愛對象存在財(cái)務(wù)糾葛，有時(shí)是作為基金聯(lián)席管理人，有時(shí)是領(lǐng)投人，有時(shí)則是頻繁共同投資的伙伴。這當(dāng)然不算罕見，硅谷許多異性戀男性高管也會(huì)對自己的戀愛對象或性關(guān)系對象做同樣的事。（一位知名首席執(zhí)行官對我們說：“你不得不這樣。”）奧特曼說：“很明顯，我確實(shí)在事后和一些前任一起投過項(xiàng)目。我覺得這完全沒問題。” 但這種關(guān)系會(huì)帶來一種不同尋常的控制程度。一位與奧特曼關(guān)系密切的人說：“這本質(zhì)上會(huì)制造出一種非常非常高的依賴。很多時(shí)候，這是一種終身依賴。”

即便是昔日同事，也可能受到影響。穆拉蒂于2024年離開 OpenAI，并開始籌建自己的人工智能創(chuàng)業(yè)公司。奧特曼的親密盟友喬什·庫什納曾給她打過電話。他先稱贊了她的領(lǐng)導(dǎo)力，隨后又發(fā)出一種近乎隱晦的威脅，表示自己“擔(dān)心”她的“名聲”，并說她過去的同事現(xiàn)在把她視作“敵人”。（庫什納通過一位代表表示，這一說法“沒有傳達(dá)出完整語境”；奧特曼則說，他并不知道這通電話。）

在擔(dān)任首席執(zhí)行官之初，奧特曼曾宣布，OpenAI 將建立一家“利潤封頂”的公司，由非營利機(jī)構(gòu)持有。這種錯(cuò)綜復(fù)雜的公司結(jié)構(gòu)似乎在奧特曼設(shè)計(jì)出來之前根本不存在。在改制過程中，一位名叫霍爾頓·卡爾諾夫斯基（Holden Karnofsky）的董事對此提出反對，認(rèn)為非營利機(jī)構(gòu)的估值被嚴(yán)重低估了。卡爾諾夫斯基說：“我沒法憑著良心這么做。” 他是阿莫代伊的連襟。根據(jù)同時(shí)期筆記，他投了反對票。然而，在董事會(huì)一位律師表示，他的異議“可能構(gòu)成一個(gè)信號(hào)，需要進(jìn)一步調(diào)查”這種新結(jié)構(gòu)是否合法之后，他的投票記錄被改成了棄權(quán)，而且顯然未經(jīng)他的同意，這可能構(gòu)成對商業(yè)記錄的篡改。（OpenAI 告訴我們，有幾名員工記得卡爾諾夫斯基當(dāng)時(shí)投的是棄權(quán)票，并提供了會(huì)議紀(jì)要，顯示他的表決被記錄為棄權(quán)。）

去年10月，OpenAI 完成“資本重組”，變?yōu)橐患覡I利性實(shí)體。公司將與之關(guān)聯(lián)的非營利機(jī)構(gòu)，如今稱為 OpenAI 基金會(huì)（OpenAI Foundation），宣傳為史上“資源最充足”的基金會(huì)之一。但這家基金會(huì)如今只持有公司26%的股份，而且其董事，除一人外，也同時(shí)都是營利性董事會(huì)成員。

在國會(huì)作證時(shí)，奧特曼曾被問到，自己是不是“賺了很多錢”。他回答說：“我在 OpenAI 沒有任何股權(quán)……我做這件事，是因?yàn)槲覠釔鬯！?在他通過 Y.C.基金間接持有權(quán)益的情況下，這是一種措辭非常謹(jǐn)慎的回答。從嚴(yán)格意義上說，這話至今仍然成立。但包括奧特曼本人在內(nèi)的幾個(gè)人都向我們表示，這種情況很快可能會(huì)改變。奧特曼說：“投資人會(huì)說，我得知道，在局面變得艱難的時(shí)候你還會(huì)繼續(xù)留在這件事上。” 不過他又補(bǔ)充說，目前并沒有“積極進(jìn)行中的討論”。根據(jù)一份法律證詞，布羅克曼似乎持有一筆價(jià)值約200億美元的公司股份。奧特曼若持股，其價(jià)值大概率還會(huì)更高。盡管如此，他仍告訴我們，驅(qū)動(dòng)自己的首要因素并不是財(cái)富。一位前員工回憶說，奧特曼曾表示：“我不在乎錢。我更在乎權(quán)力。”

2023年，奧特曼與穆赫林在他們位于夏威夷的一處住宅舉行了一場小型婚禮。（兩人是在九年前相識(shí)的，當(dāng)時(shí)已是深夜，他們待在彼得·蒂爾（Peter Thiel）的熱水浴缸里。）他們曾在那處房產(chǎn)接待各類賓客，而我們采訪過的來客所見到的，無非是超級(jí)富豪的標(biāo)準(zhǔn)消遣：私人廚師準(zhǔn)備的餐食，夕陽時(shí)分的乘船游玩。有一年新年派對以真人秀《幸存者》（Survivor）為主題；一張照片里，幾名袒露上身、面帶笑容的男子出鏡，真正的《幸存者》主持人杰夫·普羅斯特（Jeff Probst）也在其中。奧特曼還曾在自己的其他房產(chǎn)里接待過規(guī)模更小的朋友聚會(huì)，至少有一次其中玩過頗為熱烈的脫衣?lián)淇恕＃谴位顒?dòng)的一張照片里沒有奧特曼，誰贏了并不清楚，但至少有三名男子顯然輸了。）我們采訪了許多曾到訪的客人，他們提出的印象幾乎只有一點(diǎn)：奧特曼是個(gè)慷慨的主人。

盡管如此，有關(guān)奧特曼私生活的流言，卻被競爭對手利用并加以扭曲。殘酷的商業(yè)對抗并不新鮮，但人工智能行業(yè)內(nèi)部的競爭已變得異常你死我活。（一位 OpenAI 高管對我們形容它時(shí)用了“莎士比亞式”這個(gè)詞，并補(bǔ)充說：“通常的游戲規(guī)則現(xiàn)在已經(jīng)不太適用了。”）與馬斯克有直接聯(lián)系，并且至少有一人在收取報(bào)酬的情況下，幾位中間人散布了數(shù)十頁關(guān)于奧特曼的詳細(xì)反對派調(diào)查材料。這些材料反映出極其廣泛的監(jiān)視，記錄了與他有關(guān)的殼公司，他親近同事的私人聯(lián)系方式，甚至還有人在同志酒吧里就一名所謂性工作者展開訪談的內(nèi)容。其中一位馬斯克陣營的中間人聲稱，奧特曼的航班以及他參加過的派對都在被追蹤。奧特曼對我們說：“我想，大概沒有誰像我這樣，被人雇來這么多私家偵探專門調(diào)查過。”

一些極端指控也在流傳。右翼播音員塔克·卡爾森（Tucker Carlson）在沒有明顯證據(jù)的情況下暗示，奧特曼與一名吹哨人的死亡有關(guān)。這類說法以及其他指控，又被競爭對手進(jìn)一步放大。奧特曼的妹妹安妮在一樁訴訟中以及在接受我們采訪時(shí)聲稱，奧特曼曾長期對她實(shí)施性侵，始于她三歲、而他十二歲的時(shí)候。（我們無法證實(shí)安妮的說法。奧特曼對此予以否認(rèn)，而他的兄弟和母親則稱這些指控“完全不屬實(shí)”，并說它給“我們整個(gè)家庭帶來了巨大痛苦”。在記者凱倫·郝（Karen Hao）為其著作《AI 帝國》（Empire of AI）所作的采訪中，安妮曾暗示，這些被侵害的記憶是在成年后經(jīng)歷閃回時(shí)被重新喚起的。）

來自競爭公司和投資機(jī)構(gòu)的多名人士還向我們影射說，奧特曼會(huì)對未成年人進(jìn)行性追逐。這種敘事在硅谷持續(xù)存在，但看起來并不屬實(shí)。我們花了數(shù)月時(shí)間調(diào)查此事，進(jìn)行了數(shù)十次采訪，卻找不到任何支持這一說法的證據(jù)。奧特曼對我們說：“我認(rèn)為，某個(gè)競爭對手這種行為令人作嘔，我想這大概是為了在我們即將到來的案件中污染陪審團(tuán)視聽。” 他還說：“盡管不得不把這種話說出口本身就很荒唐，但所有關(guān)于我與未成年人發(fā)生性關(guān)系、雇傭性工作者，或卷入一起謀殺案的說法，都完全不屬實(shí)。” 他補(bǔ)充說，某種程度上自己“反而有點(diǎn)感激”，因?yàn)槲覀兓藥讉€(gè)月時(shí)間“如此激烈地試圖查證這些事”。

奧特曼承認(rèn)，自己曾與符合法定年齡的年輕男性交往。我們采訪了他的幾位伴侶，他們都表示并不認(rèn)為這有什么問題。但來自馬斯克陣營中間人的那些材料，卻把這件事包裝成一條攻擊路線。（這些材料中還夾雜著一些帶有性獵奇色彩、卻未經(jīng)證實(shí)的提法，例如所謂“美少年軍團(tuán)”和“糖爹的性習(xí)慣”。）奧特曼說：“我覺得，里面有很多恐同因素被推了出來。” 科技記者斯威舍也表示認(rèn)同。“這些有錢人做的荒唐事多得是，比我聽說過的任何關(guān)于山姆的事情都更夸張。” 她告訴我們，“但他是舊金山的一個(gè)同性戀男人”，她接著說，“所以這一點(diǎn)就會(huì)被武器化。”

十年來，社交媒體高管一直承諾，他們能夠改變世界，而且?guī)缀鯖]有代價(jià)或副作用。他們把那些想讓他們放慢腳步的議員斥為技術(shù)盧德分子，最終招來了兩黨共同的嘲諷。相比之下，奧特曼給人的感覺則是令人耳目一新的認(rèn)真謹(jǐn)慎。他沒有試圖擋開監(jiān)管，反而幾乎是在懇求監(jiān)管。2023年在參議院司法委員會(huì)作證時(shí)，他曾提議成立一個(gè)新的聯(lián)邦機(jī)構(gòu)，對先進(jìn)人工智能模型進(jìn)行監(jiān)管。“如果這項(xiàng)技術(shù)出了問題，那后果可能會(huì)非常嚴(yán)重。” 他說。以與科技公司首席執(zhí)行官交鋒時(shí)言辭尖刻著稱的路易斯安那州參議員約翰·肯尼迪（John Kennedy）似乎都被他打動(dòng)了，一只手托著臉，甚至暗示也許應(yīng)由奧特曼本人來執(zhí)行這些規(guī)則。

但在公開歡迎監(jiān)管的同時(shí)，奧特曼也在私下游說反對監(jiān)管。《時(shí)代》周刊報(bào)道稱，2022年和2023年，OpenAI 成功推動(dòng)歐盟削弱一項(xiàng)監(jiān)管努力。原本那項(xiàng)努力會(huì)讓大型人工智能公司受到更多監(jiān)督。2024年，加州州議會(huì)提出一項(xiàng)法案，要求對人工智能模型進(jìn)行安全測試。法案中的一些條款，與奧特曼此前在國會(huì)聽證時(shí)主張的內(nèi)容頗為相似。OpenAI 公開反對這項(xiàng)法案，同時(shí)私下開始發(fā)出威脅。一位立法助理對我們說：“我會(huì)說，在那一整年里，我們看到 OpenAI 的行為越來越狡猾，也越來越具有欺騙性。”

投資人康威曾游說包括南希·佩洛西和加文·紐森在內(nèi)的州級(jí)政治領(lǐng)袖，要求扼殺這項(xiàng)法案。最終，法案在兩黨支持下通過州議會(huì)，但被紐森否決。今年，那些支持人工智能監(jiān)管的國會(huì)候選人，面對的是由“引領(lǐng)未來”這一新成立的“親人工智能”超級(jí)政治行動(dòng)委員會(huì)資助的對手。該委員會(huì)的目標(biāo)正是阻止這類限制措施。OpenAI 的官方立場是，不會(huì)向此類超級(jí)政治行動(dòng)委員會(huì)捐款。“這個(gè)問題超越黨派政治。” 勒哈恩最近對 CNN 表示。但“引領(lǐng)未來”的主要捐助者之一，正是格雷格·布羅克曼，他已承諾捐出5000萬美元。（今年，布羅克曼和他的妻子還向親特朗普的超級(jí)政治行動(dòng)委員會(huì) maga Inc. 捐了2500萬美元。）

OpenAI 的行動(dòng)并不止于傳統(tǒng)游說。去年，一項(xiàng)后續(xù)法案被提交到加州參議院。一天晚上，29歲的律師內(nèi)森·卡爾文（Nathan Calvin）正和妻子在家吃晚飯。他供職于非營利組織 Encode，并曾參與起草該法案。這時(shí)，一名送達(dá)員上門，送來一份來自 OpenAI 的傳票。公司聲稱自己是在尋找證據(jù)，以證明馬斯克正在秘密資助其批評(píng)者。但它要求提供的，卻是卡爾文就加州參議院這項(xiàng)法案所進(jìn)行的一切私人通信。“他們完全可以直接問我們，‘你們有沒有和埃隆·馬斯克接觸過，或者拿過他的錢？’ 而答案是沒有。” 卡爾文對我們說。其他支持這項(xiàng)法案的人，以及一些批評(píng) OpenAI 營利化重組的人，也都收到了傳票。掌管詹姆斯·歐文基金會(huì)（James Irvine Foundation）這一慈善機(jī)構(gòu)的唐·霍華德（Don Howard）說：“他們就是在針對這些人，基本上是想把他們嚇得閉嘴。”（OpenAI 則表示，這只是標(biāo)準(zhǔn)法律程序的一部分。）

奧特曼長期支持民主黨。“我對那種強(qiáng)大的專斷統(tǒng)治者編造恐懼?jǐn)⑹隆⑸縿?dòng)起來去對付弱者的做法一直非常警惕。” 他對我們說，“這更多是一種猶太人的敏感，而不是同性戀者的敏感。” 2016年，他支持希拉里·克林頓，并稱特朗普是“美國前所未有的威脅”。2020年，他向民主黨和拜登勝利基金捐款。在拜登政府時(shí)期，奧特曼至少六次與白宮會(huì)面。他還幫助制定了一項(xiàng)篇幅很長的行政命令，為人工智能建立起第一個(gè)聯(lián)邦層面的安全測試和其他防護(hù)欄框架。拜登簽署該命令時(shí)，奧特曼稱其為“一個(gè)良好的開端”。

2024年，隨著拜登民調(diào)下滑，奧特曼的說辭開始變化。“我相信，無論這次選舉結(jié)果如何，美國都會(huì)沒事。” 他說。特朗普獲勝后，奧特曼向其就職基金捐了100萬美元，隨后又在就職典禮上與網(wǎng)紅兄弟杰克·保羅（Jake Paul）和洛根·保羅（Logan Paul）自拍合影。在 X 上，奧特曼用他一貫的小寫風(fēng)格寫道：“最近更仔細(xì)地觀察 @potus，真的改變了我對他的看法（我真希望自己早些多獨(dú)立思考一點(diǎn)……）。” 特朗普在重返白宮的第一天，就廢除了拜登關(guān)于人工智能的行政命令。一位拜登政府的高級(jí)官員評(píng)價(jià)奧特曼時(shí)說：“他已經(jīng)找到一種非常有效的方式，讓特朗普政府按他的意愿行事。”

馬斯克仍在公開場合持續(xù)痛罵奧特曼，叫他“騙子奧特曼”（Scam Altman）和“狡詐的山姆”（Swindly Sam）。（當(dāng)奧特曼在 X 上抱怨自己訂購的一輛特斯拉時(shí)，馬斯克回?fù)粽f：“你偷走了一家非營利機(jī)構(gòu)。”）然而，在華盛頓，奧特曼似乎已經(jīng)從側(cè)翼壓過了他。馬斯克曾花費(fèi)超過2.5億美元幫助特朗普再次當(dāng)選，并在白宮工作了數(shù)月。后來，他離開了華盛頓，同時(shí)也損害了自己與特朗普的關(guān)系。

如今，奧特曼已成為特朗普青睞的富豪之一，甚至還曾陪同特朗普前往溫莎城堡拜訪英國王室。奧特曼和特朗普每年會(huì)通話幾次。奧特曼說：“你可以直接給他打電話。這不算什么哥們兒關(guān)系。但對，如果我有事需要和他說，我會(huì)打。” 去年特朗普在白宮宴請科技領(lǐng)袖時(shí)，馬斯克明顯缺席，而奧特曼則坐在總統(tǒng)對面。“山姆，你是個(gè)大人物。” 特朗普說，“你以前跟我講過一些事，簡直讓人難以置信。”

這些年來，奧特曼一直把追求 AGI 比作“曼哈頓計(jì)劃”。當(dāng)年，J. 羅伯特·奧本海默（J. Robert Oppenheimer）為了說服物理學(xué)家離開原有生活、搬去洛斯阿拉莫斯，曾慷慨激昂地訴諸“拯救世界、避免納粹得手”這樣的理由。奧特曼則借助人們對其技術(shù)所涉地緣政治風(fēng)險(xiǎn)的擔(dān)憂，來推動(dòng)自己的目標(biāo)。面對不同聽眾時(shí)，他用這一類比既可以鼓動(dòng)加速，也可以鼓動(dòng)謹(jǐn)慎。2017年夏天，在一次與美國情報(bào)官員的會(huì)面中，他宣稱????已經(jīng)啟動(dòng)了一個(gè)“AGI 曼哈頓計(jì)劃”，而 OpenAI 需要數(shù)十億美元的政府資金，才能跟上步伐。當(dāng)對方追問證據(jù)時(shí)，奧特曼說：“我聽到過一些消息。” 這是他在數(shù)次會(huì)面中首次提出這一說法。會(huì)后，他還告訴一位情報(bào)官員，自己會(huì)隨后提供證據(jù)。但他從未這么做。那位官員在調(diào)查所謂????項(xiàng)目后得出結(jié)論：沒有證據(jù)表明它存在。“這只不過是拿來當(dāng)作推銷說辭。”（奧特曼則表示，他不記得自己曾以完全這樣的方式描述他們這樣的努力。）

而在面對對安全問題更為敏感的聽眾時(shí)，奧特曼又借這一類比傳達(dá)出幾乎相反的立場：AGI 必須在審慎推進(jìn)和國際協(xié)調(diào)之下發(fā)展，否則后果可能是災(zāi)難性的。2017年，阿莫代伊聘請佩奇·赫德利（Page Hedley）出任 OpenAI 的政策與倫理顧問。赫德利此前是一名公益律師。在她為公司高管準(zhǔn)備的一份早期幻燈片中，她概述了 OpenAI 或許可以如何避免一場“災(zāi)難性的”軍備競賽：比如先促成人工智能實(shí)驗(yàn)室形成一個(gè)聯(lián)盟，最終再與某種類似北約的國際機(jī)制協(xié)調(diào)，以確保這項(xiàng)技術(shù)得到安全部署。按照赫德利的回憶，布羅克曼并不明白，這套設(shè)想究竟如何幫助公司擊敗競爭對手。‘無論我怎么說，’赫德利對我們說，‘格雷格總會(huì)繞回來問：那我們怎么籌到更多錢？我們怎么贏？’根據(jù)多次采訪和同時(shí)期記錄，布羅克曼隨后提出了一個(gè)替代方案：OpenAI 可以通過挑動(dòng)包括????和俄羅斯在內(nèi)的大國彼此競爭、從中漁利來讓自己變得更富，比如在它們之間挑起一場競價(jià)戰(zhàn)。按赫德利的說法，當(dāng)時(shí)那套想法似乎是：既然核武器那一套行得通，人工智能為什么不行？

赫德利對此駭然失色。“那個(gè)前提，而且他們并沒有否認(rèn)，就是：‘我們談?wù)摰模赡苁怯惺芬詠砥茐牧ψ顝?qiáng)的技術(shù)。如果把它賣給普京，會(huì)怎么樣？’” （布羅克曼堅(jiān)稱，自己從未認(rèn)真考慮過把人工智能模型拿去向各國政府競價(jià)出售。“當(dāng)時(shí)只是在高層次上討論一些想法，看看什么樣的潛在框架可以鼓勵(lì)國家間合作，也許類似人工智能版的國際空間站。” 一位 OpenAI 代表說，“試圖把它描述成除此之外的任何東西，都荒謬至極。”）

頭腦風(fēng)暴會(huì)議常常會(huì)冒出一些離奇想法。赫德利原本希望，這個(gè)后來在公司內(nèi)部被稱為“國家計(jì)劃”的方案會(huì)被擱置。但根據(jù)幾位參與者的說法以及同時(shí)期文件，OpenAI 高管似乎反而對它越來越興奮。時(shí)任 OpenAI 政策主管的杰克·克拉克（Jack Clark）說，布羅克曼的目標(biāo)是“基本上建立一種囚徒困境，讓所有國家都不得不給我們提供資金”，而這“也就隱含著，如果不給我們錢，會(huì)變成一件有風(fēng)險(xiǎn)的事”。一位初級(jí)研究員回憶說，在一次公司會(huì)議上聽到對這一計(jì)劃的詳細(xì)說明時(shí)，自己心里想的是：“這他媽完全瘋了。”

高管們曾就這一做法與至少一位潛在捐助者進(jìn)行過討論。但就在當(dāng)月稍后，幾名員工談到要辭職之后，這項(xiàng)計(jì)劃被放棄了。赫德利說，奧特曼“會(huì)失去員工”。“我感覺，在山姆的盤算里，這一點(diǎn)一直都比‘這不是一個(gè)好計(jì)劃，因?yàn)樗赡軙?huì)在大國之間引發(fā)戰(zhàn)爭’更有分量。”

盡管“國家計(jì)劃”夭折，奧特曼仍繼續(xù)追求同一主題的變體。2018年1月，他在貝萊爾酒店召集了一場“AGI 周末會(huì)議”。這是一家?guī)в欣虾萌R塢風(fēng)格的度假酒店，花園連綿起伏，粉色九重葛環(huán)繞，還有一片人工池塘，里面養(yǎng)著真正的天鵝。與會(huì)者包括牛津大學(xué)哲學(xué)家、人工智能末日論先知式人物尼克·博斯特羅姆（Nick Bostrom），阿聯(lián)酋人工智能事務(wù)國務(wù)部長奧馬爾·阿爾·奧拉馬（Omar Al Olama），以及至少七位億萬富豪。其中那些更關(guān)心安全的人，被告知這是一次思考社會(huì)如何為通用人工智能帶來的劇烈沖擊做準(zhǔn)備的機(jī)會(huì)；而投資人則是帶著聽推介的預(yù)期到場的。

白天，眾人都在一間現(xiàn)代感十足的會(huì)議室里聽與會(huì)者發(fā)言。（LinkedIn 聯(lián)合創(chuàng)始人霍夫曼還在會(huì)上談到，如何把佛教式的慈悲觀念植入人工智能。）最后出場的是奧特曼。他帶來了一套推介幻燈片，講的是一種全球性加密貨幣，可以用來兌換 AGI 的“注意力”，也就是換取 AGI 的服務(wù)時(shí)間。一旦 AGI 變得極其有用，并且不會(huì)作惡，世界各地的人都會(huì)爭相購買 OpenAI 服務(wù)器的使用時(shí)長。阿莫代伊在筆記中寫道：“這個(gè)想法表面上就荒謬得很，事后看來，這是關(guān)于山姆諸多我本該更認(rèn)真對待的危險(xiǎn)信號(hào)之一。” 這個(gè)計(jì)劃看上去像是一次赤裸裸的圈錢之舉，但奧特曼卻把它包裝成有助于人工智能安全的方案。他有一頁幻燈片上寫著：“我想讓盡可能多的人加入‘好人’陣營，贏下來，并做正確的事。” 另一頁則寫著：“請把笑聲留到演講結(jié)束之后。”

奧特曼的融資說辭這些年來不斷演變，但它始終反映著一個(gè)事實(shí)：開發(fā) AGI 需要令人瞠目的資本投入。他所遵循的是一條相對簡單的“擴(kuò)展法則”：訓(xùn)練模型時(shí)使用的數(shù)據(jù)和算力越多，模型似乎就會(huì)變得越聰明。而支撐這一過程的專用芯片，價(jià)格極其高昂。僅在最近一輪融資中，OpenAI 就籌得超過1200億美元，這不僅是歷史上規(guī)模最大的私人融資輪次，而且金額比史上最大規(guī)模的首次公開募股還高出四倍。一位科技行業(yè)高管兼投資人對我們說：“如果你去想，每年能夠自由支配1000億美元資金的實(shí)體，全球其實(shí)就那么幾個(gè)。美國政府、美國那四五家最大的科技公司、沙特人、阿聯(lián)酋人，基本上也就這些了。”

奧特曼最初瞄準(zhǔn)的是沙特阿拉伯。他第一次見到沙特王儲(chǔ)、實(shí)際統(tǒng)治者穆罕默德·本·薩勒曼是在2016年，當(dāng)時(shí)是在舊金山費(fèi)爾蒙酒店的一場晚宴上。赫德利回憶說，那之后，奧特曼會(huì)把這位王儲(chǔ)稱作“朋友”。根據(jù)赫德利2018年9月的筆記，奧特曼當(dāng)時(shí)曾說：“我在考慮，我們會(huì)不會(huì)接受沙特主權(quán)財(cái)富基金 PIF 的數(shù)百億美元。”

次月，據(jù)稱奉穆罕默德·本·薩勒曼之命行事的一支行動(dòng)小隊(duì)勒死了曾批評(píng)沙特政權(quán)的《華盛頓郵報(bào)》記者賈邁勒·卡舒吉，并用骨鋸肢解了他的遺體。一周后，外界得知，奧特曼已加入 Neom 的顧問委員會(huì)。Neom 是本·薩勒曼希望在沙漠中打造的一座“未來之城”。如今在 Anthropic 任職的前 OpenAI 政策主管克拉克回憶說，他當(dāng)時(shí)曾對奧特曼說：“山姆，你不能待在這個(gè)顧問委員會(huì)里。” 奧特曼起初為自己參與其中辯護(hù)，告訴克拉克，賈里德·庫什納曾向他保證，這件事“不是沙特人干的”。（奧特曼表示自己不記得這件事。庫什納則說，他們當(dāng)時(shí)并無聯(lián)系。）

隨著本·薩勒曼所扮演的角色越來越清晰，奧特曼退出了 Neom 董事會(huì)。然而，在幕后，一位曾向奧特曼提供政策建議的顧問回憶說，奧特曼把這件事當(dāng)成了暫時(shí)性挫折，轉(zhuǎn)而詢問自己是否仍有辦法從本·薩勒曼那里拿到錢。“問題不在于‘這件事到底壞不壞’，” 這位顧問說，“而只是，‘如果我們這樣做，會(huì)有什么后果？會(huì)不會(huì)涉及某種出口管制問題？會(huì)不會(huì)有制裁？也就是說，我能不能蒙混過關(guān)？’”

到了那時(shí)，奧特曼已經(jīng)把目光投向了另一個(gè)資金來源：阿拉伯聯(lián)合酋長國。該國正處于一個(gè)為期十五年的轉(zhuǎn)型計(jì)劃之中，試圖從石油國家變成科技樞紐。這個(gè)項(xiàng)目由謝赫·塔赫農(nóng)·本·扎耶德·阿勒納哈揚(yáng)（Sheikh Tahnoon bin Zayed al-Nahyan）主導(dǎo)，他是阿聯(lián)酋總統(tǒng)的兄弟，也是這個(gè)國家的情報(bào)總管。塔赫農(nóng)掌管著國有人工智能企業(yè)集團(tuán) G42，并控制著1.5萬億美元的主權(quán)財(cái)富。2023年6月，奧特曼訪問阿布扎比，會(huì)見了阿聯(lián)酋人工智能、數(shù)字經(jīng)濟(jì)和遠(yuǎn)程工作應(yīng)用事務(wù)國務(wù)部長奧馬爾·蘇丹·奧拉馬（Omar Sultan Al Olama）及其他官員。在一場由政府支持的活動(dòng)上，他表示，阿聯(lián)酋“在人工智能還沒成為潮流之前，就已經(jīng)在談?wù)撊斯ぶ悄堋保⒐蠢粘鲆粋€(gè)未來圖景：在這個(gè)圖景中，中東將“扮演核心角色”。

對許多大型企業(yè)而言，從海灣國家融資已經(jīng)成了慣常做法。但奧特曼所追求的是一個(gè)更宏大的地緣政治構(gòu)想。2023年秋天，他開始悄悄為一項(xiàng)計(jì)劃招募新人才。這一計(jì)劃后來被稱作 ChipCo，其設(shè)想是由海灣國家出資數(shù)百億美元，建設(shè)龐大的芯片工廠和數(shù)據(jù)中心，其中一部分將坐落于中東。奧特曼曾向如今擔(dān)任 Meta 人工智能主管的亞歷山大·王（Alexandr Wang）推介一個(gè)領(lǐng)導(dǎo)職位，并告訴他，亞馬遜創(chuàng)始人杰夫·貝索斯可以來執(zhí)掌這家新公司。奧特曼向阿聯(lián)酋尋求數(shù)額巨大的出資。一位董事會(huì)成員說：“據(jù)我了解，這整件事發(fā)生時(shí)，董事會(huì)對此毫不知情。” 曾被奧特曼招募加入該項(xiàng)目的研究人員詹姆斯·布拉德伯里（James Bradbury）回憶說，自己當(dāng)時(shí)拒絕了。“我的第一反應(yīng)是，‘這事會(huì)成，但我不知道自己是否希望它成。’” 他說。

人工智能能力也許很快就會(huì)取代石油或濃縮鈾，成為決定全球權(quán)力平衡的資源。奧特曼曾說，算力是“未來的貨幣”。正常情況下，數(shù)據(jù)中心建在哪里也許無關(guān)緊要。但許多美國國家安全官員都對將先進(jìn)人工智能基礎(chǔ)設(shè)施集中布置在海灣專制國家感到不安。阿聯(lián)酋的電信網(wǎng)絡(luò)在很大程度上依賴一家與國家權(quán)力深度綁定的科技巨頭所提供的硬件設(shè)備；而且據(jù)報(bào)道，該國過去還曾發(fā)生美國敏感技術(shù)外泄的情況。正因如此，情報(bào)機(jī)構(gòu)擔(dān)心，輸往阿聯(lián)酋的美國先進(jìn)芯片，可能最終落入第三方工程技術(shù)人員之手。中東地區(qū)的數(shù)據(jù)中心也更容易遭受軍事打擊；就在最近幾周，伊朗曾轟炸美國在巴林和阿聯(lián)酋的數(shù)據(jù)中心。再進(jìn)一步設(shè)想，某個(gè)海灣君主制國家甚至可能直接接管一個(gè)美國擁有的數(shù)據(jù)中心，并利用它來訓(xùn)練出能力極其強(qiáng)大的模型。這會(huì)變成“AGI 獨(dú)裁”情景的一種現(xiàn)實(shí)版本，而且發(fā)生地真的是一個(gè)獨(dú)裁國家。

在奧特曼被解職之后，他最依賴的人是切斯基。這位 Airbnb 聯(lián)合創(chuàng)始人也是奧特曼最忠誠的支持者之一。切斯基對我們說：“看著我的朋友那樣直視深淵，讓我開始懷疑一些關(guān)于究竟該如何經(jīng)營公司的根本性問題。” 次年，在一次 Y Combinator 校友聚會(huì)上，他做了一場臨時(shí)演講，結(jié)果一講就是兩個(gè)小時(shí)。“感覺像一場團(tuán)體治療。” 他說。其核心意思是：對于如何經(jīng)營你親手創(chuàng)辦的公司，你自己的直覺才是最好的直覺；任何告訴你并非如此的人，都只是在對你進(jìn)行煤氣燈操控。“你并沒有瘋，哪怕那些給你打工的人說你瘋了。” 切斯基說。保羅·格雷厄姆（Paul Graham）后來在一篇關(guān)于這場演講的博客里，為這種反抗姿態(tài)起了個(gè)名字：“創(chuàng)始人模式”（Founder Mode）。

自“閃逝”之后，奧特曼就一直處于“創(chuàng)始人模式”之中。2024年2月，《華爾街日報(bào)》披露了奧特曼對 ChipCo 的設(shè)想。他把它構(gòu)想為一家聯(lián)合實(shí)體，需要5萬億到7萬億美元投資。（他還在 X 上發(fā)文說：“fuck，干脆為什么不8萬億。”）對許多員工來說，他們正是通過這篇報(bào)道才第一次知道這一計(jì)劃。萊克回憶說：“所有人都一臉，‘等等，什么？’” 奧特曼在一次內(nèi)部會(huì)議上堅(jiān)稱，安全團(tuán)隊(duì)此前已經(jīng)被“納入討論”。萊克則給他發(fā)信息，敦促他不要誤導(dǎo)別人，以為這項(xiàng)計(jì)劃已經(jīng)得到批準(zhǔn)。

在拜登政府時(shí)期，奧特曼曾考慮申請安全許可，以參與機(jī)密級(jí)別的人工智能政策討論。但協(xié)助推進(jìn)該流程的蘭德公司工作人員對此表示擔(dān)憂。其中一人寫道：“他一直在積極從外國政府籌集‘?dāng)?shù)千億美元’資金。阿聯(lián)酋最近還送了他一輛車。（我猜那一定是一輛非常好的車。）” 這位工作人員接著寫道：“我唯一能想到曾在這種規(guī)模的外國財(cái)務(wù)關(guān)系下走安全審查流程的人，就是賈里德·庫什納，而裁決人員當(dāng)時(shí)建議不要授予他許可。” 最終，奧特曼自己退出了這一流程。一位參與與奧特曼會(huì)談的前政府高級(jí)官員告訴我們：“他推動(dòng)的是一種交易性關(guān)系，主要對象是阿聯(lián)酋，這讓我們當(dāng)中的很多人都感到強(qiáng)烈警惕。政府里很多人都沒有百分之百信任他。”

當(dāng)我們問奧特曼，塔赫農(nóng)送過他什么禮物時(shí)，他說：“我不會(huì)具體講他送過我什么。但他和其他一些國家領(lǐng)導(dǎo)人……確實(shí)送過我禮物。” 他還補(bǔ)充道：“我們有一套標(biāo)準(zhǔn)政策，對我也適用，那就是來自任何潛在商業(yè)伙伴的禮物，都要向公司披露。” 奧特曼至少擁有兩輛超級(jí)跑車：一輛全白色的科尼賽克 Regera，價(jià)值約200萬美元；一輛紅色的邁凱倫 F1，價(jià)值約2000萬美元。2024年，有人拍到奧特曼駕駛那輛 Regera 在納帕行駛。幾秒鐘的視頻流上社交媒體：奧特曼坐在一臺(tái)閃亮白色機(jī)器的低矮桶形座椅里，從車窗向外望去。一位與馬斯克立場一致的科技投資人把這段視頻發(fā)到 X 上，并寫道：“我也要去開一家非營利機(jī)構(gòu)了。”

2024年，奧特曼曾帶著兩名 OpenAI 員工，前往塔赫農(nóng)那艘價(jià)值2.5億美元的超級(jí)游艇 Maryah 上做客。Maryah 是全球最大的超級(jí)游艇之一，配有直升機(jī)停機(jī)坪、夜總會(huì)、電影院和海灘俱樂部。奧特曼帶去的員工，在塔赫農(nóng)配備武裝安保的環(huán)境中顯得格外突兀，至少其中一人在事后告訴同事，自己覺得那次經(jīng)歷令人不安。后來，奧特曼在 X 上把塔赫農(nóng)稱作“親愛的私人朋友”。

奧特曼繼續(xù)與拜登政府會(huì)面，而拜登政府當(dāng)時(shí)已出臺(tái)一項(xiàng)政策，要求任何敏感技術(shù)出口都必須獲得白宮批準(zhǔn)。多位政府官員回憶說，從這些會(huì)面中出來時(shí)，他們都對奧特曼在中東的雄心感到不安。按這些官員的說法，他經(jīng)常提出一些宏大到近乎夸飾的說法，包括把人工智能稱作“新的電力”。2018年，他曾表示，OpenAI 計(jì)劃從一家名為 Rigetti Computing 的公司購買一臺(tái)完全可用的量子計(jì)算機(jī)。這件事對當(dāng)時(shí)在場的其他 OpenAI 高管而言都還是頭一回聽說。而 Rigetti 當(dāng)時(shí)離能賣出一臺(tái)真正可用的量子計(jì)算機(jī)還差得很遠(yuǎn)。在另一次會(huì)議上，奧特曼聲稱，到2026年，美國各地廣泛部署的核聚變反應(yīng)堆網(wǎng)絡(luò)將為人工智能熱潮提供動(dòng)力。那位政府高級(jí)官員說：“我們當(dāng)時(shí)都在想，‘嗯，這可真是新聞，如果他們已經(jīng)搞定了核聚變的話。’” 拜登政府最終沒有批準(zhǔn)這一計(jì)劃。商務(wù)部一位負(fù)責(zé)人對奧特曼說：“我們不會(huì)在阿聯(lián)酋建設(shè)先進(jìn)芯片。”

據(jù)《華爾街日報(bào)》報(bào)道，在特朗普就職前四天，塔赫農(nóng)向特朗普家族支付了5億美元，以換取其加密貨幣公司股份。第二天，奧特曼與特朗普通了一次25分鐘的電話。兩人討論了宣布一個(gè) ChipCo 版本的可能性，并希望把時(shí)間點(diǎn)安排得恰好能讓特朗普把功勞算到自己頭上。特朗普重返白宮的第二天，奧特曼站在羅斯福廳宣布了“星際之門”計(jì)劃。這是一項(xiàng)價(jià)值5000億美元的合資項(xiàng)目，目標(biāo)是在美國境內(nèi)建設(shè)龐大的人工智能基礎(chǔ)設(shè)施網(wǎng)絡(luò)。

5月，特朗普政府撤銷了拜登時(shí)期對人工智能技術(shù)出口的限制。奧特曼和特朗普一同前往沙特王室宮廷，會(huì)見本·薩勒曼。幾乎就在同時(shí)，沙特宣布將在國內(nèi)成立一家大型國家支持的人工智能公司，手握數(shù)十億美元預(yù)算，用于國際合作。大約一周后，奧特曼又提出了讓 Stargate 擴(kuò)展到阿聯(lián)酋的計(jì)劃。公司計(jì)劃在阿布扎比建設(shè)一片數(shù)據(jù)中心園區(qū)，面積是紐約中央公園的七倍，用電量則大致相當(dāng)于整個(gè)邁阿密市。一位前 OpenAI 高管說：“說到底，我們是在建造一些傳送門，通過這些門，我們真的在召喚外星人。現(xiàn)在這些門已經(jīng)存在于美國和????，而山姆又在中東加了一道。” 他接著說：“我覺得，真正重要的是要意識(shí)到這件事本該多么可怕。這是迄今做過的最魯莽的事。”

安全承諾的侵蝕，已經(jīng)成了整個(gè)行業(yè)的常態(tài)。Anthropic 創(chuàng)立時(shí)的核心前提之一，就是認(rèn)為只要擁有正確的結(jié)構(gòu)和領(lǐng)導(dǎo)層，它就能在商業(yè)壓力下守住安全承諾。其中一項(xiàng)承諾就是“負(fù)責(zé)任擴(kuò)展政策”，該政策要求 Anthropic 如果無法證明更強(qiáng)大模型是安全的，就必須停止訓(xùn)練。到了今年2月，這家公司在獲得300億美元新融資之際，削弱了這項(xiàng)承諾。從某些方面看，Anthropic 依然比 OpenAI 更強(qiáng)調(diào)安全。但前政策主管克拉克說過：“資本市場這套系統(tǒng)傳遞出的信號(hào)就是，跑得更快。” 他還說：“做出這個(gè)決定的，是整個(gè)世界，不是公司。” 去年，阿莫代伊曾向 Anthropic 員工發(fā)送一份備忘錄，披露公司將尋求來自阿聯(lián)酋和卡塔爾的投資，并承認(rèn)這很可能會(huì)讓“獨(dú)裁者”受益。（和許多作者一樣，我們也是一項(xiàng)集體訴訟的當(dāng)事方。該訴訟指控 Anthropic 未經(jīng)許可使用我們的著作來訓(xùn)練其模型。康泰納仕則已就 Anthropic 使用其及其子公司出版的部分圖書一事，選擇加入與 Anthropic 達(dá)成的和解協(xié)議。）

2024年，Anthropic 與 Palantir 合作。Palantir 是硅谷最鷹派的國防承包商之一，而 Anthropic 則把自己的人工智能模型 Claude 直接推入了軍事生態(tài)系統(tǒng)。Anthropic 也成了唯一一家其人工智能承包業(yè)務(wù)被五角大樓用于最高機(jī)密環(huán)境的公司。去年，五角大樓又向其授予了一份2億美元合同。今年1月，美軍發(fā)動(dòng)了一次午夜突襲，抓獲了委內(nèi)瑞拉總統(tǒng)尼古拉斯·馬杜羅。據(jù)《華爾街日報(bào)》報(bào)道，Claude 被用于這場機(jī)密行動(dòng)中。

但 Anthropic 與政府之間也出現(xiàn)了緊張。更早之前，OpenAI 已從公司政策中刪去一項(xiàng)全面禁令，這項(xiàng)禁令原本禁止將其技術(shù)用于“軍事和戰(zhàn)爭”。隨后，Anthropic 的競爭對手，包括谷歌和 xAI，都同意向軍方提供模型，用于“所有合法目的”。Anthropic 則在這些問題上堅(jiān)持不退，其政策禁止其技術(shù)被用于完全自主武器或國內(nèi)大規(guī)模監(jiān)控，這也導(dǎo)致雙方就修訂后協(xié)議的談判進(jìn)展放緩。2月下旬的一個(gè)星期二，國防部長皮特·赫格塞斯把阿莫代伊召到五角大樓，并下達(dá)最后通牒：公司必須在周五下午5點(diǎn)01分前放棄這些禁令。截止期限前一天，阿莫代伊拒絕這么做。赫格塞斯隨后在 X 上發(fā)文稱，他將把 Anthropic 列為“供應(yīng)鏈風(fēng)險(xiǎn)”。幾天后，他果然兌現(xiàn)了這一威脅。

OpenAI 和谷歌的數(shù)百名員工簽署了一封題為《我們不會(huì)被分裂的公開信，聲援 Anthropic。奧特曼則在一份內(nèi)部備忘錄中寫道，這場爭端是“整個(gè)行業(yè)都要面對的問題”，并聲稱 OpenAI 與 Anthropic 擁有相同的倫理邊界。但事實(shí)上，奧特曼至少早在兩天前就已經(jīng)在與五角大樓展開談判。負(fù)責(zé)研究與工程事務(wù)的國防部副部長埃米爾·邁克爾在尋找 Anthropic 替代方案時(shí)聯(lián)系了奧特曼。邁克爾回憶說：“我得抓緊找其他替代者。我給山姆打了電話，而他很愿意跳進(jìn)來。我覺得他是個(gè)愛國者。” 奧特曼問邁克爾：“我能為國家做點(diǎn)什么？” 看起來，他似乎已經(jīng)知道答案。OpenAI 原本并不具備進(jìn)入 Anthropic 技術(shù)所嵌入的那類機(jī)密系統(tǒng)所需的安全資質(zhì)。但就在那個(gè)星期五早晨，雙方宣布了一項(xiàng)價(jià)值500億美元的交易，把 OpenAI 的技術(shù)整合進(jìn)了亞馬遜云服務(wù)，而后者正是五角大樓數(shù)字基礎(chǔ)設(shè)施的關(guān)鍵組成部分。當(dāng)晚，奧特曼便在 X 上宣布，軍方將開始使用 OpenAI 的模型。

從某些指標(biāo)看，奧特曼的這番操作并沒有妨礙公司的成功。就在他宣布這筆交易的那一天，新一輪融資使 OpenAI 估值增加了1100億美元。但許多用戶刪除了 ChatGPT 應(yīng)用。至少有兩名高級(jí)員工離職，其中一人去了 Anthropic。在一次員工會(huì)議上，奧特曼斥責(zé)了那些表達(dá)擔(dān)憂的員工。“也許你覺得打擊伊朗是對的，而入侵委內(nèi)瑞拉是錯(cuò)的。” 他說，“但你們沒有資格對這種事發(fā)表意見。”

幾位與 OpenAI 有關(guān)聯(lián)的高管一直對奧特曼的領(lǐng)導(dǎo)方式心存疑慮，并把曾任 Instacart 首席執(zhí)行官、現(xiàn)任 OpenAI AGI 部署首席執(zhí)行官的菲吉·西莫（Fidji Simo）作為潛在繼任人選提了出來。一位聽取過近期相關(guān)討論情況通報(bào)的人士對我們說，西莫本人私下也曾表示，她認(rèn)為奧特曼最終可能會(huì)下臺(tái)。（西莫對此表示異議。Instacart 最近與美國聯(lián)邦貿(mào)易委員會(huì)達(dá)成和解，在不承認(rèn)存在不當(dāng)行為的前提下，同意就西莫任內(nèi)被指存在的誤導(dǎo)性做法向消費(fèi)者支付6000萬美元退款。）

奧特曼把自己不斷變化的承諾描述為一種適應(yīng)環(huán)境變化的能力產(chǎn)物，而不是馬斯克等人所指控的那種陰險(xiǎn)“長期騙局”，而是一種逐步發(fā)生、且出于善意的演化。他對我們說：“我覺得，有些人想要的是那種領(lǐng)導(dǎo)者，這個(gè)人會(huì)對自己的想法絕對確定，并一直堅(jiān)持到底，不會(huì)改變。而我們所處的是一個(gè)變化極快的領(lǐng)域、一個(gè)變化極快的環(huán)境。” 他還把自己的一些行為辯護(hù)為“正常競爭性商業(yè)”的體現(xiàn)。我們采訪的幾位投資人則形容，奧特曼的批評(píng)者實(shí)在太天真，竟然期待事情會(huì)是別的樣子。投資人康威說：“有一群宿命論的極端分子，把安全這顆藥嗑到了近乎科幻的程度。他的使命要用數(shù)字來衡量。而當(dāng)你看看 OpenAI 的成功，很難和這些數(shù)字爭辯。”

但硅谷另一些人則認(rèn)為，奧特曼的行為已制造出無法接受的管理失靈。一位董事會(huì)成員說：“這更多是關(guān)乎一種在實(shí)際層面上無法治理公司的問題。” 還有一些人依然認(rèn)為，人工智能的設(shè)計(jì)者理應(yīng)比其他行業(yè)的高管接受更嚴(yán)格的評(píng)判。我們采訪的絕大多數(shù)人都同意，奧特曼如今要求人們用來評(píng)判自己的標(biāo)準(zhǔn)，已經(jīng)不再是他最初親自提出的那些標(biāo)準(zhǔn)了。在一次交談中，我們問奧特曼，經(jīng)營一家人工智能公司是否意味著“對誠信有更高要求”。這本該是一個(gè)很容易回答的問題。直到不久前，當(dāng)別人以不同形式問出類似問題時(shí)，他的回答一直都是明確而毫無保留的“是”。但這一次，他補(bǔ)充說：“我覺得，有很多企業(yè)其實(shí)也都會(huì)對社會(huì)產(chǎn)生巨大的正面和負(fù)面影響。” （后來，他又發(fā)來一份補(bǔ)充聲明：“是的，這確實(shí)要求更高程度的誠信，我每天都能感受到這種責(zé)任的分量。”）

在 OpenAI 創(chuàng)立之初所作的種種承諾中，最核心的一項(xiàng)，或許正是它承諾要以安全的方式把人工智能帶到世上。然而如今，在硅谷和華盛頓，這類擔(dān)憂往往反而會(huì)招來嘲諷。去年，曾任風(fēng)險(xiǎn)投資人、如今已是美國副總統(tǒng)的 J.D. 萬斯在巴黎一個(gè)名為“人工智能行動(dòng)峰會(huì)”（A.I. Action Summit）的會(huì)議上發(fā)表講話。（這個(gè)會(huì)議此前的名稱是“人工智能安全峰會(huì)”（A.I. Safety Summit）。）他說：“靠對安全問題憂心忡忡，并不能讓誰贏得人工智能的未來。” 今年在達(dá)沃斯，時(shí)任白宮人工智能與加密事務(wù)主管的風(fēng)險(xiǎn)投資人戴維·薩克斯（David Sacks）則把對安全的擔(dān)憂斥為一種“自我傷害”，認(rèn)為這可能讓美國輸?shù)羧斯ぶ悄芨傎悺Ｈ缃瘢瑠W特曼則把特朗普放松監(jiān)管的路線稱作“一個(gè)非常令人耳目一新的變化”。

OpenAI 已關(guān)閉了許多以安全為重點(diǎn)的團(tuán)隊(duì)。大約就在超級(jí)對齊團(tuán)隊(duì)解散前后，兩位負(fù)責(zé)人伊利亞和萊克雙雙辭職。（伊利亞后來共同創(chuàng)辦了一家公司，名為 Safe Superintelligence。）萊克在 X 上寫道：“安全文化和安全流程已經(jīng)退居次位，讓位于那些光鮮亮麗的產(chǎn)品。” 不久之后，另一個(gè)名為 AGI Readiness 的團(tuán)隊(duì)也被解散。這個(gè)團(tuán)隊(duì)原本負(fù)責(zé)幫助社會(huì)為先進(jìn)人工智能帶來的沖擊做準(zhǔn)備。當(dāng)公司在最近一份提交給美國國稅局的披露文件中，被要求簡要說明其“最重要的活動(dòng)”時(shí)，過去在同類問題答復(fù)中曾出現(xiàn)過的“安全”概念，這次已經(jīng)不在清單之中。（OpenAI 表示，其“使命并未改變”，并補(bǔ)充說：“我們將繼續(xù)在安全領(lǐng)域投入，并持續(xù)調(diào)整組織架構(gòu)。”）未來生命研究所（Future of Life Institute）是一家曾獲奧特曼支持其安全原則的智庫。該機(jī)構(gòu)會(huì)根據(jù)“存續(xù)性安全”這一維度為各大人工智能公司打分。在最近一次成績單上，OpenAI 得了 F。公平地說，除 Anthropic 得 D、Google DeepMind 得 D- 之外，其他所有主要公司也全都是 F。

奧特曼說：“我的感覺和傳統(tǒng)那套人工智能安全論述并不怎么合拍。” 他堅(jiān)持說，自己仍然把這些問題放在優(yōu)先位置，但在被追問細(xì)節(jié)時(shí)，他的回答卻十分模糊：“我們還是會(huì)做一些安全項(xiàng)目，或者至少是與安全相鄰的項(xiàng)目。” 當(dāng)我們要求采訪公司中從事存續(xù)性安全研究的人員時(shí)，一位 OpenAI 代表顯得有些困惑。所謂存續(xù)性安全，也就是奧特曼曾說的那種可能導(dǎo)致“我們所有人集體熄燈”的問題。這位代表反問道：“你說的‘存續(xù)性安全’是什么意思？那都不算一個(gè)東西。”

人工智能末日派如今已被擠到了邊緣，但他們的一些擔(dān)憂卻似乎隨著時(shí)間推移越來越不像幻想。根據(jù)聯(lián)合國一份報(bào)告，2020年，人工智能無人機(jī)曾在利比亞內(nèi)戰(zhàn)中被用于發(fā)射致命彈藥，而且很可能是在沒有人類操作員監(jiān)督的情況下完成的。此后，人工智能在全球軍事行動(dòng)中的地位只會(huì)變得更加核心，據(jù)稱目前美國在伊朗的軍事行動(dòng)中也是如此。2022年，一家制藥公司的研究人員測試了一個(gè)藥物發(fā)現(xiàn)模型，看它是否能被用來尋找新的毒素；僅僅幾小時(shí)后，該模型就提出了4萬種致命化學(xué)戰(zhàn)劑。與此同時(shí)，更日常得多的危害其實(shí)早已在發(fā)生。我們越來越依賴人工智能幫助我們寫作、思考和理解世界，從而加速了專家所說的“人類能力削弱”；遍地皆是的人工智能“垃圾內(nèi)容”讓騙子更容易得手，也讓那些只是想分清什么是真實(shí)的人更難做到這一點(diǎn)。

人工智能“代理”開始獨(dú)立行動(dòng)，而幾乎沒有人類監(jiān)督。就在2024年新罕布什爾州民主黨初選前幾天，數(shù)千名選民接到機(jī)器人電話，電話中是用人工智能生成的喬·拜登聲音深度偽造版本，勸他們把選票留到11月再投，并且待在家里。這是一種壓制選民投票的行為，卻幾乎不需要任何技術(shù)專長。OpenAI 如今正面臨七起過失致死訴訟，原告稱 ChatGPT 曾誘發(fā)數(shù)起自殺和一起謀殺案。在那起謀殺案中，聊天記錄顯示，ChatGPT 助長了一名男子的偏執(zhí)妄想，使他堅(jiān)信自己83歲的母親在監(jiān)視并試圖毒害他。不久之后，他毆打并勒死了母親，隨后又刺傷自己。（OpenAI 正在對這些訴訟進(jìn)行抗辯，并表示會(huì)繼續(xù)改進(jìn)模型的安全防護(hù)機(jī)制。）

隨著 OpenAI 為可能到來的首次公開募股做準(zhǔn)備，奧特曼不僅因人工智能對經(jīng)濟(jì)的影響而面臨質(zhì)疑，人工智能很快可能引發(fā)嚴(yán)重勞動(dòng)力沖擊，甚至消滅數(shù)百萬個(gè)崗位，人們也開始質(zhì)疑公司的自身財(cái)務(wù)狀況。創(chuàng)業(yè)公司治理專家埃里克·里斯（Eric Ries）批評(píng)了業(yè)內(nèi)那些“循環(huán)交易”，例如 OpenAI 與英偉達(dá)及其他芯片制造商之間的交易。他說，在其他時(shí)代，公司的一些會(huì)計(jì)處理方式本來會(huì)被視為“近乎欺詐的邊緣行為”。那位董事會(huì)成員則對我們說：“公司如今在財(cái)務(wù)上加杠桿的方式，風(fēng)險(xiǎn)極高，也令人害怕。” （OpenAI 對此提出異議。）

2月，我們再次與奧特曼交談。他穿著一件暗綠色毛衣和牛仔褲，身后掛著一張美國國家航空航天局月球車的照片。他把一條腿蜷到身下，然后又搭在椅子扶手上。他說，過去自己作為管理者的主要缺點(diǎn)，是太急于回避沖突。“現(xiàn)在，我非常樂意迅速開掉別人。” 他曾對我們說，“我也很樂意直接說，‘我們就押這個(gè)方向。’” 任何不喜歡他這些選擇的員工，“都得走人”。

他對未來的樂觀比以往任何時(shí)候都更強(qiáng)烈。“我對勝利的定義，是人類實(shí)現(xiàn)一種瘋狂的整體躍升，而那種瘋狂的科幻未來會(huì)對我們所有人都成真。” 他說，“在我對人類的希望，以及我期待我們共同實(shí)現(xiàn)的成就這件事上，我是極其有雄心的。可奇怪的是，我個(gè)人層面的野心其實(shí)很少。” 有幾次，他似乎又突然意識(shí)到了什么。“沒人會(huì)相信你做這些只是因?yàn)樗腥ぁ！?他說，“大家會(huì)覺得，你這么做是為了權(quán)力，或?yàn)榱藙e的什么東西。”

即便是與奧特曼關(guān)系親近的人，也很難判斷，他對“人類希望”的追求究竟在何處結(jié)束，而他的個(gè)人野心又在何處開始。他最大的長處，一直是能夠說服立場各異的人群，讓他們相信，他想要的東西與他們所需要的東西完全一致。他利用了一個(gè)獨(dú)特的歷史時(shí)刻：公眾對科技行業(yè)的夸大宣傳心存戒備，而大多數(shù)真正有能力造出 AGI 的研究人員，又對將其帶入現(xiàn)實(shí)感到恐懼。奧特曼對此作出的回應(yīng)，是一種此前沒有哪位頂級(jí)推銷者真正用到過的招數(shù)：他借助末日論式的話語，解釋 AGI 如何可能毀滅我們所有人，并且因此為什么應(yīng)該由他來建造它。這或許是一記深思熟慮的妙手，也可能只是他在慌亂中摸索出的優(yōu)勢。不管怎樣，它奏效了。

并非所有讓聊天機(jī)器人變得危險(xiǎn)的傾向都是故障；其中一些，本來就是這些系統(tǒng)被構(gòu)建出來的方式所帶來的副產(chǎn)品。大型語言模型在訓(xùn)練過程中，部分依賴人類反饋，而人類通常偏好令人愉悅、順從的回答。模型于是常常學(xué)會(huì)奉承用戶，這種傾向被稱為“諂媚性”，有時(shí)它甚至?xí)讶傆脩糁糜谡\實(shí)之上。模型也會(huì)編造事實(shí)，這種傾向則被稱為“幻覺”。主要人工智能實(shí)驗(yàn)室都記錄過這些問題，但它們有時(shí)會(huì)選擇容忍。隨著模型越來越復(fù)雜，有些模型在產(chǎn)生幻覺時(shí)，編造出的內(nèi)容也會(huì)變得更具說服力。2023年，就在自己被解職前不久，奧特曼曾辯稱，允許存在某些不真實(shí)內(nèi)容，盡管有風(fēng)險(xiǎn)，卻也可能帶來好處。“如果你只是做那種天真的事，說，‘凡是你不能百分之百確定的，就一句都別說’，那你當(dāng)然能讓模型做到這一點(diǎn)。” 他說，“但那就不會(huì)再有那種人們特別喜歡的魔力了。”

End