《硅谷最危險的人》七期連載系列之第二期｜杰弗里·辛頓愛徒的70頁文件：AI第一科學家為何反目

No.0278

Science Partner

Bring you to the side of science

導 讀

你得先認識杰弗里·辛頓的這個得意門生，伊利亞·蘇茨克維這位“仙人”。

伊利亞·蘇茨克維，1986年生于蘇聯。發際線后退，雙眼深邃，說話時常停頓，眨眼斟酌詞語。在同行眼中，他可能是同輩中最有天賦的AI科學家。

他不是那種熱衷于聚光燈的人。他是那種會在實驗室發現一個新論文、然后從椅子上跳起來跑過走廊對大家大喊“停下手里所有事，就是這個了！”的那種人。2017年他在辦公室讀到谷歌的Transformer論文時，就干了這件事。而那篇論文，正是今天所有大語言模型的技術基礎。

這樣一個人，為什么要花時間整理70頁文件，彈劾自己的老朋友兼老板奧特曼呢？

走，跟伙伴君來！

今日主筆 | 恒意

杰弗里·辛頓愛徒的70頁文件：AI第一科學家為何反目

01. 答案在于他真的相信

了解伊利亞，首先要理解他的世界觀。

他真的相信：人類正在制造一種可能比任何核武器都危險的東西。不是假裝相信，不是為了融資說說漂亮話，是真的、骨子里相信。他在OpenAI的早期曾對新員工說：“你們將拯救世界?！辈皇潜扔鳎亲置嬉馑?。

隨著公司規模的擴大，隨著模型一代比一代強，他越來越確信AGI的到來不再遙遠。而與此同時，他越來越懷疑：掌控這項技術的那個人，是否配得上這份責任。

他對其他董事說了一句話，后來成為這篇《紐約客》報道的核心引述：“我認為山姆不該是那個手握決策按鈕的人?！?/p>

02. 那70頁里寫了什么

伊利亞約請了志同道合的同事，花數周時間，整理了約70頁的材料：Slack聊天記錄、人力資源文件、相關說明文字。有些圖片明顯是用手機拍攝的，顯然是為了避免在公司設備上留下痕跡。

這份文件以閱后即焚的消息形式發送給其他董事。一名收到備忘錄的董事回憶：“他當時極度恐懼?！?/p>

這份文件是指控奧特曼的，用最簡潔的話說，就是兩個字：撒謊。有一份備忘錄開頭列了一個清單，標題是“山姆一貫表現出……”，第一條就是“撒謊”。具體指控包括：向高管和董事歪曲事實；在內部安全規程上欺騙董事會；就安全審批狀態做出虛假聲明；向不同人做出相互矛盾的承諾。

03. 其實，還有另一份文件

伊利亞的文件在硅谷被直接稱為“伊利亞備忘錄”，廣為流傳。

但《紐約客》的調查其實還披露了另一份此前從未公開的文件：達里奧·阿莫迪（Dario Amodei）在OpenAI任職期間寫下的200多頁私人筆記，標題叫《我與OpenAI的經歷》，副標題赫然寫著私密，請勿分享。

阿莫迪是誰？他是OpenAI的前研究負責人，后來離職創立了Anthropic，研發了Claude系列AI工具，現在OpenAI旗下GPT最強勁的競爭對手。

兩個人，各自獨立、沒有密謀，卻得出了幾乎相同的結論。阿莫迪在筆記里直接寫道：“OpenAI最大的問題，就是山姆本人?！?/p>

04. 為什么沒有人在當時阻止他？

這是這個故事最讓人不舒服的地方。

這些擔憂不是突然冒出來的。早在Loopt時代，奧特曼的早期員工就觀察到他模糊”我或許能做成這件事“和”我已經做成了這件事“的界限。一名曾受投資者委托擔任其監護人的資深員工甚至說，極端情況下這會釀成Theranos那樣的騙局（Theranos是硅谷歷史上最臭名昭著的詐騙案）。但奧特曼每次都能把關鍵人留住，把反對者化解，在關鍵時刻找到足夠多的盟友。

伊利亞自己，最終也在那場“政變”最關鍵的時刻動搖了，因為他意識到：如果奧特曼不復職，OpenAI將會覆滅。他為了保住這家公司，親手瓦解了自己精心策劃的彈劾。這或許是整個故事里最令人唏噓的細節。那么，一個真問題是，后來事實到底證明了，誰才是那個謊言的人呢？

我是恒意，咱們明天繼續聊～有了解事情原委的伙伴，歡迎在評論區留言呀～

曾經是親密伙伴的奧特曼（左）和 蘇茨克維 （右）

本文僅作科普分享使用，歡迎小伙伴們點、收藏、關注，以備不時之需，當然更歡迎您把 介紹給周邊可能需要的更多伙伴們呀。