OpenAI驚天內(nèi)幕日前被《紐約客》披露出來。
其發(fā)布的一篇深度調(diào)查報(bào)道顯示，70頁內(nèi)部備忘錄與200余頁私人筆記，揭示出OpenAI驚天內(nèi)幕。
而前者是OpenAI首席科學(xué)家Ilya Sutskever在2023年秋天匯編的。
后者則是由Anthropic聯(lián)合創(chuàng)始人Dario Amodei保留多年。
這些內(nèi)部保密文件劍指一個(gè)結(jié)論，那就是Sam Altman存在“一貫撒謊”的行為模式。
此事再一次引發(fā)外界討論，當(dāng)一家AI公司掌舵者誠信存在問題，其對(duì)整個(gè)社會(huì)到底會(huì)產(chǎn)生何種影響。
1
Ilya Sutskever那份公司內(nèi)部文件，是用手機(jī)偷拍的，在2023年秋天匯編成了70頁備忘錄，發(fā)給董事會(huì)成員。
這份文件讓董事會(huì)成員都膽戰(zhàn)心驚。文件列表第一條竟然是“說謊”。
OpenAI成立之初，曾做過“安全必須優(yōu)先于一切”的核心承諾，公司的愿景則為“確保AGI造福全人類”。
為此，OpenAI于2023年春天宣布成立“超級(jí)對(duì)齊團(tuán)隊(duì)”，由Jan Leike和Sutskever領(lǐng)導(dǎo)。公司承諾將“我們迄今獲得的20%算力”投入這個(gè)團(tuán)隊(duì)，潛在價(jià)值超過10億美元。
這個(gè)承諾實(shí)際上并未兌現(xiàn)。
“實(shí)際資源只有公司算力的1%到2%。”這是四位在該團(tuán)隊(duì)工作或與其密切合作的人士透露的信息。
而且，一位團(tuán)隊(duì)研究員說：“大部分超級(jí)對(duì)齊算力實(shí)際上在最舊的集群上，用的是最差的芯片。”
更好的硬件被保留用于創(chuàng)收活動(dòng)。
Leike向當(dāng)時(shí)的CTO Mira Murati抱怨，但她告訴他別再提這件事——這個(gè)承諾從來就不現(xiàn)實(shí)。
Altman早在2022年12月的一次會(huì)議上就已“說謊”。他向董事會(huì)保證，即將推出的GPT-4模型中的各種功能已獲得安全小組批準(zhǔn)。董事會(huì)成員Helen Toner要求提供文件。
然而，Mira Murati發(fā)現(xiàn)，并未獲批準(zhǔn)的功能出現(xiàn)。比如一個(gè)允許用戶為特定任務(wù)“微調(diào)”模型的功能，以及另一個(gè)將其部署為個(gè)人助理的功能。
另一個(gè)案例則是，微軟在印度發(fā)布了ChatGPT的早期版本，但并未完成安全審查。Altman在與董事會(huì)的簡報(bào)中卻并未提及相關(guān)內(nèi)容。
還有另一個(gè)情況，那就是2023年，公司準(zhǔn)備發(fā)布GPT-4 Turbo模型。Altman告訴Mira Murati這個(gè)模型不需要安全批準(zhǔn)，可是后來有人士證實(shí)這是錯(cuò)的。
超級(jí)對(duì)齊團(tuán)隊(duì)負(fù)責(zé)人之一Leike，在GPT-4發(fā)布后，給董事會(huì)成員發(fā)了公司偏離使命軌道的郵件。
然而，2024年，超級(jí)對(duì)齊團(tuán)隊(duì)被解散。Sutskever和Leike辭職。
不久之后，AGI準(zhǔn)備團(tuán)隊(duì)——負(fù)責(zé)讓社會(huì)為先進(jìn)AI的沖擊做好準(zhǔn)備——也被解散。

2
Dario Amodei的200余頁私人筆記，是離開OpenAI致歉保留多年的，涉及Altman和Brockman的私人筆記。
其中一份文件里，Amodei寫道：Altman的話“幾乎肯定是bullshit（胡說八道）”。
Amodei加入OpenAI之前，Altman曾在一次晚餐上向他保證：OpenAI會(huì)專注于安全，“也許不是馬上，但會(huì)盡快”。
然而，Amodei發(fā)現(xiàn)，那之后多年里，承諾被陸續(xù)打破。
筆記的標(biāo)題是“My Experience with OpenAI”，副標(biāo)題：“Private: Do Not Share”。
前些年，一場針對(duì)Altman的獨(dú)立調(diào)查，卻被指似乎限制透明度，但一直沒有什么結(jié)論。
2024年3月，OpenAI宣布為Altman開脫，但沒有發(fā)布報(bào)告。公司在網(wǎng)站上提供了大約800字，承認(rèn)“信任破裂”。
不久之后，Altman重新加入董事會(huì)。不制作書面報(bào)告的決定部分是根據(jù)Summers和Taylor的私人律師的建議做出的。
許多前任和現(xiàn)任OpenAI員工表示，他們對(duì)缺乏披露感到震驚。Altman說，他相信所有在他復(fù)職后加入的董事會(huì)成員都收到了口頭簡報(bào)。
“這是徹頭徹尾的謊言，”一位直接了解情況的人士說。一些董事會(huì)成員表示，關(guān)于報(bào)告完整性的持續(xù)質(zhì)疑可能會(huì)促使“需要進(jìn)行另一次調(diào)查”。
《紐約客》的報(bào)道還揭露了Altman更廣泛的行為模式。
第一個(gè)是雙重獨(dú)家協(xié)議：Altman被曝與微軟、亞馬遜等巨頭存在沖突性協(xié)議，試圖同時(shí)鎖定多方獨(dú)家合作。
第二個(gè)是個(gè)人利益沖突：Altman個(gè)人投資了400多家公司，與前男友們存在復(fù)雜的財(cái)務(wù)關(guān)系；被曝凍結(jié)投資競爭對(duì)手的投資者。
第三個(gè)是意識(shí)形態(tài)轉(zhuǎn)向：從“有效利他主義”轉(zhuǎn)向“有效加速主義”，主張不受限制地推進(jìn)AI發(fā)展。
第四個(gè)是政治布局：與特朗普建立密切關(guān)系，捐贈(zèng)100萬美元就職基金。
第五個(gè)是商業(yè)擴(kuò)張：公司從非營利轉(zhuǎn)向營利，估值或達(dá)萬億美元；與中東政權(quán)達(dá)成500億美元AI基礎(chǔ)設(shè)施協(xié)議；向軍方開放技術(shù)，用于移民執(zhí)法、監(jiān)控和自主武器。
OpenAI的故事曾經(jīng)是關(guān)于人類未來的宏大敘事：一家非營利組織，為了確保AGI造福全人類而奮斗。
但今天，這個(gè)故事變成了關(guān)于權(quán)力、謊言和破碎承諾的內(nèi)部戲劇。