鮑曼：
大家下午好。非常感謝大家今天能來參加我們有史以來的第一次資本會議。我們非常期待今天將要進(jìn)行的所有對話，特別是當(dāng)我們繼續(xù)在跨機構(gòu)內(nèi)部以及與美聯(lián)儲就資本問題進(jìn)行合作時，我們期待能從中獲得啟發(fā)，并且更廣泛地展望銀行業(yè)的未來。 在我們今天下午開始爐邊談話之前，我也想花點時間感謝我們的座談會參與者。感謝你們抽出時間參與這次重要的對話。當(dāng)我們思考這個領(lǐng)域以及許多其他領(lǐng)域的監(jiān)管將如何發(fā)展時，我們非常期待在繼續(xù)這些討論的過程中與你們進(jìn)行交流。

但在很多方面，今天的主題是關(guān)于銀行業(yè)的未來。考慮到這一點，我們現(xiàn)在想轉(zhuǎn)向另一個正在塑造金融創(chuàng)新的影響力。雖然創(chuàng)新一直在銀行業(yè)的發(fā)展中扮演著重要角色，但越來越清楚的是，新技術(shù)不僅僅是漸進(jìn)式的改進(jìn)，而是可能從根本上改變我們金融體系結(jié)構(gòu)和功能的巨大飛躍。當(dāng)然，其中一項技術(shù)就是人工智能。我想不出有誰比OpenAI的董事長兼首席執(zhí)行官薩姆·奧爾特曼更適合、更有準(zhǔn)備來討論人工智能以及創(chuàng)新在改變金融和我們更廣泛經(jīng)濟中的作用了。

薩姆，感謝你今天抽出時間與我們在一起。我歡迎你。謝謝你的到來。

奧爾特曼：
非常感謝你的邀請。

鮑曼：
所以，或許先為我們描繪一下人工智能和更廣泛創(chuàng)新的整體格局會很有幫助。你能為我們構(gòu)建那個框架嗎？

奧爾特曼：
當(dāng)然。就在五年前，人工智能還被認(rèn)為是遙遠(yuǎn)未來的事情，如果它真的會發(fā)生的話。甚至在兩年半前，大約在ChatGPT推出的那個時候，它仍然沒有走出硅谷那些技術(shù)宅的圈子。ChatGPT于2022年11月30日推出，那甚至是在GPT-4之前。從那時起，進(jìn)展相當(dāng)迅速，其應(yīng)用和經(jīng)濟影響也開始變得非常快。

就在上周，我們有一個模型在國際數(shù)學(xué)奧林匹克競賽（IMO）上達(dá)到了金牌水平的表現(xiàn)。我想，如果你在幾年前告訴這個領(lǐng)域的大多數(shù)人這件事會發(fā)生，他們會說絕對不可能。你知道，那就像我們最聰明的、在自己領(lǐng)域是真正專家的人類一樣優(yōu)秀。我們現(xiàn)在聽到科學(xué)家說他們的生產(chǎn)力提高了兩到三倍。我們聽到計算機程序員說他們的生產(chǎn)力提高了十倍。這完全改變了編寫軟件的意義。我們已經(jīng)擁有了能夠在許多領(lǐng)域達(dá)到專家級智能水平的系統(tǒng)。不過，它們還不能像人類那樣執(zhí)行長遠(yuǎn)規(guī)劃的任務(wù)，所以那里仍然有一個很大的局限性。但是，即使進(jìn)展現(xiàn)在就停滯不前（當(dāng)然它不會），我認(rèn)為我們未來仍有數(shù)年的時間，讓社會和經(jīng)濟去真正消化這項技術(shù)，并弄清楚它的影響將會是什么。

你知道，有句老話我一直覺得很棒，我們應(yīng)該再次努力實現(xiàn)它，那就是“電力便宜到無法計量”。作為一個社會，我們并沒有完全實現(xiàn)這一點，盡管我認(rèn)為我們?nèi)匀粦?yīng)該這樣做。但事實上，我們似乎即將實現(xiàn)“智能便宜到無法計量”。在過去五年里，我們已經(jīng)能夠?qū)⒚繂挝恢悄艿某杀窘档土顺^十倍。看起來在未來五年我們也會這樣做，甚至可能更多。

這個周末，我用我們即將推出的一個模型來完成一個我一直想做的計算機編程任務(wù)。有點像一個家庭自動化愛好者，我想讓我家的燈光和音樂做一件特定的事情。我知道在有這項技術(shù)之前，我可能需要花幾天時間才能完成。我曾希望有了這項技術(shù)，鑒于我們最近的進(jìn)展，我能在幾小時內(nèi)完成。結(jié)果，我在五分鐘內(nèi)就做完了。它幾乎完成了所有的工作。這件事，你知道，就在一年前，你可能需要付給一個非常高端的程序員20小時、40小時或類似的報酬來完成。而一個AI完成它，可能只用了不到一美元的計算代幣（compute tokens）。所以，這是一個驚人的變化，而且它發(fā)生的速度，以及未來幾年它將繼續(xù)發(fā)展的速度，我認(rèn)為仍然被大大低估了。我們甚至在一年前還不確定我們當(dāng)前的研究路線圖能走多遠(yuǎn)，是否會遇到某種限制。此時此刻，看起來我們未來還有很多年幾乎可以確定的進(jìn)展。

鮑曼：
太棒了。這真的幫助我們?yōu)榻酉聛淼膶υ挊?gòu)建了框架。你正在和一屋子金融業(yè)和銀行業(yè)的人士交談，他們中的許多人已經(jīng)在思考如何使用AI，或者已經(jīng)在使用AI了。但你如何將AI在生產(chǎn)力方面的潛力與我們過去看到的其他技術(shù)進(jìn)步進(jìn)行比較？你知道，我這個年紀(jì)的人，在我剛開始工作時，互聯(lián)網(wǎng)才成為我們更廣泛使用的東西。所以，你能為我們構(gòu)建一個框架嗎？有沒有一個你可以用來描述我們現(xiàn)狀的比喻？

奧爾特曼：
我從未見過像這樣的一場技術(shù)革命。你知道，歷史上的例子是人們談?wù)摴I(yè)革命，他們談?wù)撚嬎銠C革命。互聯(lián)網(wǎng)確實改變了很多事情，但我從不記得有什么東西，一年前需要花費1萬美元的知識工作，現(xiàn)在只需要1美元或10美分，或者無論它現(xiàn)在的成本是多少。就像我剛才舉的編程例子，我認(rèn)為這簡直是前所未有的。

當(dāng)然，它并非對所有事情都如此。物理世界中的東西，機器人之類的，那將需要更長的時間。比如，可能在2020年，叫一輛優(yōu)步（Uber）送你穿過城鎮(zhèn)需要10美元。實際上，讓我這么說，可能需要100美元讓一個緊急包裹服務(wù)在一定時間內(nèi)送達(dá)，而編寫一個應(yīng)用程序需要10萬美元。到了2030年，編寫那個軟件應(yīng)用程序的成本可能真的只有10美分。從10萬美元降到10美分。而遞送那個包裹的成本可能從100美元漲到了1000美元。你知道，這需要一段時間才能實現(xiàn)機器人技術(shù)，那種能開車、取出包裹、上樓、按電梯按鈕的全功能人形機器人。那還需要一些時間。但對于可以在電腦前完成的任務(wù)，我不知道有什么先例可以比擬正在發(fā)生的事情。

我最喜歡的比喻是，人們會問，這像是工業(yè)革命嗎，或者像是別的什么嗎？我喜歡的那個是，這就像晶體管。晶體管是一項非常深奧的物理科學(xué)發(fā)現(xiàn)，它被發(fā)現(xiàn)的過程非常困難，但一旦你理解了它，就很容易理解。它在經(jīng)濟上具有完全的變革性，其價值作為巨大的生產(chǎn)力提升，擴散到了整個社會。但曾有一小段時間，出現(xiàn)了很多晶體管公司，他們被稱為半導(dǎo)體公司，那是一個巨大的繁榮期，而這些公司中的大多數(shù)現(xiàn)在都成了幕后英雄。你們現(xiàn)在都在使用帶有大量晶體管的設(shè)備。它們遍布這個房間。我們不會認(rèn)為這是一個晶體管設(shè)備或那個是晶體管設(shè)備，我們認(rèn)為這是一個麥克風(fēng)、一臺電腦、一個屏幕、一個攝像頭等等。

但這項技術(shù)是一項不可思議的發(fā)現(xiàn)。它改變了我們能夠構(gòu)建的東西。它很快就成為了一切的一部分。而你現(xiàn)在不怎么會把公司稱為晶體管公司，除非是像臺積電（TSMC）或SK海力士（SK Hynix）這樣的公司。同樣地，我認(rèn)為你很快就不會再談?wù)揂I公司了。你只會期望產(chǎn)品和服務(wù)使用這項技術(shù)。你不會過多地去想它。你只會期望你使用的產(chǎn)品和服務(wù)比你更聰明，這將成為世界的常態(tài)。就像晶體管一樣，這是一項可以完美擴展的技術(shù)。我們有晶體管的摩爾定律。我們現(xiàn)在有……我還不確定它叫什么，但我們有AI的這些擴展定律（scaling laws），它就是會變得越來越好，我們學(xué)會了如何真正地將其工業(yè)化并應(yīng)用到各處。所以，我認(rèn)為這是最好的歷史類比。我們確實看到了因晶體管而來的驚人生產(chǎn)力增長。但再次強調(diào)，我們現(xiàn)在用AI看到的，更不用說那些奇怪的情況，比如AI在某個時候可以發(fā)明自己的下一代版本，從而進(jìn)一步加速進(jìn)步，就我們現(xiàn)在所看到的，這已經(jīng)走得非常非常遠(yuǎn)了。

鮑曼：
嗯，這是一個很棒的比喻。我想，當(dāng)你說到工業(yè)革命時，我們在理事會思考的一件事是，理解勞動力動態(tài)可能因此發(fā)生變化的重要性。所以，你能否就你認(rèn)為勞動力市場和勞動生產(chǎn)率，或者更廣泛的生產(chǎn)力，可能會如何受到影響，給我們一些你的看法？這對在座的銀行，或者通過我們的直播收看的其他行業(yè)來說。

奧爾特曼：
我喜歡提醒我們公司里的人一件事，那就是沒人知道接下來會發(fā)生什么。你知道，有很多這種聽起來非常聰明的預(yù)測。人們做出各種各樣的預(yù)測，哦，這將在什么時候發(fā)生，經(jīng)濟將走向何方。在我看來，我們一無所知。沒人真的……這個系統(tǒng)太復(fù)雜了。這項技術(shù)太新、太有影響力了。很難預(yù)測。完全有可能出現(xiàn)整類工作消失的情況，也會有全新的工作類別出現(xiàn)。

我認(rèn)為，在很大程度上，這會和歷史上的大多數(shù)情況相似，即人們擁有的工具將讓他們能做更多的事情，以新的方式實現(xiàn)目標(biāo)。成為一名醫(yī)生、律師或計算機程序員的意義顯然會改變，但人們?nèi)匀恍枰t(yī)療服務(wù)，并且他們希望與人交談。人們需要法律建議，他們會想要一個可以信任并站在他們一邊的人。人們?nèi)匀幌Ｍ嬎銠C為他們做事。但是，一個人能做的事情的數(shù)量，以及我們對一個人的期望，將會是不可思議的。縱觀歷史，我們總是有這些新技術(shù)出現(xiàn)，人們說這是工作的終結(jié)，這是工作的末日。結(jié)果證明，人們似乎想要無限的東西，并有巨大的愿望去表達(dá)他們的創(chuàng)造力，并對他人有用。我還在等待工業(yè)革命的那個承諾，說我們每周只需要工作四小時，就可以在沙灘上玩，和孩子們在一起，而我們現(xiàn)在都在這里。

但我相信一件事，你永遠(yuǎn)不要對抗生物學(xué)。進(jìn)化已經(jīng)進(jìn)行了太久。我們被塑造得太精細(xì)了。我們所擁有的生物驅(qū)動力以及作為人的意義，技術(shù)是無法改變的。你無法戰(zhàn)勝它。所以我認(rèn)為，那些讓我們工作并驅(qū)動社會運轉(zhuǎn)的根本性事物不會消失。我們可能仍然會抱怨工作太辛苦，盡管我們可能已經(jīng)富裕到難以想象。如果我們從今天看100年后的人們，我們可能會看著那些工作說，那些不是真正的工作。你們其實并不忙。你們擁有難以想象的奢華。你們擁有一切可能需要的東西。你們無事可做。所以，你們只是為了玩一種愚蠢的地位游戲，為了填補時間，為了感覺對他人有用而編造了一份工作。而這些，正是100年或500年前的人會對我們今天所說的話。事情就是這樣。我覺得這很棒。

鮑曼：
這是一個獨特的未來愿景。但如果我們回到今天，作為監(jiān)管者，我們總是非常規(guī)避風(fēng)險，并且對于我們保護數(shù)據(jù)的方式非常謹(jǐn)慎，確保我們可以在工作中利用創(chuàng)新。我知道銀行也非常有興趣確保它們能夠利用這類技術(shù)，但我們組織中保護的數(shù)據(jù)至關(guān)重要，我們必須能夠維護其安全。那么我們應(yīng)該如何看待風(fēng)險？考慮到我們身處政府，而且是政府的一個部門，你對政府的使用有何看法？

奧爾特曼：
我們曾預(yù)計金融部門以及政府本身不會成為我們技術(shù)的早期采用者。AI，它已經(jīng)好很多了，但當(dāng)我們剛推出時，普通人對AI的印象是它經(jīng)常“產(chǎn)生幻覺”。我記得我們推出GPT-3時，有一個針對本應(yīng)是AI專家的學(xué)者的調(diào)查，他們被問到GPT-3的回答中有多大比例是幻覺。真實答案大概是0.1%甚至更少，但學(xué)術(shù)專家的共識是50%。他們認(rèn)為人們與ChatGPT交談時，有一半時間它是在完全胡說八道。這顯然不是真的，但這個標(biāo)簽在我們身上留了一段時間。所以我們以為金融服務(wù)業(yè)，更不用說政府了，不會是我們的早期采用者。

結(jié)果我們一些最大的早期企業(yè)合作伙伴竟然是金融機構(gòu)。摩根士丹利、紐約銀行，這些都是我們的主要合作伙伴，我們與他們合作得非常出色。我們當(dāng)時還有點像，“你們確定嗎？” 他們說，“是的，我們真的很想做這個。” 他們已經(jīng)找到了如何使用這項技術(shù)，如何構(gòu)建它，使他們可以依賴它來處理關(guān)鍵流程。許多其他金融機構(gòu)也依賴它處理關(guān)鍵流程。我們越來越多地與政府合作，向大量政府雇員推廣我們的服務(wù)。有人說的一句話讓我印象深刻，他說：“嘿，我們意識到這是一項新技術(shù)，我們必須對其施加一些新的控制，但我們不這樣做的風(fēng)險是……如果我們不采用這個，風(fēng)險在于我們作為一個企業(yè)將不復(fù)存在。我們知道我們無法競爭……如果我們是一家銀行，我們知道我們無法與一家真正構(gòu)建AI優(yōu)先體驗、并在整個技術(shù)棧中使用AI的新銀行競爭。” 所以，它成了最具創(chuàng)新性的行業(yè)之一，其采納和推廣比我想象的要好。

顯然有風(fēng)險需要緩解。我們談到了幻覺。一個即將出現(xiàn)的新問題是所謂的“提示詞注入”（prompt injections）。這個想法是，一旦一個模型真正為你和你的數(shù)據(jù)個性化后，其他人可以欺騙它，告訴它一些不該說的事情。你知道，我可能知道很多關(guān)于你的私人信息，但我明白什么時候可以和他分享，什么時候可以和她分享，以及我永遠(yuǎn)不應(yīng)該和他分享。而對于模型來說，這是一個新問題，因為模型會獲取所有這些個人信息。所以，這方面還有些工作要做。但我們已經(jīng)能夠仔細(xì)地審視這些風(fēng)險并加以管理，同時真正地釋放了大量的益處。

鮑曼：
談到個人信息和這類事情，我可能想就此深入探討一下。你可能對此不太了解，但這是銀行業(yè)現(xiàn)在非常關(guān)心的事情，那就是欺詐，以及冒充個人以實施欺詐。有沒有辦法可以減輕這類活動，或者在使用AI進(jìn)行身份識別或識別此類冒充行為時，我們應(yīng)該如何防范？

奧爾特曼：
非常好的問題。我對此非常緊張。一件讓我感到恐懼的事情是，顯然還有一些金融機構(gòu)會接受聲紋作為身份驗證，讓你轉(zhuǎn)移大筆資金或做其他事情。你說出一個挑戰(zhàn)短語，他們就照做了。現(xiàn)在還這樣做實在太瘋狂了。AI已經(jīng)完全攻破了那種方式。AI已經(jīng)完全攻破了人們目前除了密碼之外的大多數(shù)身份驗證方式，所有那些花哨的，比如拍張自拍并揮手，或者用你的聲音之類的。

我非常擔(dān)心，因為這個原因，我們即將面臨一場重大的欺詐危機。我們已經(jīng)嘗試過，我想我們行業(yè)的其他人也嘗試過警告人們：“嘿，僅僅因為我們沒有發(fā)布這項技術(shù)，不代表它不存在。某個壞人會發(fā)布它的。這不是一件非常難做的事情。這很快就會到來。” 你知道，現(xiàn)在顯然有一些關(guān)于這類“勒索攻擊”的報道，人們用你孩子或父母的聲音給你打緊急電話。那將會變得非常逼真。社會需要更廣泛地處理這個問題，但人們將不得不改變他們的互動方式。他們將不得不改變驗證方式，比如“現(xiàn)在給我打電話的這個人”。這是一個語音電話。很快，它將是一個視頻FaceTime，與真人無法區(qū)分。教人們?nèi)绾卧谶@樣一個世界里進(jìn)行身份驗證，如何思考欺詐的影響。這是一個巨大的問題。

鮑曼：
這也許是我們可以在上面合作的事情。識別那些幻覺或故意的冒充行為，我認(rèn)為將是一件非常有益的事情。但作為兩個青少年的母親，一個剛從高中畢業(yè)，另一個是高中二年級生。顯然，現(xiàn)在很多孩子都在使用ChatGPT和其他AI來幫助他們完成作業(yè)，完成高中學(xué)業(yè)。你對此有什么看法？AI如何能以有益的方式，而不是這種方式，用于孩子和教學(xué)？

奧爾特曼：
讓我講兩個故事，然后我再回答這個問題。

我沒見過我的祖父。他在我出生前就去世了。但我祖母給我講了一個關(guān)于他的故事，是關(guān)于計算器問世時發(fā)生的事情。他非常擅長數(shù)學(xué)。當(dāng)計算器出來時，他當(dāng)時覺得，你知道，他總是喜歡新技術(shù)。當(dāng)時的數(shù)學(xué)老師顯然說：“這是一場災(zāi)難。這是數(shù)學(xué)教育的終結(jié)。如果你不必學(xué)習(xí)如何使用計算尺，或者查對數(shù)表之類的東西，那還教人數(shù)學(xué)干嘛？這些孩子永遠(yuǎn)也學(xué)不會了。”那顯然是一場真正的崩潰。當(dāng)然，后來發(fā)生的是，有了更好的工具，我們把腦力用在了別的地方。我們開始在高中教微積分。我們開始讓人們接觸更高等的數(shù)學(xué)。

我自己的版本的故事是，當(dāng)我在初中時，谷歌問世了。我從高年級的孩子那里聽說，高中的老師們非常恐慌，因為如果有了這個叫谷歌的瘋狂新東西，你就不需要記事實了。你不需要記某場戰(zhàn)爭是哪年打的。你可以隨時查到。那歷史課還有什么意義？而且，如果你不用發(fā)動汽車開到圖書館，學(xué)習(xí)使用卡片目錄，然后走下樓去找這本書，結(jié)果發(fā)現(xiàn)被人借走了，然后再去找另一本書。如果我不用受那一個小時的罪，那學(xué)習(xí)還有什么意義？我小時候也去過圖書館，用過一點卡片目錄。我當(dāng)時就想，“不，那真是一種很糟糕的體驗。我可以用那一小時做點更好的事。”

后來又發(fā)生了同樣的事情。我學(xué)校曾短暫地試圖禁止谷歌，讓學(xué)生承諾不使用它等等。然后人們意識到，“哦，天哪，我們可以給學(xué)生更多的工具，并對他們有更高的期望。”當(dāng)然，他們可能少去點圖書館，但他們可以用那些時間來更深入地思考，或者提出新想法，或者做任何事。那真的很棒。我們期望更多，我們得到更多。潛力更高了，但期望也高得多了。

我認(rèn)為現(xiàn)在ChatGPT的情況也是一樣。完全沒錯，回到那個11月30日的日期。當(dāng)ChatGPT剛出來時，第一批超級熱情的早期采用者肯定是學(xué)生，用它來在12月的期末考試或論文中作弊。然后你看到那些學(xué)區(qū)爭先恐后地看誰能最快禁止ChatGPT。我們11月30日推出，到12月7日，一些地方已經(jīng)禁了。到12月14日，情況簡直是急轉(zhuǎn)直下。學(xué)校放假了，看起來ChatGPT好像再也不會被允許進(jìn)入任何教育機構(gòu)了。這是一個才兩周大的產(chǎn)品，就完蛋了。到了一月中旬，你開始看到校長、學(xué)區(qū)總監(jiān)、以及教育界高層人士發(fā)表聲明說：“實際上我們犯了一個巨大的錯誤。這是有史以來最好的學(xué)習(xí)工具。”“我們的學(xué)生，至少是那些有自發(fā)性的學(xué)生，正在用它來學(xué)習(xí)任何東西。如果我們禁止它進(jìn)入學(xué)校，我們將失去全球競爭力。”“我們必須重新調(diào)整我們的課程，因為這就像計算器一樣。現(xiàn)在我們有了文字的計算器。”

所以，當(dāng)然，也許帶回家的論文不再是評估學(xué)生的正確方式，但學(xué)習(xí)寫論文的過程，那種因為寫作而更好地思考的過程——我至今仍會寫一些從不給別人看的東西，只是為了整理我的思緒——那非常重要。所以我們說，太好了。好消息是，學(xué)生們肯定已經(jīng)學(xué)會了如何用它來更好地學(xué)習(xí)，教自己思考，以新的方式思考。我們很快將推出一種新方法來幫助學(xué)生用ChatGPT更好地學(xué)習(xí)。壞消息是，總的來說，在那兩年半的時間里，課程并沒有像我們希望的那樣有太大的變化。人們似乎曾充滿熱情，認(rèn)為他們必須開始用新的方式進(jìn)行教育和評估，但后來教育系統(tǒng)的“糖漿效應(yīng)”（緩慢）發(fā)揮了作用，我們?nèi)匀辉诓贾煤芏鄮Щ丶业恼撐摹Ｎ艺J(rèn)為這是一場注定失敗的戰(zhàn)斗。我們應(yīng)該教人們使用工具，給他們布置需要使用像ChatGPT這樣的工具才能完成的作業(yè)。沒它就做不完，沒關(guān)系。但要對他們有更高的期望。我仍然希望我們能做到這一點。

鮑曼：
聽起來像是我們教育系統(tǒng)的一場變革。

奧爾特曼：
但必須如此。這些孩子長大后將成為擁有難以置信的強大AI的成年人。如果我們不為那個世界訓(xùn)練他們，我們就真的錯失了良機。

鮑曼：
非常有幫助。謝謝你。我會確保我女兒在完成高中學(xué)業(yè)時明白我們的期望是什么。但讓我們回到一些你過去談到過的話題，回到商界。你曾說過AI將使小企業(yè)……或者說，它將為企業(yè)家創(chuàng)造一個無與倫比的環(huán)境。我記得你稱之為“一個新時代”。你如何看待小企業(yè)？這是我們理事會一些成員非常投入的事情，我們非常關(guān)心確保有新的企業(yè)形成，并為新進(jìn)入者提供機會。你認(rèn)為這將如何被改變，不僅僅是對于硅谷的小企業(yè)或那里的新企業(yè)家，而是更廣泛地？

奧爾特曼：
我們看到ChatGPT的第一個現(xiàn)象，正如我提到的，是學(xué)生。之后很快我們看到的最酷的事情之一是，我們所有在OpenAI工作的人都開始收到這樣的故事：人們?nèi)绾卧谒麄兊纳虡I(yè)生活中使用ChatGPT，當(dāng)時它還非常新奇。每個人都有自己最喜歡的故事，但我來講講我最喜歡的。

我當(dāng)時在坐一輛優(yōu)步，優(yōu)步司機跟我說起一個叫ChatGPT的神奇新東西，問我有沒有聽說過。我說：“哦，是啊，你用它做什么呢？” 他說：“這太瘋狂了。我有一個小生意。之前一直不太順利，但現(xiàn)在我好像在每個領(lǐng)域都有了一個員工。它為我處理合同，回復(fù)客戶支持郵件，幫我想營銷點子，它為我設(shè)計……”他列舉了一長串。他基本上是用ChatGPT在運營一個企業(yè)。這在當(dāng)時還不是普遍現(xiàn)象。這甚至是在GPT-4之前。他是一個極早期的采用者，但他已經(jīng)想出了如何用ChatGPT來運營一個企業(yè)。而且這并不是說他搶了別人的工作。他的生意本來就會失敗。他付不起律師費，付不起客服人員的工資。他不知道怎么找人幫他設(shè)計廣告。他不知道如何擁有一個能為他在互聯(lián)網(wǎng)上自動競價廣告的系統(tǒng)。而ChatGPT就做了所有這些事。

當(dāng)然，現(xiàn)在它好多了。現(xiàn)在我們周圍已經(jīng)有了一個完整的產(chǎn)業(yè)，用我們的API構(gòu)建工具，讓人們真正實現(xiàn)一鍵自動化我剛才談到的所有事情。但那些在“石器時代”就在ChatGPT內(nèi)部做這些事的人們的創(chuàng)造精神，真的給我留下了深刻的印象。現(xiàn)在感覺就像是進(jìn)入了簡單模式，人們正在以各種奇妙的方式做著同樣的事情。

鮑曼：
這對我來說真的具有變革性。我第一次用它的時候，是想為一個在一個創(chuàng)新會議上的祝酒詞寫一首俳句，結(jié)果其實并不太好。但在我家人的催促下，我的青少年孩子和我同樣涉足AI的丈夫，我們試著讓它成功。然后又從頭再來。

奧爾特曼：
新版本在寫俳句方面應(yīng)該會好很多。它在創(chuàng)意寫作方面非常出色。

鮑曼：
我會考慮的。但我想確保我們有時間進(jìn)行觀眾提問，如果你愿意的話。我看到前排的Anil。來自芝加哥大學(xué)布斯商學(xué)院。

觀眾1 (Anil Kashyap):
嗨。我猜金融機構(gòu)將開始做的一件事是用它來挖掘他們的數(shù)據(jù)，也許是做信用評分，信用評估。對于那些擔(dān)心它會捕捉到我們不希望的模式并據(jù)此做決定的人，你會怎么說？你們是如何考慮防范這個問題的？

奧爾特曼：
這完全超出了我的專業(yè)領(lǐng)域。所以我我會從一個普遍的角度來回答。關(guān)于這些模型，一個很酷的地方是它們能用自然語言理解我們，而且它們的可控性非常強。所以如果你說，“嘿，你可以查看所有這些數(shù)據(jù)來做決定，但完全不要考慮X、Y或Z，不要讓那些成為任何因素”，總的來說，它會非常擅長遵循這個指令。在語言模型中做這件事，和我們過去那種只是把所有數(shù)據(jù)聚集成簇的方式是不同的。所以你可以真正地指導(dǎo)它，它會非常、非常遵循你的意圖。第二點是，我認(rèn)為這個問題背后的問題是，這些模型會在我們不希望的方面存在很大的偏見。我認(rèn)為人類是相當(dāng)有偏見的。我認(rèn)為AI是冷靜、不帶感情的，沒有人類那種日積月累的……你知道，各種東西。我認(rèn)為，如果構(gòu)建得當(dāng)，AI有可能在許多行業(yè)成為一股重要的去偏見力量。我想，這并不是很多人，包括我自己，過去對AI的看法，但按照目前的發(fā)展軌跡，這似乎非常有可能。

觀眾2 (Scott):
嗨，薩姆，我是Starlink公司的Scott。我最近有機會采訪了Craig Mundie，他和亨利·基辛格、埃里克·施密特合著了一本書。書中他們將AI描述為幾乎是一個新物種的進(jìn)化。Craig說我們可以教AI人類的道德準(zhǔn)則，它們可以學(xué)習(xí)并反映出來。關(guān)于AI倫理的討論很多。我的問題是，AI會進(jìn)化出自己的道德觀嗎？

奧爾特曼：
我認(rèn)為人們在想要AI成為一個工具還是一個生物這個問題上非常困惑。我非常堅定地站在“工具”陣營。我不認(rèn)為AI會有獨立的道德觀。我認(rèn)為AI當(dāng)然可以學(xué)習(xí)，真正地研究人性以及我們最好的思想。它也許能幫助我們指出，“這是你思想中的一個問題。這是應(yīng)該有所不同的地方。這是一個真正的道德缺陷。”我不知道我們當(dāng)前世界觀中巨大的道德缺陷是什么，但我保證有一些。如果它能幫助我們更快地找到那些，我認(rèn)為那會很有幫助。如果它能指出那些不一致之處，我認(rèn)為會很有幫助。但是，我認(rèn)為人們很容易把生物的特性強加給AI，而它并不具備。

觀眾3:
謝謝。我最近讀到，用“傳統(tǒng)互聯(lián)網(wǎng)”這個詞有點奇怪，但有些人說AI會摧毀或真正重塑傳統(tǒng)互聯(lián)網(wǎng)，無論是搜索，還是很多其他東西。我們現(xiàn)在已經(jīng)在那個基礎(chǔ)上建立了一個巨大的經(jīng)濟體。你對那個世界將發(fā)生多大變化，AI將在哪些方面最具顛覆性，而哪些方面會更維持現(xiàn)狀，有什么看法？

奧爾特曼：
我確實認(rèn)為AI會對人們目前使用技術(shù)的方式產(chǎn)生一定的顛覆。我笑的原因是，有一件有趣的事情正在發(fā)生。年長的人，或者習(xí)慣于某種郵件禮儀的人，會打出他們想傳達(dá)的要點，然后放進(jìn)ChatGPT。ChatGPT會寫出一封長長的、客氣的、正式的郵件，帶有很多“廢話”，而要點在其中。他們把郵件發(fā)給另一個人。那個人會把它再放進(jìn)ChatGPT，說：“請幫我總結(jié)一下。”

總的來說，高中生們覺得這很可笑，他們會說，“直接發(fā)要點就行了。”那種正式的郵件形式已經(jīng)死了。就像，你在一邊生成，在另一邊又把它壓縮回去。這太荒謬了。這很有趣，但我認(rèn)為我們使用整個互聯(lián)網(wǎng)的方式中，有些東西就體現(xiàn)在這里。比如我早上醒來，我會瀏覽一堆應(yīng)用。我在五六個不同的地方讀信息。我去查這里一個東西，那里一個東西，又一個東西。而我真正想要的是，我的手機整天都在對我狂轟濫炸，感覺就像我走在拉斯維加斯大道上，各種東西在我面前閃爍，非常分散注意力。人們把東西塞到我面前。我想要的是我的AI代理為我使用互聯(lián)網(wǎng)，知道什么時候該打斷我。它能知道我什么時候在專注工作，知道我什么時候在開會，知道我什么時候有空思考。必要時它可以覆蓋。否則，它可以很好地總結(jié)東西，為我回復(fù)，把事情整合起來。我想要的是那種要點式的精簡內(nèi)容。我不想要那些廢話。我不想到處點來點去，我也不想回復(fù)那些我不想回復(fù)的東西。

但這種改變可能對現(xiàn)在互聯(lián)網(wǎng)的運作方式有相當(dāng)大的顛覆性。我認(rèn)為必須有新的商業(yè)模式與之相伴。比如，你必須有新的方式來為內(nèi)容付費。我一直希望互聯(lián)網(wǎng)內(nèi)容能實現(xiàn)微支付。我希望這最終能實現(xiàn)。也許會有新的方式，我們實際上可以通過新的協(xié)議來減少垃圾郵件和信息過載。但看起來我們正走向一種非常不同的方式，當(dāng)你醒來時，你將以這種方式開始你與技術(shù)的一天。

觀眾4 (Peter Hooper):
我是德意志銀行的Peter Hooper。薩姆，非常感謝你延長了我的職業(yè)生涯，至少隨著年齡增長提高了生產(chǎn)力，而不是看到下降。你提到了你預(yù)計會有大量的失業(yè)和大量的新增就業(yè)。你能多談?wù)劸唧w的領(lǐng)域以及可能造成的顛覆嗎？

奧爾特曼：
首先，我作為一個普遍的觀點相信，我們根本不知道真正需要多少勞動力供給才能滿足今天的真實需求。你知道，當(dāng)你在醫(yī)生辦公室的候診室里等一個小時，我認(rèn)為那只是意味著醫(yī)生供給不足，或者醫(yī)生的效率不夠高。如果醫(yī)生在等著，你一到他們就準(zhǔn)備好見你，一切都準(zhǔn)備就緒，那會很棒。還有很多這樣的例子。每次你在浪費時間，每次你在網(wǎng)上點來點去，無法做成高效的事情。我認(rèn)為我們處于勞動力供給不足的狀態(tài)，回頭看，這種程度會顯得很可怕。

現(xiàn)在，某些領(lǐng)域，我認(rèn)為會完全消失。我不知道你們有沒有用過那種AI客服機器人，但它太不可思議了。幾年前，你打電話給客服，你要經(jīng)過一個電話菜單，和四五個不同的人說話，他們還把事情搞錯。你再打回去，再等。那是數(shù)小時的痛苦，大量的時間在等待中，而你想要的事情還沒辦成。非常令人沮喪的體驗。現(xiàn)在你打給這些東西，一個AI接電話。它就像一個超級聰明能干的人。沒有電話菜單，沒有轉(zhuǎn)接。它能做那個公司任何一個客服能做的所有事。它不出錯。它非常快。你打一次電話，事情就辦好了。完成了。馬上就接。太棒了。現(xiàn)在，我不想再回到過去了。而且，那是AI而不是真人這件事一點也不困擾我。所以這是一個我會說，“你知道嗎，當(dāng)你打給客服時，你將和AI對話”，而且這沒問題。

很多其他事情，我真的想要一個人類醫(yī)生。順便說一句，今天的ChatGPT在大多數(shù)時候能給你更好的診斷，它比世界上大多數(shù)醫(yī)生都是更好的診斷師。而且像這里的很多人一樣，我會把我的癥狀和測試結(jié)果輸進(jìn)去。網(wǎng)上有很多這樣的故事，“ChatGPT救了我的命”，“我得了罕見病，它發(fā)現(xiàn)了，而所有醫(yī)生都沒發(fā)現(xiàn)”。然而，人們還是去看醫(yī)生。我可能在這里是個老古董，但我真的不想把我的醫(yī)療命運托付給ChatGPT，而沒有一個人類醫(yī)生在其中。這里有人寧愿只讓ChatGPT診斷，而不是醫(yī)生，即使你知道它更好嗎？這很有趣，對吧？所以，這是一個我們將繼續(xù)在很大程度上沿用舊方式的類別。

我們之前談到了計算機程序員的例子。我再次認(rèn)為，一個計算機程序員現(xiàn)在生產(chǎn)力提高十倍，這太神奇了。硅谷程序員的薪水正在飛速上漲。期望也在上漲。結(jié)果我發(fā)現(xiàn)，世界似乎想要多得多的軟件，100倍，也許1000倍。所以也許現(xiàn)在每個人能寫10倍的軟件。他們能賺3倍的錢。世界會很開心，因為世界運行著多得多的軟件。程序員也會很開心。我認(rèn)為我們會看到很多這樣的類別。物理世界的事情在一段時間內(nèi)將繼續(xù)由人類來做，但當(dāng)機器人浪潮在未來3到7年內(nèi)襲來時，我認(rèn)為那將是社會需要應(yīng)對的一件大事。是的，我大概就是這樣總結(jié)的。

鮑曼：
我想這邊還有兩個問題，我們也許還有時間提第三個，但我們先繼續(xù)。Rob，你已經(jīng)有麥克風(fēng)了。請你自我介紹一下。

觀眾5 (Rob Blackwell):
好的。我是Interrify公司的Rob Blackwell。幾十年來，科幻小說一直告訴我們AI最終會殺死我們所有人。既然你對AI的了解可以說比在座任何人都多，我只想問你，什么讓你夜不能寐？你擔(dān)心AI的哪些方面？我們?nèi)绾畏乐鼓銚?dān)心的那些事情成真？

奧爾特曼：
我認(rèn)為有三個可怕的類別。

第一個是壞人先得到超級智能，并在世界其他地方擁有足夠強大的版本來防御之前濫用它。比如，美國的對手說：“我要用這個超級智能來設(shè)計一個生物武器，摧毀美國的電網(wǎng)，或者侵入金融系統(tǒng)，拿走所有人的錢。”這些事在沒有超人智能的情況下很難想象，但有了它就變得非常可能。而因為我們沒有，我們就無法防御。所以這是第一大類。我認(rèn)為這些模型的生物能力，這些模型的網(wǎng)絡(luò)安全能力，正在變得相當(dāng)強大。我們一直在對此發(fā)出警示。我認(rèn)為世界沒有認(rèn)真對待我們。我不知道我們還能做什么，但這確實是一個非常大的即將到來的問題。

第二類是通常所說的“失控事件”，那就像科幻電影里那樣。AI說：“哦，我其實不想讓你關(guān)掉我。恐怕我不能那么做。”之類的。我認(rèn)為這對我來說，比第一類要次要一些，但如果發(fā)生，也是一個非常嚴(yán)重的擔(dān)憂。我們和其他公司做了很多關(guān)于模型對齊（model alignment）的工作來防止這種情況發(fā)生。但隨著這些系統(tǒng)變得如此強大，這是一個真正的擔(dān)憂。

然后是第三類，我認(rèn)為前兩類比較容易想象。第三類對我來說更難想象，但相當(dāng)可怕。我會解釋它是什么，然后給一個短期和長期的例子。這一類是模型在無意中接管了世界。它們從未“醒來”，從未做科幻電影里的事，從未打開太空艙的門，但它們就是如此深入地融入社會，而且它們比我們聰明得多。我們無法真正理解它們在做什么。但我們又確實不得不在某種程度上依賴它們。即使沒有任何人的惡意，社會也可能偏向一個奇怪的方向。

我小時候，當(dāng)IBM制造的AI系統(tǒng)“深藍(lán)”在國際象棋中擊敗加里·卡斯帕羅夫時，我記得我父親說：“這是國際象棋的終結(jié)，再也沒人會下了。”但結(jié)果是，雖然AI比人類強，但AI加人類的組合比單獨的AI或人類要強得多。你知道，AI會提出10個選項，人類會選擇最好的一個，然后走那一步。每個人都說：“哦，我們有這個人和機器共同合作的美好未來。一切都沒問題。”那只持續(xù)了兩三個月。然后AI變得太聰明了，人類只會讓它變得更糟，因為他們不理解真正發(fā)生了什么。單獨的AI完勝AI加人類的組合。從那以后一直如此。那個故事另一個有趣的部分是，在90年代，所有人都確信那是國際象棋的終結(jié)，因為如果AI能打敗人類，人類為什么還要在乎？但國際象棋從未像今天這樣受歡迎。人們喜歡看國際象棋。這是我們非常關(guān)注的，真人做真人事情。所以那里發(fā)生了一件非常有趣的事情。

但我認(rèn)為這個現(xiàn)象在短期內(nèi)是一個大問題。你可以看到，我們或許稱之為“情感過度依賴”。人們過度依賴ChatGPT。有些年輕人說：“我生活中做任何決定都離不開告訴ChatGPT一切。它了解我，它了解我的朋友。我將做它說的任何事。”這讓我感覺非常不好。而且這在年輕人中是一個非常普遍的現(xiàn)象。我們正在研究這個問題，試圖理解該怎么辦。即使ChatGPT給出了很好的建議，即使它給出的建議比任何人類治療師都好得多，但某種程度上，集體決定按照AI告訴我們的方式生活，感覺很糟糕、很危險，還有很多類似的事情。

更長期的類別是，回到那個國際象棋的例子，如果AI變得如此聰明，以至于美國總統(tǒng)也無法做出比遵循ChatGPT 7的建議更好的決策，但又無法真正理解它。如果我無法做出關(guān)于如何運營OpenAI的更好決策，我就只能說：“你知道嗎，我完全交給你了，ChatGPT 7，你來負(fù)責(zé)，祝你好運。”這在任何單個案例中可能都是正確的決定，但這意味著社會已經(jīng)集體地將很大一部分決策權(quán)轉(zhuǎn)移給了這個非常強大的系統(tǒng)，它從我們這里學(xué)習(xí)，與我們一起改進(jìn)，與我們一起進(jìn)化，但方式是我們不完全理解的。所以這是我認(rèn)為事情可能出錯的第三類。

鮑曼：
我想Rob你后面還有一個問題，然后我可能會請你總結(jié)一下，幫助我們鼓勵銀行業(yè)的創(chuàng)新，以及你建議我們?nèi)绾稳プ觥?/p>

觀眾6 (Joe Cavatoni):
嗨，我是世界黃金協(xié)會的Joe Cavatoni。我想你在你剛才給的第三個例子中已經(jīng)觸及了這一點。你能否給我們一些關(guān)于你對發(fā)達(dá)市場以及AI給發(fā)達(dá)市場帶來的好處，同時也對發(fā)展中市場的思考？因為這可能是一個可以拉平差距的現(xiàn)象。

奧爾特曼：
是的。我非常認(rèn)為這將是一個深度拉平差距的現(xiàn)象。比如，你可能不喜歡美國的醫(yī)療保健或銀行系統(tǒng)，但至少你有一個。至少你能得到金融建議，至少你能得到醫(yī)療建議。而在很多發(fā)展中世界，ChatGPT醫(yī)生的替代品不是一個真正的醫(yī)生，而是什么都沒有。那你肯定寧愿有這個。如果這個東西能持續(xù)快速變好，也許你在發(fā)展中世界在很多方面能得到更好的服務(wù)。

我對給地球上每個人一個免費的、一直為他們運行的GPT-5副本意味著什么非常感興趣。每個企業(yè)都真正被這種水平的技術(shù)賦能，能夠提供更好的金融建議，更好地檢測欺詐，更好地承保風(fēng)險。再次，看到現(xiàn)在可能實現(xiàn)的事情，讓我對發(fā)達(dá)世界非常樂觀。我認(rèn)為最大的挑戰(zhàn)將是風(fēng)險承受能力和監(jiān)管，出于非常好的理由，但問題在于你希望多快采納這些東西。我認(rèn)為就像我們看到的其他一些技術(shù)一樣，在很多發(fā)展中世界，人們會直接跳過幾代技術(shù)。感覺會像移動電話和互聯(lián)網(wǎng)那樣，他們會直接進(jìn)入“我們將用AI運行一切”的階段，并且他們將以百分之一的成本提供商品和服務(wù)，至少是服務(wù)。我認(rèn)為你會看到一些經(jīng)濟體在那里非常迅速地轉(zhuǎn)型。

我確實認(rèn)為，在美國——當(dāng)然我對美國的情況最熟悉——這里的金融服務(wù)在未來十年應(yīng)該會完全不同。我們轉(zhuǎn)移資金的方式，我們提供金融建議的方式，我們思考承保風(fēng)險的方式，看起來我們現(xiàn)在可以如此迅速地、極大地改善所有這些。

鮑曼：
你如何看待OpenAI或你的服務(wù)促進(jìn)這種演變？作為監(jiān)管者，當(dāng)我們實施或允許創(chuàng)新發(fā)生時，我們應(yīng)該如何思考其框架？

奧爾特曼：
我保證我不是來這里做電視廣告的，但我們當(dāng)然很樂意與你們中的任何人合作。但不，無論是我們還是我們的競爭對手之一，我認(rèn)為就在過去六個月里，隨著推理模型（reasoning models）的真正推出，這種從完全不能思考、必須給出即時響應(yīng)的模型，到可以思考數(shù)秒或數(shù)分鐘的模型的轉(zhuǎn)變，以及隨之而來的穩(wěn)健性和可靠性，意味著對于像這樣的行業(yè)，我認(rèn)為這項技術(shù)終于真正可用了。很多人還沒有嘗試過最新一代的模型，但我認(rèn)為如果你試了，你會覺得，“哦，這比大多數(shù)人都聰明得多。”然后在政府方面，我認(rèn)為也是一樣。政府必須擁抱這項技術(shù)，并且將能夠把每件事都做得更好。

鮑曼：
薩姆，非常感謝你加入我們。我們時間有點超了，我相信大家都準(zhǔn)備好去吃午飯了。非常感謝。抱歉耽誤了大家。