理查德·費曼（Richard Feynman）一向警惕那些在細節尚未厘清之前就被高調許下的宏大承諾。在人工智能高速發展的今天，特以此篇紀念費曼108周年誕辰。

作者

Robert Endres

倫敦帝國理工學院系統生物學教授

長期從事物理學與生物學交叉領域的研究，重點關注細胞感知、遷移和模式形成等問題。

涉及人物

Richard Feynman

美國理論物理學家、于1965年與朱利安·施溫格及朝永振一郎共同獲得諾貝爾物理學獎。

美國理論物理學家，以對量子力學的路徑積分表述、量子電動力學、過冷液氦的超流性以及粒子物理學中部分子模型的研究聞名于世。因對量子電動力學的貢獻，費曼于1965年與朱利安·施溫格及朝永振一郎共同獲得諾貝爾物理學獎。費曼發展了得到廣泛應用的亞原子粒子行為的圖像化數學表述——費曼圖。費曼在二戰期間曾參與協助原子彈的開發，而后在1980年代因參與調查挑戰者號航天飛機災難而為公眾熟知。在理論物理學研究之外，他還是量子計算領域的先驅，并提出了納米技術的概念。他曾擔任加州理工學院的理查德·托爾曼理論物理學教授。費曼熱心參與物理學普及事業，出版有《費曼物理學講義》。費曼還因他的半自傳《別鬧了，費曼先生》等，而在公眾中頗有名氣。

“第一原則是：你絕不能欺騙自己——而你自己，恰恰是最容易被欺騙的人。”理查德·費曼在1974年加州理工學院的一次畢業典禮演講中這樣說道。他并沒有以一位高高在上的哲學家口吻發言，而是作為一名身處科研一線的物理學家，為日常工作提供一條極其實用的準則。

他對名望、權威，以及那些無法經受檢驗的解釋，向來缺乏耐心。他常說：“你的理論有多漂亮、你有多聰明、你的名字有多響亮，這些都不重要?！薄叭绻c實驗不符，那它就是錯的。科學的關鍵，就在這句簡單的話里?！睂W生們起初往往會發出幾聲輕笑，但當這句話真正沉淀下來，現場便安靜了。

費曼是個充滿反差的人：活力十足，不拘禮法，卻又對那些聽起來頭頭是道、落到實踐中卻站不住腳的解釋始終深懷警惕。相比之下，他更推崇的是好奇心，以及對胡說八道毫不容忍的態度。要是周遭的氣氛變得過于沉悶拘謹，他就寧愿去敲他的邦戈鼓。費曼有一種強烈的本能：理解一件事，最好親手去做，而不是只在紙面上讀它。對物理也是如此——他不要空洞的描述，他要真正的參與。好奇心本身無需辯護。沒錯，費曼當然也是諾貝爾物理學獎得主。他還發明了一套以圖示方式理解光與物質相互作用的方法，也就是后來聞名于世的費曼圖；借助這些圖示，物理學家往往可以一眼看出復雜過程的關鍵結構。

?理查德·費曼，攝于1984年，地點是馬薩諸塞州沃爾瑟姆羅伯特·特里特·佩恩莊園附近的樹林。當時，費曼與攝影師同在思考機器公司（Thinking Machines Corporation）工作，參與 Connection Machine CM-1/CM-2 超級計算機的設計。圖片來源：Tamiko Thiel

十幾歲時，費曼在沒有電路圖的情況下就能修理收音機。而在他作為公眾人物留下的最后一次重要公開行動中，他揭示了1986年“挑戰者號”航天飛機災難的原因。彼時的他已身患癌癥，他仍一針見血地戳穿了美國國家航空航天局（NASA）推理中的漏洞，他拒絕與官僚政客周旋，堅持只和一線工程師對話；并在電視直播中用一杯冰水演示了O形密封圈的失效。在他看來，修理收音機和解釋“挑戰者號”災難，其實是同一個問題：兩者之中，權威都遮蔽了現實，而一個簡單的實驗就足以讓真相大白于天下。這種思維方式形成于機器學習和神經網絡出現很久之前，但放到今天，仍顯得令人不安地貼切。

?費曼演示冰水實驗，1986年1月28日，挑戰者號航天飛機在冰冷的空氣中發射，不久后爆炸。費曼被任命為總統調查委員會成員。他在公開聽證會上，他將航天飛機推進器上的密封材料（O形圈）浸入冰水中，證明在低溫下橡膠會失去彈性，從而導致燃料泄漏和爆炸。

你幾乎可以想象，費曼會忍不住站起身來，拋出一個看似輕描淡寫、實則一劍封喉的問題：你怎么知道？

如果費曼今天還活著，在當下的技術世界中四處游走，你很難想象他會西裝革履地站在某場 AI產品發布會的聚光燈下。他不喜歡炒作，也始終警惕那些在細節尚未弄清之前就被高調許下的宏大承諾。他同樣警惕那種以掌聲代替提問的場面。比起揭曉一件看似完成的產品，他更可能會說：“我其實還不知道這東西到底是干什么的，也正因為如此，我才對它感興趣?！彼苍S會當場把演示系統拆開，甚至先弄壞它，再試著把它拼湊復原。僅此一舉，就足以讓現場的熱潮迅速退去，也足以讓那些眼巴巴盼著一場完美路演的投資人和利益相關者們，如墜冰窟。

比起站在臺上，更容易想象的是，費曼會坐在燈光昏暗的禮堂最后一排，手里拿著筆記本，專注地看著眼前的一切。屏幕上，一組組色彩鮮艷的動畫不斷掠過：發光的神經網絡、流動的數據，還有自信地一路向上的箭頭。畫面里沒有誤差線，也看不到不確定性。這個演示看上去近乎完美，前提只是別發生任何意外。臺上的演講者解釋說，這個系統“理解語言”、“推理世界”、“發現新知識”。這些說法一次次換來臺下的點頭和禮貌性的掌聲。你幾乎可以想象，費曼會忍不住站起身來，拋出一個看似輕描淡寫、實則一劍封喉的問題：你怎么知道？

但初次面對這一整套景觀的費曼，大概不會急著開口。他會先等一等，聽聽是否有人解釋，當機器出錯時它究竟會怎樣表現；又或者，人們到底憑什么判斷它真的理解了什么。他也會注意到，這場演示只是毫無瑕疵地成功了一次，卻沒有人追問：如果輸入變得古怪、不完整，甚至本身就是錯的，又會發生什么。他會聽見在這個會場里，“話語”承擔了太多不可承受之重，而“實驗”卻幾乎缺席。

?徹底的誠實：在1974年加州理工學院的畢業演講中，理查德·費曼告訴學生，科學誠信取決于“徹底的誠實”。實驗應當“盡量提供一切有助于他人判斷你的貢獻價值的信息，而不只是那些會把判斷引向某一特定方向的信息”。

圖片來源：維基共享資源

如今，人工智能正以一種變革性力量的形象被呈現給公眾，仿佛它將徹底革新科學、醫學、教育，甚至重塑創造力本身。在很多方面，這些說法并非言過其實。機器學習系統確實能夠在人類難以企及的規模上識別模式，例如預測蛋白質的三維結構，篩查組織和細胞圖像中的變化，識別埋藏在噪聲中的罕見天文信號，以及按需生成流暢的文本或圖像。這類系統尤其擅長以驚人的速度和效率處理海量數據，從中發現那些原本可能始終隱而不見的規律。

費曼不會輕易否定這一切。他本人一直對計算與模擬深感興趣。在洛斯阿拉莫斯國家實驗室工作期間，他曾參與開創蒙特卡羅方法，也就是通過隨機模擬大量可能結果，再對結果取平均的一類方法；同時，他也推動了量子力學中的計算研究。人工智能如果使用得當，可以幫助科學家提出更好的問題，探索更廣闊的參數空間，并發現那些值得進一步研究的模式；但如果使用不當，它也可能讓這一過程過早短路，給出答案，卻沒有洞見；呈現相關性，卻沒有因果解釋；作出預測，卻缺乏真正的理解。真正的危險不在于自動化本身，而在于人們容易把令人印象深刻的表現誤認為真正的理解。

如今，許多人工智能系統本質上仍以“黑箱”的方式運作。這些模型建立在海量數據之上，而這些數據往往還是專有的；至于模型內部究竟如何得出結果，甚至連開發它們的人也未必能夠說清?，F代神經網絡通常擁有數百萬、甚至數十億個可調參數。費曼同時代的科學家約翰·馮·諾依曼（John von Neumann）曾半帶諷刺地說：“給我四個參數，我就能擬合出一頭大象；給我五個參數，我還能讓它的尾巴擺起來?！边@句話提醒我們，不要把噪聲誤當成意義。神經網絡生成的輸出往往顯得流暢、自信，有時甚至近乎不可思議地敏銳。但它們很少告訴我們，某個答案為什么會出現，更很少說明系統會在什么情況下失效。

這會帶來一種微妙卻強大的誘惑。當一個系統表現得十分出色時，人們很容易把表現當成理解，把統計上的成功當成解釋。費曼一定會警惕這種傾向。臨近生命盡頭時，他曾在黑板上寫下一句簡潔的話，像是一條判斷標準：“凡是我不能創造出來的，我就不理解?！睂λ?，理解意味著你能夠把一件東西拆開，再重新搭建起來，并且知道它會在什么地方出問題。而黑箱系統恰恰顛倒了這種本能。它們誘使我們接受那些自己無法完整還原的答案，也讓我們相信一些結果，直到出了問題，才意識到自己其實并不知道它們的邊界在哪里。

費曼給這種混淆起過一個名字，叫草包族科學，或“貨物崇拜式科學”。這也正是他1974年畢業演講的題目。在他看來，所謂草包族科學，就是一種只模仿科學外表、卻沒有把握其核心精神的研究。它看上去擁有實驗、圖表、統計和術語等一整套科學形式，卻缺少真正關鍵的東西。

這個說法源于南太平洋一些島民的做法。二戰結束后，他們盼望運送物資的飛機再次降落，于是修建木制跑道、搭起竹制塔臺，模仿自己見過的整套儀式，甚至連“耳機”和“信號火”都一并照做。費曼說：“他們遵循了所有表面上看得見的規則，但他們漏掉了某種根本性的東西，因為飛機并沒有降落?！边@個故事要說明的，并不是這些人愚蠢，而是只復制表面的形式，并不能帶來真正的結果。若不理解一件事為什么起作用，那么單靠模仿它的外觀，終究是不夠的。

費曼想表達的，并不是科學會制造奇跡，而是科學教給人一種能夠抵抗教條的思維方式。

人工智能真正的風險，并不在于它無效，而在于它恰恰足夠有效，足以讓我們忘記科學究竟是為了什么。科學不是為了生產答案，而是為了讓觀念接受現實的檢驗。在費曼看來，科學的要義就在于精確找出，一個想法究竟會在什么地方失效。當“表現”本身成了目標，當成功只按那些看起來正確的輸出結果來衡量時，這種科學所要求的訓練與紀律，也就會悄然松動。

他熱愛技術，也熱愛新工具，尤其是那些能讓人更容易把想法拿到現實中檢驗的工具。他創造過一些可視化方法，例如為他贏得諾貝爾獎的費曼圖。這些方法能夠把復雜的相互作用簡化出來，同時又不掩蓋背后的前提條件。但他始終很注意區分兩類東西：一類是幫助我們探查自然的工具，另一類則只是產出看似令人信服答案的系統。在費曼看來，工具的價值不在于它們有多強大，而在于它們能讓人更容易看清，一個想法究竟會在哪里失效。

在費曼看來，推動科學前進的不是自信，而是懷疑，是那種愿意承認自己仍然不能確定的態度。他認為，科學知識從來不是一整套牢不可破的定論，而是由許多確定程度不同的判斷拼接而成；它們都只是暫時成立，隨時可能被修正。費曼說：“我寧愿面對那些無法回答的問題，也不愿接受那些不容質疑的答案。”這與風險投資、企業競爭和媒體運作的邏輯恰成對照：風險資本重賞那些口出狂言的賭徒，商業絞肉機偏愛風馳電掣的速度，而媒體的聚光燈只追逐嘩眾取寵的奇觀。在這樣的環境里，承認不確定性，往往是要付出代價的。

但在費曼看來，不確定并不是弱點，而是進步的引擎。他說：“我覺得，活在未知的迷霧中，遠比抱著一堆可能大錯特錯的答案自欺欺人，要有趣得多。”

人們很容易以為，這些擔憂只屬于學術圈。但人工智能早已不再被限制在實驗室和大學之中。它正在塑造人們讀什么、看什么，塑造學生如何被評估，塑造醫療風險如何被識別，也塑造貸款、就業和保險等決策的形成方式。

在許多這樣的場景中，人工智能系統已經不再只是工具，而更像是一種制度性不透明。它們所帶有的權威感，往往超過了人們能夠對其提出質疑的空間。它們輸出的結果常常顯得客觀，哪怕背后的推理過程并不清晰。當一項建議出了錯，或者一項決定顯得不公時，人們往往很難追查問題究竟出在哪里：是數據有偏差，是模型出了問題，還是某些決定性的假設，早在系統部署之前就已經被寫進了它的邏輯之中？

在這種情境下，不自欺就不再只是學術上的美德。當這些不透明的系統開始真實地影響人們的生活時，理解它們的邊界，知道它們會在什么時候失效、又為何失效，就成了一種公民生活中的必要條件。信任所依賴的，不只是系統表現得是否出色，還在于它是否能夠被問責，是否能在關鍵時刻讓它的局限被看見、被追問，并被清楚地說明。

退一步看，問題并不在于人工智能會不會改變科學。它已經改變了科學。更深層的問題是，我們是否還能守住那些最初使科學知識值得信賴的價值。假如費曼今天還在，他的回答大概會一如既往地簡單：慢一點，先弄清自己真正知道什么，坦率承認自己不知道什么，永遠不要把令人印象深刻的結果誤認為理解。歷史不止一次表明，科學知識可以跑得比智慧更快。費曼那一代的一些物理學家后來都曾反思，他們很早就學會了什么事情可以做到，卻很晚才開始追問什么事情才應該去做。而當這種領悟終于到來時，往往已經晚得令人不安。

1955年，費曼在加州理工學院舉行的一次美國國家科學院會議上發表了一場題為《科學的價值》的演講。他說，科學是一種以懷疑為核心的訓練，它讓人始終保有追問的自由，去質疑那些我們自以為已經知道的東西。他真正想表達的，并不是科學會制造奇跡，而是它教給人一種能夠抵抗教條、虛假確定感和自我欺騙的思考方式。演講開場時，他沒有訴諸公式，也沒有訴諸權威，而是引用了一句佛教諺語：“每個人都被賦予一把打開天堂之門的鑰匙，而同一把鑰匙，也能推開地獄之門?！辟M曼說，科學就是這樣一把鑰匙，是一種力量巨大的工具。它可以打開兩扇門。至于它最終通向哪一邊，取決于你。

譯者后記

費曼留給今天最重要的提醒，也許并不只是“懷疑”，而是對“理解”本身保持嚴格的誠實。人工智能的真正挑戰，未必在于它是否足夠強大，而在于當它越來越擅長給出流暢、正確、甚至令人驚嘆的結果時，我們是否還愿意追問：這些結果究竟從何而來，又在什么地方可能失效。科學之所以值得信賴，不只是因為它能生產答案，更因為它要求人不斷暴露答案的邊界。某種意義上，這篇文章談論的并不只是AI，也是在追問一個更古老的問題：當技術能力持續增長時，人類是否仍有勇氣承認自己的無知，并守住不自欺的底線。

原文鏈接：https://nautil.us/what-would-richard-feynman-make-of-ai-today-1262875

關于追問nextquestion

天橋腦科學研究院旗下科學媒體，旨在以科學追問為紐帶，深入探究人工智能與人類智能相互融合與促進，不斷探索科學的邊界。歡迎評論區留言，或后臺留言“社群”即可加入社群與我們互動。您也可以在后臺提問，我們將基于追問知識庫為你做出智能回復哦~

關于天橋腦科學研究院

天橋腦科學研究院（Tianqiao and Chrissy Chen Institute）是由陳天橋、雒芊芊夫婦出資10億美元創建的世界最大私人腦科學研究機構之一，圍繞全球化、跨學科和青年科學家三大重點，支持腦科學研究，造福人類。

Chen Institute與華山醫院、上海市精神衛生中心設立了應用神經技術前沿實驗室、人工智能與精神健康前沿實驗室；與加州理工學院合作成立了加州理工天橋神經科學研究院。

Chen Institute建成了支持腦科學和人工智能領域研究的生態系統，項目遍布歐美、亞洲和大洋洲，包括、、、科研型臨床醫生獎勵計劃、、科普視頻媒體「大圓鏡」等。