在上篇文章中，主持人Paul Middlebrooks曾與哲學(xué)家Henk de Regt從上學(xué)時常被問到的一個問題，即你是否真的理解了所學(xué)的知識談起，之后談到如何判斷AI大模型是否具有理解能力，科學(xué)能否被計算機取代等。介于上篇采訪篇幅較長，話題略有跳躍，本文將之重新梳理簡化，并補充了對應(yīng)的研究解釋，以饗讀者。

科學(xué)理解始終以理論為背景

在AI研究專注于刷分，超越當(dāng)前最先進(jìn)水平SOTA時，哲學(xué)家Henk de Regt提醒我們注意，與其糾結(jié)于機器是否擁有人類般的意識，不如承認(rèn)AI完全可以像人類一樣，擁有真正的“科學(xué)理解”。

因為在他的哲學(xué)框架下，理解并非主觀頓悟或知識堆砌。長期以來，人們對“理解”抱有兩大根深蒂固的幻覺：他們認(rèn)為理解只在心理上的副產(chǎn)品，是一種良好的感覺。大眾腦海中常常浮現(xiàn)出這樣一個極其臉譜化的科學(xué)家形象：他的頭頂突然亮起一個燈泡，大呼“哦，對了，我終于懂了！”而另一種極其泛濫的誤讀，則是將理解等同于事實的堆砌。你對某件事情了解得越多，理解也就越深。

?Understanding Scientific Understanding《理解科學(xué)理解》和作者Henk de Regt

Henk de Regt認(rèn)為這兩種說法都是錯的。作為拉德堡德大學(xué)（Radboud University）的科學(xué)哲學(xué)教授，他在2017年出版的《理解科學(xué)理解》一書，早已成為該領(lǐng)域的經(jīng)典之作。他指出理解是一種極其硬核的實踐能力——它死死錨定于主體的技能、所處的語境，以及理論的“可理解性（intelligibility）”。

Regt的哲學(xué)覺醒，源于上世紀(jì)90年代他對“科學(xué)發(fā)現(xiàn)”的博士研究。作為一名前物理學(xué)家，他將目光投向了：薛定諤與海森堡的世紀(jì)之爭。

當(dāng)年，薛定諤對海森堡矩陣力學(xué)（一種量子力學(xué)的描述，被證明和薛定諤的波動力學(xué)在數(shù)學(xué)上等價）不滿意，于是提出了替代的波動力學(xué)。薛定諤非常強調(diào)理解和理論的可理解性。他認(rèn)為矩陣力學(xué)是不可理解的，因為矩陣力學(xué)完全由數(shù)學(xué)組成，非常抽象，全是矩陣，故而無法可視化。

薛定諤相信一個理論應(yīng)該是可視化的，只有當(dāng)你能在腦海中形成一個時空圖像，想象一個原子的樣子，它的結(jié)構(gòu)如何，你才能真正理解。這就是科學(xué)和物理學(xué)的目的，即提供這種理解。

若某人能基于某一理論，構(gòu)造出對該現(xiàn)象的（理想化）模型，并據(jù)此做出（無需完整計算的）定性預(yù)測，則可認(rèn)為他“理解”了該現(xiàn)象。

Regt將這種形而上學(xué)的執(zhí)念，總結(jié)成了一種實證法則。在他看來，可視化是是眾多理解工具中的一把趁手兵器，它確實能大幅降低人類心智的認(rèn)知門檻，人們也可以將其應(yīng)用于模型，加以使用并發(fā)展新的想法。

但他也指出，理解是情境化的，根本不存在放之四海而皆準(zhǔn)的理解工具。你究竟能不能理解一個理論，完全取決于你手里握著什么技能，腦子里裝著什么背景知識。

但“可理解性”并不是一種形而上學(xué)要求（比如妄言“宇宙必須像鐘表一樣機械運轉(zhuǎn)”），而是一種實踐可行性（pragmatic usability）。它考察的是這個理論，到底能不能被科學(xué)家當(dāng)作極其趁手的工具，去進(jìn)行建模與推理？

故而，他區(qū)分了科學(xué)可理解性（scientific intelligibility）與 形而上學(xué)可理解性（metaphysical intelligibility）；后者可啟發(fā)研究（如惠更斯的機械論催生波動光學(xué)），但也可能阻滯新觀點的接受（如拒斥量子力學(xué)中的超距作用）。

隨后，他提出科學(xué)理解是“可錯的”（non-factive）。哪怕是那些千瘡百孔、甚至被證明是錯誤的理論（如燃素說），依然能在特定的抽象層級上，為我們提供極其強悍的理解力。

為了將這套哲學(xué)法則落地，他在播客中拋出了經(jīng)典的神經(jīng)科學(xué)案例：我們究竟該如何理解“神經(jīng)信號的傳遞”？在這個戰(zhàn)場上，存在兩大陣營：

• 主流的生物電范式（以霍奇金-赫胥黎模型為尊）：認(rèn)為動作電位是由電壓門控離子通道主導(dǎo)的跨膜離子洪流（鈉離子涌入，鉀離子逃離），信號的狂飆靠的是局部電流強行驅(qū)動的去極化。

• 熱力學(xué)視角：宣稱神經(jīng)信號根本不是電信號，而是沿著脂質(zhì)雙分子層瘋狂傳播的非線性聲學(xué)脈沖（孤立波）。它源于細(xì)胞膜在液態(tài)與凝膠態(tài)之間的瘋狂相變；電信號、熱效應(yīng)與機械變形，不過是同一場熱力學(xué)風(fēng)暴在不同維度的殘影。

在這兩個本體論上水火不容的理論面前，Henk de Regt認(rèn)為，它們?nèi)钥蓞f(xié)同增進(jìn)理解——尤其是通過“暴露對方視角中被忽視或掩蓋的假設(shè)”。而評判這兩個理論的標(biāo)尺，絕不是誰掌握了絕對真理；而是去盤點它們各自能回答多少極其刁鉆的反事實問題？例如，霍奇金-赫胥黎模型必須咬住“細(xì)胞膜電容恒定”的前提；而熱力學(xué)視角則逼迫信徒們發(fā)出拷問：“如果膜電容根本不是常量，信號傳播的宏大敘事還會不會瞬間崩塌？”

兩種理論看似是沖突的，但Henk de Regt關(guān)于科學(xué)理解，強調(diào)其是非事實性（non-factive） 的。即使不完全符合事實的理論，依然能夠提供理解。生物電視角，提供高精度機制細(xì)節(jié)（如通道蛋白結(jié)構(gòu)-功能關(guān)系），但忽略動作電位伴隨的熱效應(yīng)（放熱-吸熱循環(huán)）與機械效應(yīng)（膜膨脹-收縮）；熱力學(xué)視角，提供統(tǒng)一性框架，并暴露主流范式的隱含前提與解釋缺口。

兩種理論的碰撞推動提出新問題（如：“膜腫脹對通道構(gòu)象有何反饋？”“熱波動如何調(diào)制神經(jīng)編碼？”）。科學(xué)理解的進(jìn)步正是源于這種利用視角差異進(jìn)行相互批判（找出隱藏假設(shè)）與問題發(fā)現(xiàn)，而非簡單的共識累積。

開發(fā)一種操作性測試，

用于評估AI智能體的理解能力

理解并不是一個全有或全無的現(xiàn)象，而是一個漸進(jìn)的過程。你可以擁有不同程度的理解。在討論轉(zhuǎn)向Henk de Regt關(guān)于人工智能是否具備理解[2]討論之前，需要強調(diào)這一點。Henk de Regt的理解理論可以被看作是行為主義的，它不關(guān)心理解者是否有心理表征，也不關(guān)注實現(xiàn)理解的內(nèi)部機制或過程。從這個意義上說，只要看某個AI智能體能否以某種方式展示出使用信息所需的技能，就能判斷它是否存在理解。

該問題來源于2017年，Henk de Regt被讀者問起：“如果計算機生成了一個解釋，它是否給我們帶來了理解？”這類似于數(shù)學(xué)中計算機生成的證明的問題，這些證明對于人類來說過于復(fù)雜，以至于無法完全理解，盡管某些猜想已經(jīng)被證明，但沒有任何一位數(shù)學(xué)家能夠完全理解整個證明過程。那么，這是否仍然給我們提供了這個猜想為何為真或為假的理解呢？

為此，Henk de Regt提出測試。他設(shè)想一個“學(xué)生”正在向一位“教師”（無論是人類還是AI）求教。教師的目的是向?qū)W生解釋一個科學(xué)理論及其定性的特征及影響。另一位人類（裁判）會在暗中獨立評估學(xué)生在截然不同的情境下，輸出非平凡解釋的質(zhì)量。學(xué)生先進(jìn)行初始測試（裸考），再與教師互動，然后進(jìn)行第二次測試。第二次測試雖然應(yīng)涵蓋相同的內(nèi)容或方面，但應(yīng)包含不同的問題以確保測試的有效性。學(xué)生在第二次測試中分?jǐn)?shù)的提高程度，是教師有效向?qū)W生傳遞對現(xiàn)象理解的能力體現(xiàn)。

?圖1：根據(jù)回答問題的數(shù)量，可以將科學(xué)理解可以被劃分為不同的層次。一個能夠回答科學(xué)界提出的所有問題（包括那些我們尚未有答案的問題）的智能體，表明其具有更高層次的（新的）科學(xué)理解。來自[2]

這與圖靈測試不同，圖靈測試旨在解決計算機是否能完成一些我們認(rèn)為是思考所滿足的標(biāo)準(zhǔn)。

播客中，Henk de Regt還提到他與一位德國科學(xué)哲學(xué)家Florian Boge的合作[3]，探討人工智能是否能通過某種方式看出它們是否具有概念。文中談到機器學(xué)習(xí)模型在高能物理實驗數(shù)據(jù)中檢測異常（潛在的新物理現(xiàn)象），Henk de Regt 承認(rèn)神經(jīng)網(wǎng)絡(luò)是“黑箱”，但主張理解是可轉(zhuǎn)移——即使機器擁有的“概念”（找到的異常）初始對人類不可通約，仍可通過解釋性接口實現(xiàn)理解遷移，即圖2提出“人機理解協(xié)同”操作路徑。

?圖2： 如何將機器學(xué)習(xí)的成功應(yīng)用，轉(zhuǎn)化為人類可理解的科學(xué)理解，分三步。第一步將探測器記錄的原始電信號解釋為粒子相互作用產(chǎn)生的能量沉積，第二步在低層物理數(shù)據(jù)（如粒子動量、角度）上運行深度神經(jīng)網(wǎng)絡(luò)分類器，并將其輸出解釋為某種統(tǒng)計關(guān)系，第三步將統(tǒng)計關(guān)系（如異常信號、似然比偏差）重新連接回可解釋的物理理論模型（標(biāo)準(zhǔn)模型或BSM模型），以構(gòu)建機制性解釋。

科學(xué)是否可以被計算機取代，

要回答三類問題

播客還討論了科學(xué)是否可以被計算機取代。 Henk de Regt指出有三種問題被用來評估機器的理解能力。

第一種稱為“什么”類問題，這類問題評估機器是否能夠獲取正確的信息，從而給出解釋。

第二種是“為什么”類問題，這類問題考察機器或人工代理是否能夠構(gòu)建對所關(guān)注現(xiàn)象的解釋。

第三種是因果解釋中的反事實方法。如果情況不同會怎樣？你能定性地解釋在這種特定方式下情況改變后，這個現(xiàn)象會有哪些不同或者會發(fā)生什么嗎？這些是用來評估機器理解的三種問題類型。當(dāng)然，你還需要判斷這些問題的答案，這是一個完全不同的問題，在談及這一段時Henk de Regt笑到，這根本不是什么非黑即白的數(shù)學(xué)題，宇宙的終極答案也絕不會是一個干癟的“42”。

Henk de Regt透露，在一篇尚未發(fā)表的后續(xù)論文中，他與幾位碩士生在此基礎(chǔ)上擴展了[2]這種的想法，并更詳細(xì)地闡述了可以提出的問題類型以及對這些問題的分類。他們邀請專家來評判這些問題的答案，從而建立一個問答集合，這最終構(gòu)成了我們的基準(zhǔn)測試。

主持人對此評論道：“由于“古德哈特（Goodhart）定律”，即一旦你立起了一個靶子，這個基準(zhǔn)就會變得過時。它會成為你所評估事物的不良指標(biāo)，因為一旦你設(shè)定了目標(biāo)，所有努力都會集中在通過測試上。這意味著它不能準(zhǔn)確反映你真正想要評估的內(nèi)容?！?/p>

Henk de Regt指出，大語言模型所犯的錯誤，根源在于它們根本就沒有在腦海中搭建過任何“理論”。它們只是在瘋狂的概率預(yù)測中，極其詭異地翻了車。比如問大模型單詞“nineteen”包含多少個字母？它可能一開始蒙對了，但當(dāng)你逼問一句“你確定嗎？”它便會自己糾正答案。

相比之下，人類在科學(xué)理解中所犯的錯誤，可能會導(dǎo)向更多的發(fā)現(xiàn)。因為科學(xué)家是基于某一特定模型或理論去做出預(yù)測的。例如牛頓理論，它可以預(yù)測行星軌道和許多現(xiàn)象，但在19 世紀(jì)，我們發(fā)現(xiàn)了水星軌道中的一個異常現(xiàn)象。之后愛因斯坦的相對論給出了正確解釋。你可以認(rèn)為，這可能是牛頓力學(xué)理論輸出中的一個錯誤，但事實上，這樣的錯誤促使了理論的修正。這是牛頓力學(xué)理論的一個結(jié)果，表明理論本身存在問題，即使事實不正確，它仍然可以有助于理解。

而在大語言模型中，你很難找到錯誤產(chǎn)生的原因。大語言模型展現(xiàn)的錯誤對推進(jìn)理解沒有幫助，也不具有實用性。也許這是因為它們沒有一個可以理解的理論來支撐其輸出的信息。也許是因為它們只是基于龐大的統(tǒng)計語料庫，對詞語和標(biāo)記進(jìn)行下一句預(yù)測，從而進(jìn)行統(tǒng)計性生成，而這并不需要任何可理解的理論。因此，它們所產(chǎn)生的錯誤并不是那種“好吧，我明白你的理論出發(fā)點，所以我能理解你為什么這么說，而我的回答是……”的錯誤。更像是一個瑣碎的、無謂的錯誤，比如把紅色說成藍(lán)色，或者其他類似的情況。

理解中的可視化

與隱喻-理解的層次與其實用性

在播客的最后，主持人問道：是否存在一種對理解層次的類比？抽象與理解之間有什么關(guān)系？畢竟，我們根本不需要去死死追蹤電腦里的每一個原子，就能極其精準(zhǔn)地描述它的運轉(zhuǎn)。我們完全可以在截然不同的抽象維度上，去解剖同一個系統(tǒng)。那么，抽象的深度，是否觸及了理解的靈魂？

Henk de Regt用他書中的一個例子答道：19 世紀(jì)的氣體熱力學(xué)理論模型中，物理學(xué)家極其粗暴地將分子或原子降維成了一個個沒有體積的“點”或完美的“球體”，僅僅關(guān)注它們的質(zhì)量和運動，比如位置、速度等。這是一種暴力的抽象，而實際上這些分子要復(fù)雜得多。此外，如果你用模型來表示太陽系，即使是一個物質(zhì)模型，把所有行星都當(dāng)作大小略有不同的完美球體，并圍繞太陽在橢圓軌道上運行，這也是一個抽象，因為真實的行星要復(fù)雜得多。

當(dāng)然，這是一個非常好的抽象，因為太陽系在某種程度上是孤立的，幾乎完全按照牛頓定律運行，沒有受到其他干擾。因為在太陽系的宏大尺度上，你腳下的泥土與山脈，對于行星的宏觀軌跡而言，根本毫無意義。太陽系模型之所以極其強悍，正是因為它剝離了所有這些無關(guān)緊要的細(xì)節(jié)。用愛因斯坦的話來說，就是“科學(xué)家必須把事情盡可能簡單化，但不能過于簡單。”理想化模型的實用價值在于，使用這些簡單的模型來預(yù)測更為容易。

理論本身具有不同層次的抽象和理想化，讓主持人將話題引入了公眾的科學(xué)理解上，Henk de Regt指出，專業(yè)科學(xué)家，他們對某種現(xiàn)象可能有或多或少的理解，但這種理解是科學(xué)性的理解。當(dāng)然，這種理解與他們的數(shù)學(xué)技能或其他各種技能有關(guān)。當(dāng)我們談?wù)摴妼茖W(xué)的理解，或者從更廣泛公眾的角度來看，那些沒有專業(yè)科學(xué)家所具備的專業(yè)知識和技能的普通民眾，他們的理解，難道就是另一種類型的次等理解嗎？

這并不是從普通理解到專家理解的單向階梯。兩者非常不同。大眾理解與專家理解，在骨子里流淌著極其相似的血液。真正的理解，從來都不是去像守財奴一樣囤積孤立的事實——比如在街頭去考問大眾“地球究竟有多少歲”。這不過是對瑣碎知識極其無聊的追逐。真正的科學(xué)理解，是一種推理能力，是一種能夠極其敏銳地把握整體圖景的認(rèn)知技能。

緊接著，Henk de Regt談到論文中的比喻[4]。研究表明，比喻不僅被用于大眾化的科學(xué)普及讀物，也在科學(xué)論文本身中被使用。它們的功能有所不同，但比喻無處不在。

?圖3：專家（左）和非專家（右）科學(xué)文章中隱喻比例的平均值和標(biāo)準(zhǔn)差，來自4

例如，基因剪切最初是以一種促進(jìn)交流的比喻而被提出的，通過談?wù)摚a(chǎn)生了諸如“信使 DNA”、“翻譯”等概念，這些概念至今仍然是比喻。但當(dāng)然，人們只是將它們視為技術(shù)術(shù)語。對于公眾來說，科學(xué)家使用比喻是因為這樣我們就可以用他們能夠理解的、與日常生活相關(guān)的比喻方式來講故事，這當(dāng)然是一個促進(jìn)公眾理解的工具。傳達(dá)理解，本質(zhì)上就是傳達(dá)技能：在這里，隱喻與其說是為了填喂知識，不如說是為了極其暴力地激活大眾的“概念推理能力”。成功的科普，絕不是極其傲慢地去閹割或稀釋知識；而是去重新喚醒那些專家早已內(nèi)化的認(rèn)知腳手架。

而對于專家來說，隱喻的作用有所不同，專家之間使用隱喻來描述科學(xué)現(xiàn)象時，這種隱喻的使用是封閉的隱喻。它不再被用來將你所談?wù)摰默F(xiàn)象與作為隱喻的實體進(jìn)行類比，因為它現(xiàn)在已經(jīng)成為技術(shù)術(shù)語，你理解的現(xiàn)象就是這個隱喻本身。

這種意義的滑動，哲學(xué)家懷特海曾稱之為“意義滑移（slippage of meaning）”謬誤，如果你按字面理解而不再意識到它其實是一個隱喻，這會成為一個問題。很多科學(xué)家會忘記他們實際上是在用隱喻來理解這個事物，因為他們覺得這個事物就是現(xiàn)象，而實際上，它始終只是一個隱喻。

但在發(fā)現(xiàn)的過程中，尤其要認(rèn)識到，隱喻對于專家科學(xué)家來說也可以作為理解的工具。它們可以使理論變得清晰易懂。例如，可視化是一種對公眾理解非常有用的工具，而數(shù)學(xué)則不太如此。曾有這樣一個著名的說法：在通俗科學(xué)書籍中，每出現(xiàn)一個公式，就會使一半的讀者失去興趣。

而對大多數(shù)科學(xué)家來說，可視化也是重要的工具之一。比如費曼，他當(dāng)然是最杰出的物理學(xué)家之一，對數(shù)學(xué)有深刻的理解，但他同樣擁有一個視覺化的思維，他的視覺想象力極其富有成效。

對此，主持人指出：可視化并不是必須的，并不是每個人都能用視覺圖像來思考。對此Henk de Regt回復(fù)道：確實不必要。薛定諤認(rèn)為可視化是必須的。我不這么認(rèn)為。但同時我們也可以看到，許多科學(xué)家，就像許多普通民眾一樣，使用可視化幫助理解。這也體現(xiàn)在神經(jīng)科學(xué)和生命科學(xué)中關(guān)于機制的爭論中，如果你有一個機制的圖示，你就能對系統(tǒng)有一個整體的概覽，這會給你更多的洞察。

譯者后記

Henk de Regt的觀點，將科學(xué)理解的核心看成“可操作的心智模型”，讓理解從“科學(xué)家頭腦中的閃光”變?yōu)榭煞治觥⒖杀容^、可傳承的實踐能力。而隱喻是構(gòu)建與傳遞理解的通用工具。專家與公眾的差異僅在于理論的內(nèi)化程度與使用效率。判斷理解有無，看模型能否獲得正確的信息及解釋，是否支持反事實推理；判斷理解深淺，看模型是否是可在師生之間遷移。理解不必獨屬于人，但必須“可協(xié)作、可進(jìn)步”?？茖W(xué)理解既是個體必須技能，也是促成共同體的規(guī)范，科學(xué)是人類事業(yè)，但人類的邊界，或許正在被我們與機器的共構(gòu)理解所重新劃定，若AI輸出對人類可理解、可修正、可整合，則其已參與理解進(jìn)程。

原對話鏈接：

https://www.thetransmitter.org/brain-inspired/does-ai-understand-what-it-produces-henk-de-regt-explores-how-we-might-assess-understanding-in-machines-and-humans/

[1] Holland, L., de Regt, H. W., & Drukarch, B. (2024). Two scientific perspectives on nerve signal propagation: how incompatible approaches jointly promote progress in explanatory understanding. History and Philosophy of the Life Sciences, 46(4). https://doi.org/10.1007/s40656-024-00644-4

[2] Barman, K. G., Caron, S., Claassen, T., & de Regt, H. (2024). Towards a Benchmark for Scientific Understanding in Humans and Machines. Minds and Machines, 34(1). https://doi.org/10.1007/s11023-024-09657-1

[3] https://philsci-archive.pitt.edu/26255/1/MLinPPFinal.pdf

[4] https://doi.org/10.1075/msw.22016.sme

關(guān)于追問nextquestion

天橋腦科學(xué)研究院旗下科學(xué)媒體，旨在以科學(xué)追問為紐帶，深入探究人工智能與人類智能相互融合與促進(jìn)，不斷探索科學(xué)的邊界。歡迎評論區(qū)留言，或后臺留言“社群”即可加入社群與我們互動。您也可以在后臺提問，我們將基于追問知識庫為你做出智能回復(fù)哦~

關(guān)于天橋腦科學(xué)研究院

天橋腦科學(xué)研究院（Tianqiao and Chrissy Chen Institute）是由陳天橋、雒芊芊夫婦出資10億美元創(chuàng)建的世界最大私人腦科學(xué)研究機構(gòu)之一，圍繞全球化、跨學(xué)科和青年科學(xué)家三大重點，支持腦科學(xué)研究，造福人類。

Chen Institute與華山醫(yī)院、上海市精神衛(wèi)生中心設(shè)立了應(yīng)用神經(jīng)技術(shù)前沿實驗室、人工智能與精神健康前沿實驗室；與加州理工學(xué)院合作成立了加州理工天橋神經(jīng)科學(xué)研究院。

Chen Institute建成了支持腦科學(xué)和人工智能領(lǐng)域研究的生態(tài)系統(tǒng)，項目遍布?xì)W美、亞洲和大洋洲，包括、、、科研型臨床醫(yī)生獎勵計劃、、科普視頻媒體「大圓鏡」等。