網易首頁 > 網易號 > 正文 申請入駐

物理·評論:結構即解釋——網絡成為科學假設的可計算載體

0
分享至


導語

2024年發布的KAN的核心創新在于將MLP的“節點激活”變為“邊激活”,用可學習的B樣條函數替代固定激活函數,使網絡天然具備函數分解能力。之后原班人馬推出的KAN2.0 引入乘法節點和樹轉換器,從而支持先驗知識引入,及通過結構展示變量間的組合邏輯。

關鍵詞:KAN ,可解釋性,模塊識別,符號推理

郭瑞東丨作者

趙思怡丨審校


論文題目:Kolmogorov-Arnold Networks Meet Science 論文鏈接:https://journals.aps.org/prx/abstract/10.1103/4t7t-v19l 發表時間:2025年12月17日 發表期刊:Physical Review X

KAN2.0如何整合先驗科學知識

KAN 2.0框架的核心是“雙向協同”(bidirectional synergy),即科學知識注入網絡,網絡洞察反哺科學(圖1)。而使這成可能的,是在KAN中引入乘法節點,從而形成的MultKAN,該結構天然支持乘積運算。


圖1:KAN和科學發現的關系

根據Kolmogorov-Arnold定理,理論上僅需加法與單變量函數即可逼近任意多元連續函數,乘法可被隱式編碼。但這種“用加法模擬乘法”的路徑在拓撲上無法直接體現乘的語義。

圖2左上的標準KAN中節點代表求和操作,邊承載可學習的單變量函數,右上的MultKAN在標準KAN層之間插入顯式的乘法層。該層包含兩類節點。加法節點與標準KAN一致直接復制前一層子節點的輸出,乘法節點:對前一層的 kk 個子節點執行乘積運算。這一設計使網絡獲得原生乘法能力,無需通過復雜函數組合間接實現乘積。


圖2:MultKAN和原版KAN的對比

圖2下半部分對比原版KAN和MultKAN對乘法的表征差異,原版“用加法模擬乘法”的路徑在拓撲上無法直接體現乘積語義,且對噪聲敏感。MultKAN的學習結果中,網絡直接激活單個乘法節點,所有邊上的激活函數退化為線性函數,表明無需額外非線性變換。這樣網絡拓撲本身即表達 x*y 的物理意義。

有了MultKAN,通過作者開源的kanpiler包,能將符號公式(如動能T=?mv2)直接編譯為KAN結構,使網絡從“物理正確”的初始狀態開始學習,這相當于為AI模型引入了先驗知識(圖3a)。圖3b展示了kanpiler在多個物理公式上的實戰能力,它使模型從“物理正確”的狀態開始學習,而非在隨機初始化的參數空間中盲目搜索。


圖3:KAN2.0如何將科學知識整合到KAN中

KAN不止能基于已有的先驗公式,還能探索未知的變量間關系。具體來看,KAN 2.0采用兩種擴展策略(圖3c):

  1. 寬度擴展(expand_width):在指定層橫向增加新節點,并添加連接新舊節點的邊。

  2. 深度擴展(expand_depth):在網絡中插入新層,將原單步變換拆解為多步復合變換。

圖中以一個簡單KAN(2輸入→2中間→1輸出)為例,展示擴展后網絡如何從“精確但僵化”變為“靈活可塑”。這一設計符合科學發現的官吏,先驗公式提供初始假設,而擴展與微調允許網絡在數據驅動下修正或超越人類現有認知。

利用KAN 2.0發現科學規律

更激動人心的是反向過程,KAN2.0支持從訓練好的KAN中提取科學規律。具體分為三步:

  1. 識別哪些輸入變量真正影響輸出(如發現行星軌道僅由質量與距離決定);

  2. 揭示變量如何組合成模塊(如能量守恒體現為動能與勢能的加和結構);

  3. 通過符號回歸將邊上的B樣條擬合為數學表達式(如sin(x)、exp(x))。

在圖4a中,對比了原版KAN與MultKAN對節點(變量)重要性的評估,原版KAN識別出的這些活躍信號可能被后續層“靜默”,從而對變量的重要性產生誤判。KAN 2.0的歸因評分采用反向傳播式計算,評分函數能正確識別出 x1路徑實際無貢獻,生成稀疏且物理一致的網絡圖,其中僅 x2 路徑被高亮,與方程的數學本質完全吻合。

通過反向傳播式評分,量化每條路徑對輸出的邊際貢獻。這接近科學實驗中的“干預測試”:若移除某變量,輸出變化多大?歸因評分正是這種思想的計算實現。


圖4:KAN2.0如何通過歸因評分和剪枝確定關鍵變量

在真實科學問題中(如基因組學、氣候建模),輸入維度常達數百甚至上千,但僅少數變量與目標相關。圖4b為包含所有100個變量的KAN與剪枝后得到包含對結果貢獻最大的5個變量的KAN。

KAN剪枝的過程,就是在做假設生成。當KAN自動剔除95個變量后,科學家可聚焦于剩余5個變量構建物理模型,加速“數據→理論”的轉化。


圖5:KAN2.0如何自動得到變量模塊

KAN 2.0進行科學發現的第二步是將關鍵變量模塊化。KAN 2.0采用的auto_swap的神經元交換技術,為訓練完成的KAN網絡中的每層節點隨機分配二維坐標 (x,y),并定義總連接成本 ,之后迭代式的嘗試交換同層任意兩節點的坐標,若交換后總連接成本下降則接受,直至收斂(圖5上)。該過程不改變網絡功能,僅重排節點順序,卻使強連接的節點在空間上聚集,弱連接節點分離,形成肉眼可辨的模塊簇 。

對比當前多層神經網絡MLP中,由于采用固定激活函數(如ReLU)難以直接表達多數投票的非線性閾值特性,被迫用多層組合近似,導致功能模塊在參數空間中“彌散編碼” (圖5下)。

當任務本身具有模塊結構時,KAN的邊激活架構會自然學習到稀疏連接模式,這意味著功能模塊化可自發誘導解剖模塊化,科學家能據此從數據中發現系統中存在獨立的子模塊。識別出的模塊可被剪枝或替換為符號公式,實現“神經-符號”混合建模。層次化模塊結構還可直接對應物理系統的尺度分離(微觀→介觀→宏觀),為多尺度建模提供網絡拓撲依據。

在二維諧振子實驗中,KAN自動發現了三個守恒量:x方向能量、y方向能量與角動量。當KAN的某條路徑僅連接x與p?時,暗示該守恒量僅與x方向運動相關。網絡拓撲成了物理對稱性的可視化映射。


圖6:KAN如何發現功能模塊,從而擬合公式

KAN 2.0不僅能擬合函數,更能逐步學習函數內在的層次化結構,從而發現對應的數學公式。圖6a定義了功能模塊化的三級層次體系,每一級對應特定的數學結構與可計算檢測準則。圖6b通過兩個合成函數,可視化展示了樹轉換器(tree converter)如何將任意函數遞歸分解為層次化樹結構。在之后的案例中,研究者用KAN 2.0在發現史瓦西黑洞隱藏對稱性時,用圖6的樹轉換器可識別出坐標變換的層次結構。

總結

Software 1.0的傳統編程,完全依賴先驗知識,代表“理性主義”(知識源于先驗推理),Software 2.0機器學習代表“經驗主義”(知識源于數據歸納),完全依賴從數據中從頭挖掘(圖7a),前者對應論語中的思而不學則怠,后者對應學而不思則惘,。而KAN 2.0試圖融合二者,采用可學習的組件找出可推理的結構。它犧牲部分可學習性(相比MLP需更多參數擬合同等函數),換取可解釋性的質變(從“事后解釋”到“結構即解釋”)。


圖7:KAN相比傳統程序和機器學習在可解釋性與可學習性上的擴展

圖7b以帕累托前沿,追問可解釋性是否隨規模增長而必然衰減? 只依賴KAN(厚紅線),規模較小時,網絡整體可讀。但隨規模增長,即使每條邊單獨可解釋,組合爆炸導致全局理解困難。如同能讀懂每個漢字,卻無法理解百萬字小說的敘事結構。

“僅靠人類直覺”所能達到的可解釋性上限,呈現指數衰減趨勢。而通過符號回歸(Symbolic regression),模塊發現(Modularity discovery)和特征歸因(Feature attribution),細紅線對應的模型×方法×人類認知"的協同作用可將可解釋性邊界向外推移。

傳統科學哲學認為,理解即獲得符號公式;但KAN 2.0指出,理解存在光譜:從識別關鍵變量,到把握模塊關系,再到精確公式。這種分層觀更貼近真實科研——生物學家可能無需微分方程,僅憑通路模塊就能理解細胞信號傳導。

當前XAI(可解釋AI)多聚焦于事后解釋(post-hoc explanation),如用注意力熱力圖說明CNN關注圖像哪部分。但KAN 2.0倡導的內在可解釋性(inherent interpretability)讓網絡結構本身即承載科學意義。當KAN的邊對應物理量間的函數關系,節點對應變量組合,網絡不再是黑箱,而成為科學假設的可計算載體

KAN2.0 將AI從“預測引擎”重塑為“認知伙伴”。未來AI4Science工具或許應具備三重能力:感知數據、操作符號、生成假設。KAN在前兩者間架起橋梁,而假設生成可能需要結合大語言模型的推理能力。

論文作者

拓撲學課程:從空間直覺到系統科學

你是否曾思考過:為什么咖啡杯在數學上可以變成甜甜圈?為什么混沌系統中會出現周期軌、可約化結構和“奇怪吸引子”模式?為什么神經網絡、量子物理甚至心理結構,都可以從“拓撲”角度理解?

拓撲學不僅是數學的抽象分支,更提供了系統的思維方式,讓我們理解連續性、結構不變性乃至復雜系統的整體規律。從歐拉七橋問題到DNA的纏結,從量子場論到思維科學與腦科學,拓撲學思想正在各學科中普遍而深刻地重塑著我們的認知方式。

集智學園聯合北京大學博士金威老師開設,課程于11月23日開啟,歡迎感興趣的讀者加入。


詳情請見:

1.

2.

3.

4.

5.

6.

7.

特別聲明:以上內容(如有圖片或視頻亦包括在內)為自媒體平臺“網易號”用戶上傳并發布,本平臺僅提供信息存儲服務。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相關推薦
熱點推薦
辛柏青回應吳越撮合,沒有翻臉沒有接梗,把分寸和家人穩穩守住

辛柏青回應吳越撮合,沒有翻臉沒有接梗,把分寸和家人穩穩守住

一盅情懷
2026-04-28 17:18:29
柳州官方通報“酒店謊稱老板離世,從4晚共494元漲價至569元一晚”:市監局已立案調查,將依法依規嚴肅查處

柳州官方通報“酒店謊稱老板離世,從4晚共494元漲價至569元一晚”:市監局已立案調查,將依法依規嚴肅查處

揚子晚報
2026-04-28 07:45:48
首個退群北約的國家來了:已走程序,退意已決!

首個退群北約的國家來了:已走程序,退意已決!

福建睿平
2026-04-27 11:46:08
從武大碩士到商場導購:誣告學弟性騷擾的楊景媛,終于付出了代價

從武大碩士到商場導購:誣告學弟性騷擾的楊景媛,終于付出了代價

地理三體說
2026-04-25 22:06:06
孫繼海贏了?張卓毅正式告別足球,改打羽毛球,中國男足痛失新星

孫繼海贏了?張卓毅正式告別足球,改打羽毛球,中國男足痛失新星

國足風云
2026-04-28 09:15:49
正大量上市!硒是洋蔥的30倍,中老年人多吃它,手腳靈活,精神棒

正大量上市!硒是洋蔥的30倍,中老年人多吃它,手腳靈活,精神棒

阿龍美食記
2026-04-28 14:08:52
49歲程愫再婚?與傅程鵬離婚9年終尋得幸福?兒子成最大贏家

49歲程愫再婚?與傅程鵬離婚9年終尋得幸福?兒子成最大贏家

一盅情懷
2026-04-28 12:25:40
誰敢相信!去年跟腱撕裂,今年滿血回歸,季后賽場均24分

誰敢相信!去年跟腱撕裂,今年滿血回歸,季后賽場均24分

球毛鬼胎
2026-04-28 22:07:08
田亮兒子脖子粗到和頭一樣,網友集體急勸:快帶娃去醫院!

田亮兒子脖子粗到和頭一樣,網友集體急勸:快帶娃去醫院!

一口娛樂
2026-04-27 18:05:28
廣東一男子臆想同學要害自己,持刀致同學及其弟弟1死1傷,經鑒定男子患精神分裂癥;被害人:兇手行兇前曾問有什么話要跟他說

廣東一男子臆想同學要害自己,持刀致同學及其弟弟1死1傷,經鑒定男子患精神分裂癥;被害人:兇手行兇前曾問有什么話要跟他說

臺州交通廣播
2026-04-28 02:15:19
錢學森夫人蔣英的罕見照片,美的不可方物

錢學森夫人蔣英的罕見照片,美的不可方物

黎庶文史
2026-04-25 22:56:52
傷痕明顯!廣州狀元陳國豪面部骨裂 季后賽大概率戴面具對陣廣東

傷痕明顯!廣州狀元陳國豪面部骨裂 季后賽大概率戴面具對陣廣東

醉臥浮生
2026-04-28 16:41:15
從20萬到16億,一個普通散戶的“笨辦法”投資傳奇

從20萬到16億,一個普通散戶的“笨辦法”投資傳奇

流蘇晚晴
2026-04-20 20:13:29
首個4-0!雷霆橫掃太陽晉級半決賽,SGA31+8布克24+6

首個4-0!雷霆橫掃太陽晉級半決賽,SGA31+8布克24+6

湖人崛起
2026-04-28 12:14:16
李想稱L9比大眾ID.ERA 9X領先兩代,上汽大眾高管:理想僅價格和營銷領先

李想稱L9比大眾ID.ERA 9X領先兩代,上汽大眾高管:理想僅價格和營銷領先

紅星資本局
2026-04-27 20:19:15
外交部再次提醒:中國公民暫勿前往伊朗

外交部再次提醒:中國公民暫勿前往伊朗

界面新聞
2026-04-28 16:55:00
太卷了!上交大2026博士生招5000人,超過美國主流大學招生數

太卷了!上交大2026博士生招5000人,超過美國主流大學招生數

談史論天地
2026-04-28 19:10:08
竇靖童和宋妍霏巴黎被偶遇,留著寸頭很帥氣,兩人在一起很久了

竇靖童和宋妍霏巴黎被偶遇,留著寸頭很帥氣,兩人在一起很久了

一盅情懷
2026-04-28 12:25:03
為什么說陽痿、跑步、心梗,成了“斬殺”中年男性的“三件套”?

為什么說陽痿、跑步、心梗,成了“斬殺”中年男性的“三件套”?

醫藥養生保健報社
2026-04-28 17:59:19
48度的熱水器溫度,一個中產家庭承受不起的奢侈

48度的熱水器溫度,一個中產家庭承受不起的奢侈

北歐模式
2026-04-27 20:04:03
2026-04-28 22:40:49
集智俱樂部 incentive-icons
集智俱樂部
科普人工智能相關知識技能
5791文章數 4671關注度
往期回顧 全部

科技要聞

10億周活目標落空!傳OpenAI爆發內部分歧

頭條要聞

媒體:臺海軍退役少校登烏魯木齊艦 給出的結論很直接

頭條要聞

媒體:臺海軍退役少校登烏魯木齊艦 給出的結論很直接

體育要聞

魔術黑八活塞,一步之遙?!

娛樂要聞

蔡卓妍官宣結婚,老公比她小10歲

財經要聞

中央政治局會議定調,八大看點速覽!

汽車要聞

拒絕瘋狂套娃!現代艾尼氪金星長在未來審美點上

態度原創

藝術
手機
健康
旅游
公開課

藝術要聞

深圳極具未來感的“外星”建筑亮相

手機要聞

手機版DLSS來了?三星ENSS技術實測性能提升15%

干細胞治療燒燙傷三大優勢!

旅游要聞

坐擁頂流文旅熱度,深圳如何以盛會勢能筑牢長期競爭力?

公開課

李玫瑾:為什么性格比能力更重要?

無障礙瀏覽 進入關懷版