Emergent E-I Structure in Performance-Evolved Reservoir Networks of Neuronal Population Dynamics

神經元群體動力學性能演化儲層網絡中涌現的 EI 結構

https://arxiv.org/pdf/2603.13635

摘要

理解網絡結構如何產生神經元動力學，以及緊湊的計算模型能否僅從數據中恢復該結構，是計算神經科學中的一個核心挑戰。我們應用性能依賴的網絡演化（PDNE）框架對威爾遜-科恩（WC）神經元系統的動力學進行建模，這是一個經典的興奮-抑制（E-I）雙群體相互作用模型，構成了生理節律的基礎。從最小種子網絡出發，PDNE僅依據預測性能迭代地生長與剪枝儲備池計算（RC）網絡，從而得到緊湊的、任務優化的儲備池網絡。演化出的網絡能夠準確預測未見刺激幅度下的興奮性E(t)與抑制性I(t)群體活動，并能以零樣本方式泛化至全新的刺激配置：變化的脈沖數量、位置和幅度，且無需重新訓練。對演化網絡的結構分析揭示出一種一致的功能組織結構，其中包含專門用于E、I以及共享E-I表示的節點。重要的是，演化儲備池的群體級連接自發地恢復了WC模型四種相互作用類型中三種的正確興奮-抑制符號模式，而這一模式并非在設計中人為強加。這些結果表明，性能驅動的網絡演化不僅能生成準確的生理節律模型，還具備結構可解釋性，從而為構建緊湊且數據高效的神經元系統數字孿生開辟了一條道路。

I. 引言

大腦是復雜生理網絡的典范，其從慢速δ振蕩到快速γ爆發的涌現節律，源于興奮性和抑制性神經元群體的相互作用 1 , 2 。理解網絡結構如何產生這些動力學，反之，動力學功能如何約束網絡拓撲，是計算神經科學和類腦計算中的一個核心挑戰 3
。機器學習的最新進展為此類生理節律的數據驅動建模開辟了新途徑，然而主流深度學習框架在很大程度上仍然是黑盒系統：它們預測效果良好，但對其所逼近的動力學背后的機制鮮有洞察 4
。這種預測能力與可解釋性之間的張力，促使人們尋找更小、更具結構性且機制透明的計算模型。

神經元群體模型，如威爾遜-考恩（Wilson-Cowan, WC）模型 5
，以極少的參數化捕捉了興奮-抑制（E-I）相互作用的本質動力學，產生了包括不動點、極限環和雙穩態在內的豐富動力學庫。人們曾嘗試使用循環神經網絡（RNNs）和神經常微分方程（Neural ODEs）等機器學習模型來復現此類動力學 6 , 7
，但這些方法通常需要大量參數，且提供的結構可解釋性有限。一個關鍵的開放性問題在于：一個緊湊的、可學習的動力系統是否不僅能預測不同刺激條件下的神經元群體活動，還能發展出一種反映目標系統底層E-I組織的內部結構。

s ( t ) 是作為分岔參數的外部脈沖刺激。盡管WC模型極為簡單，僅由兩個耦合方程構成，卻展現出豐富的動力學模式，包括單穩態、雙穩態和持續振蕩，使其成為結構感知動力學建模的理想測試平臺。所有模型參數均提供于附錄A。

我們的核心假設包含兩個方面。首先，PDNE演化出的儲備池能夠準確預測未見刺激幅度和刺激配置下的WC群體動力學，跨越系統的分岔圖景實現泛化，且所需參數數量遠少于標準的大型儲備池。其次，且更根本的是，演化網絡的拓撲結構將自發地反映出WC系統的興奮-抑制（E-I）連接結構，這并非出于人為設計，而是性能驅動的結構適應所涌現的結果。若該假設得以驗證，這將證明任務優化的網絡演化不僅能生成準確的生理節律模型，還能生成結構可解釋的模型，其中學習到的網絡架構編碼了關于目標系統的機制信息。

II. 方法：儲備池計算實現與PDNE

A. 儲備池計算實現

B. 性能依賴的網絡演化

標準儲備池計算（RC）在訓練前固定儲備池拓撲結構，限制了對目標動力學復雜性的適應能力。我們采用PDNE框架1?，其中儲備池拓撲結構被迭代地增長，直到達到目標預測誤差。從包含個節點的最小種子網絡開始，該算法在每個演化步驟 t t交替進行兩種結構操作：節點添加和刪除（圖1b）：

C. 訓練數據

III. 預測性能與泛化

A. 跨刺激幅度的泛化

B. 對新穎刺激配置的零樣本泛化

檢驗一個學習到的模型是內化了底層的系統動力學，還是僅僅記住了刺激-響應映射，一個更嚴格的測試是其能否在無需重新訓練的情況下泛化至結構不同的輸入。圖3展示了這樣一個測試：專門在雙脈沖序列上訓練的PDNE演化儲備池，在脈沖數量、時間位置和幅度均變化的全新配置上進行評估，且未進行任何重新訓練或微調。

這一結果具有重要的啟示：儲備池并沒有學習到綁定于特定雙脈沖訓練格式的固定輸入-輸出映射，而是內化了WC系統的反應動力學，即其在任意時間點響應任意脈沖并產生正確興奮性和抑制性軌跡的能力。每個脈沖實際上都將系統重置為一種瞬態響應，而演化后的網絡復現了這種跨不同脈沖間間隔和幅度的“重置-響應”行為。這些發現表明，PDNE演化的儲備池發展出了WC動力學的可泛化內部模型，而非特定于刺激的近似。

IV. 網絡演化與結構分析

接下來，我們分析在解決WC建模任務時網絡結構是如何演化的，在儲備池生長和剪枝的過程中，聯合跟蹤預測誤差、網絡規模、連接密度和內部參數分布。

A. 演化動力學

具有代表性的初始和最終網絡拓撲結構如圖4(e, f)所示。稀疏的種子網絡發展成為一個結構豐富得多的循環結構，具有更廣泛的連接性和更大比例的輸出節點。邊的顏色揭示了演化后網絡中興奮性和抑制性連接的自發出現。這種結構重組在圖(g)和(h)中進行了量化。演化后，節點增益分布從狹窄的初始范圍顯著拓寬至幾乎整個允許區間，引入了異質的激活靈敏度，從而豐富了儲層的動力學特性。相應地，邊權分布從以弱正連接為主的狀態，重組為一個覆蓋正負值的寬而近乎對稱的分布。負權重（對應抑制性相互作用）的增加與目標WC系統的興奮-抑制耦合結構一致，這表明性能驅動的演化將儲層拓撲結構塑造為能夠反映底層神經元模型功能組織的動力學模式。

C. 與威爾遜-考恩連接性的結構對應

此外，我們考察了演化后的儲備池是否在群體水平上重現了WC模型的帶符號連接結構。跨重復實驗的邊緣極性如圖5(d)所示，其中興奮性E→I和抑制性I→E連接的百分比有所變化且低于WC預測的100%，但在大多數重復中仍存在正確的符號傾向。面板(e)顯示了E→I和I→E方向的平均最短路徑長度，這些長度在跨重復實驗中基本保持對稱，表明該網絡在拓撲水平上并未復現WC模型“快興奮、延遲抑制”的時間不對稱性。

這些結果表明，PDNE演化過程純粹由預測性能驅動，自發地恢復了威爾遜-考恩模型的定性E-I連接結構。演化后的儲備池并未復現顯式的兩節點WC架構，而是發展出一種分布式多節點解，其群體級連接符號與底層神經元耦合一致，從而提供了一個結構可解釋的、緊湊的E-I生理節律模型。

V. 討論

本研究表明，性能驅動的網絡演化能夠產生緊湊、準確且結構可解釋的神經元群體動力學模型。通過將PDNE框架應用于威爾遜-考恩（WC）系統，我們證明僅基于預測性能演化的儲備池會發展出內部組織結構，自發地反映目標神經元模型的興奮-抑制（E-I）架構，而這種對應關系并非由設計強加。

預測結果表明，具有66 ± 17個節點的PDNE演化儲備池能夠可靠地泛化至未見過的刺激幅度，更引人注目的是，無需任何重新訓練即可泛化至脈沖數量、時間和幅度完全不同的全新刺激配置。這種零樣本泛化表明，演化后的網絡已經內化了WC系統的反應動力學、其刺激驅動的瞬態響應、E與I群體之間的時間尺度分離，以及連續脈沖之間的恢復過程，而非死記硬背特定的訓練模式。這對神經元系統的數據高效數字孿生具有直接意義，因為在這些應用中，訓練數據可能僅限于狹窄的實驗條件范圍。

結構分析揭示了兩個互補的發現。首先，功能節點組成中E特異性、I特異性和共享節點的比例大致相等，且這一比例在隨機性各異的重復實驗中保持一致，證明PDNE演化能可靠地將儲備池組織成鏡像反映目標系統E-I結構的群體。這種組織結構在不同規模網絡中的一致性表明，它反映的是任務的基本屬性，而非特定網絡實例化的結果。其次，演化網絡的群體級連接自發地恢復了WC模型四種相互作用類型中三種的正確興奮-抑制符號模式。唯一的結構偏差，即相對于I→E抑制更強的側向I→I抑制，構成了一個原始WC公式中不存在但在皮層中間神經元生理學中眾所周知的新涌現基序1?。這表明演化過程發現了一類更廣泛的E-I穩定機制，超越了目標模型中編碼的機制，可能揭示了生物學上合理的替代動力學解。

這些發現具有多方面的廣泛啟示。對于神經元建模，它們證明E-I網絡中的結構-功能關系可以僅從動力學中恢復，無需解剖學約束或對連接性的顯式監督。對于儲備池計算，它們確立了PDNE提供了一條從信息匱乏的隨機儲備池到適應任務的、結構可解釋網絡的原理性路徑。對于基于RC的數字孿生構建1?，它們表明緊湊的演化儲備池可以作為神經元系統的機制透明代理，不僅捕獲輸出動力學，還捕獲底層回路的組織原則。

若干方向值得未來深入探究。將該框架擴展至更復雜的神經元模型：多群體網絡、空間結構的皮層回路，或表現出持續振蕩和混沌的模型，將檢驗結構對應發現的普遍性。在演化過程中引入網絡連接的生物物理約束（例如區分興奮性和抑制性神經元的戴爾原則），可能進一步銳化演化儲備池的結構可解釋性。最后，將PDNE應用于真實連接未知的實驗神經時間序列數據，代表了性能驅動的演化能否作為從動力學進行回路推斷工具的終極檢驗。

通過融合網絡科學、儲備池計算和計算神經科學的見解，這項工作為構建高效、可解釋且結構有意義的生理節律模型開辟了新途徑，向基于動力學第一性原理的神經元系統緊湊數字孿生邁出了一步。

原文鏈接：https://arxiv.org/pdf/2603.13635