反向傳播是現(xiàn)代深度學(xué)習(xí)的核心算法，但它在生物腦中如何實(shí)現(xiàn)仍存在根本困難：它需要嚴(yán)格分離的前向與反向階段、全局協(xié)調(diào)、精確的誤差信號(hào)傳輸以及近似對(duì)稱的權(quán)重結(jié)構(gòu)。預(yù)測(cè)編碼提供了一條不同路線：大腦不是被動(dòng)接收世界，而是持續(xù)預(yù)測(cè)感官輸入，并用預(yù)測(cè)誤差來更新內(nèi)部模型。若把學(xué)習(xí)理解為一種能量或自由能最小化過程，神經(jīng)活動(dòng)與突觸權(quán)重都可以通過局部誤差信號(hào)連續(xù)調(diào)整。

問題的起點(diǎn)：大腦如何學(xué)習(xí)？

人工智能的成功在很大程度上建立在反向傳播和梯度下降之上。只要一個(gè)神經(jīng)網(wǎng)絡(luò)的輸入、權(quán)重、激活函數(shù)和損失函數(shù)可以寫成一個(gè)可微分的數(shù)學(xué)函數(shù)，計(jì)算機(jī)就能利用鏈?zhǔn)椒▌t精確計(jì)算每個(gè)參數(shù)對(duì)最終誤差的貢獻(xiàn)，并沿著誤差下降最快的方向更新權(quán)重。這一機(jī)制極其強(qiáng)大，幾乎支撐了現(xiàn)代機(jī)器學(xué)習(xí)從圖像識(shí)別、語音處理到大型語言模型的主要進(jìn)展。

然而，生物大腦并不像數(shù)字計(jì)算機(jī)那樣工作。人腦沒有一個(gè)中央控制器去協(xié)調(diào)全腦神經(jīng)元先做一次前向傳播，再凍結(jié)活動(dòng)，再逐層反向傳播誤差，最后同步更新所有突觸。神經(jīng)組織中的信號(hào)傳遞相對(duì)緩慢，神經(jīng)元和突觸又高度局部化、異步化、并行化。大腦在感知、行動(dòng)和學(xué)習(xí)時(shí)并不會(huì)“按暫停鍵”。

因此，核心問題不是反向傳播是否有用，而是：如果大腦不太可能嚴(yán)格執(zhí)行反向傳播，它是否使用了另一種能夠解決信用分配問題、同時(shí)又符合神經(jīng)生物學(xué)約束的學(xué)習(xí)機(jī)制？預(yù)測(cè)編碼正是在這個(gè)問題上變得重要。它既是一種關(guān)于大腦感知和學(xué)習(xí)的理論，也是一種可能啟發(fā)新型人工智能架構(gòu)的計(jì)算框架。

信用分配：所有學(xué)習(xí)系統(tǒng)都必須解決的根本難題

所謂信用分配問題，是指當(dāng)一個(gè)復(fù)雜系統(tǒng)產(chǎn)生了錯(cuò)誤輸出時(shí)，我們?nèi)绾闻袛嘞到y(tǒng)內(nèi)部哪些參數(shù)應(yīng)該負(fù)責(zé)、應(yīng)該如何改變、改變多少。對(duì)于一個(gè)多層神經(jīng)網(wǎng)絡(luò)，最終錯(cuò)誤可能來自最上層的分類器，也可能來自低層特征提取不佳，還可能來自中間層表示結(jié)構(gòu)不合適。學(xué)習(xí)的本質(zhì)，就是把整體表現(xiàn)的成敗分解為局部參數(shù)的調(diào)整方向。

在工程神經(jīng)網(wǎng)絡(luò)中，反向傳播給出了一個(gè)優(yōu)雅答案：把整個(gè)網(wǎng)絡(luò)看成一個(gè)復(fù)合函數(shù)，用鏈?zhǔn)椒▌t從輸出誤差向輸入方向逐層求導(dǎo)。這樣，每個(gè)權(quán)重都能得到一個(gè)明確梯度，告訴它下一步應(yīng)該增大還是減小。這個(gè)方法在硅基計(jì)算機(jī)上非常高效，因?yàn)橛?jì)算圖、內(nèi)存、同步控制和矩陣運(yùn)算都可以精確管理。

但在大腦中，這種形式的全局精確求導(dǎo)面臨兩類最尖銳的困難。

第一是連續(xù)處理問題：大腦無法把感知和學(xué)習(xí)分成互不干擾的階段。

第二是局部自治問題：真實(shí)突觸只能訪問局部可獲得的信息，不可能知道整個(gè)網(wǎng)絡(luò)的全局損失函數(shù)和遠(yuǎn)端神經(jīng)元的精確導(dǎo)數(shù)。

預(yù)測(cè)編碼的吸引力，正是因?yàn)樗噲D用局部誤差、連續(xù)動(dòng)力學(xué)和近似 Hebbian 可塑性來完成類似的信用分配。

反向傳播為什么難以直接映射到大腦？

標(biāo)準(zhǔn)反向傳播通常包含嚴(yán)格的階段分離。首先輸入信號(hào)自下而上通過網(wǎng)絡(luò)，得到輸出預(yù)測(cè)；隨后輸出與目標(biāo)值比較，產(chǎn)生誤差；接著誤差自上而下逐層反傳；最后權(quán)重根據(jù)梯度同步更新。這個(gè)過程對(duì)機(jī)器來說自然，對(duì)神經(jīng)組織卻并不自然。

如果大腦嚴(yán)格執(zhí)行這種機(jī)制，它就需要在學(xué)習(xí)時(shí)臨時(shí)凍結(jié)前向活動(dòng)，等待反向誤差信號(hào)傳回，再逐層更新突觸。由于生物神經(jīng)信號(hào)傳遞速度有限，這將導(dǎo)致感知和行動(dòng)出現(xiàn)頻繁的短暫中斷?，F(xiàn)實(shí)中的大腦并非如此：我們?cè)诳?、聽、走路、說話和學(xué)習(xí)時(shí)，神經(jīng)系統(tǒng)始終處在連續(xù)流動(dòng)中。感知、預(yù)測(cè)、誤差修正和突觸可塑性同時(shí)發(fā)生。

另一個(gè)困難是全局協(xié)調(diào)。反向傳播要求不同層級(jí)以精確次序解凍、傳遞和更新，還要求反饋通路攜帶與前饋權(quán)重相匹配的誤差信息。這就是所謂“權(quán)重傳輸問題”。生物腦當(dāng)然存在節(jié)律、注意系統(tǒng)和多巴胺等神經(jīng)遞質(zhì)，但這些機(jī)制通常在較粗的時(shí)間和空間尺度上調(diào)節(jié)神經(jīng)活動(dòng)，很難滿足反向傳播所要求的逐細(xì)胞、逐突觸精度。

反向傳播與預(yù)測(cè)編碼的核心差異

維度

反向傳播

預(yù)測(cè)編碼

信息流

前向計(jì)算與反向誤差傳播通常分階段進(jìn)行

預(yù)測(cè)自上而下傳遞，誤差自下而上傳遞，可連續(xù)并行發(fā)生

學(xué)習(xí)信號(hào)

依賴全局損失函數(shù)的梯度

依賴局部預(yù)測(cè)誤差

生物合理性

需要凍結(jié)活動(dòng)、全局協(xié)調(diào)和近似權(quán)重對(duì)稱

可由局部誤差神經(jīng)元和局部突觸可塑性近似實(shí)現(xiàn)

計(jì)算形式

顯式自動(dòng)微分與鏈?zhǔn)椒▌t

能量/自由能最小化下的活動(dòng)松弛與權(quán)重更新

AI 啟發(fā)

高效訓(xùn)練深度網(wǎng)絡(luò)的主流方法

可能支持并行、局部、連續(xù)、類腦和神經(jīng)形態(tài)學(xué)習(xí)

預(yù)測(cè)編碼的基本思想

預(yù)測(cè)編碼的核心思想很簡(jiǎn)單：大腦并不是一臺(tái)被動(dòng)接收刺激的機(jī)器，而是一個(gè)主動(dòng)預(yù)測(cè)系統(tǒng)。它不斷構(gòu)造關(guān)于世界的內(nèi)部模型，用高層表示去預(yù)測(cè)低層感官活動(dòng)；當(dāng)預(yù)測(cè)與實(shí)際輸入不一致時(shí)，差異被編碼為預(yù)測(cè)誤差，進(jìn)而驅(qū)動(dòng)內(nèi)部模型更新。

在視覺系統(tǒng)中，低層可能對(duì)應(yīng)邊緣、紋理、顏色和局部運(yùn)動(dòng)等較原始特征；高層則表示物體、場(chǎng)景、類別和行為意義。高層向低層發(fā)送“我認(rèn)為你應(yīng)該看到什么”的預(yù)測(cè)，低層向高層返回“你的預(yù)測(cè)錯(cuò)在哪里”的誤差信號(hào)。這樣，大腦不必傳遞所有冗余信息，只需要重點(diǎn)處理沒有被模型解釋的部分。

這一思想不僅有計(jì)算效率上的意義，也有生存意義。對(duì)于動(dòng)物來說，預(yù)測(cè)意味著提前準(zhǔn)備：預(yù)測(cè)捕食者、預(yù)測(cè)食物、預(yù)測(cè)身體狀態(tài)、預(yù)測(cè)他人行為。更好的預(yù)測(cè)可以減少不確定性，使行動(dòng)更快速、更節(jié)省能量，也更符合環(huán)境約束。

能量形式：把學(xué)習(xí)看成預(yù)測(cè)誤差的最小化

為了把預(yù)測(cè)編碼變成一個(gè)可計(jì)算的學(xué)習(xí)算法，可以把網(wǎng)絡(luò)狀態(tài)寫成一個(gè)能量函數(shù)。這個(gè)能量并不一定是物理能量，而是一個(gè)衡量系統(tǒng)整體預(yù)測(cè)誤差大小的標(biāo)量。最常見的直覺形式是：

E = 1/2 Σ_l ||ε_(tái)l||2， 其中 ε_(tái)l = x_l ? f(W_{l+1} x_{l+1})

這里，x_l 表示第 l 層神經(jīng)活動(dòng)，W_{l+1} 表示從更高層到當(dāng)前層的預(yù)測(cè)權(quán)重，f 是非線性函數(shù)，ε_(tái)l 是當(dāng)前層實(shí)際活動(dòng)與高層預(yù)測(cè)之間的誤差。系統(tǒng)的目標(biāo)就是讓所有層級(jí)的誤差平方和盡可能小。

這個(gè)框架有一個(gè)重要直覺：網(wǎng)絡(luò)中的神經(jīng)活動(dòng)并不是一次性前向算完，而是在能量地形中逐漸“松弛”到一個(gè)較低能量狀態(tài)。就像一個(gè)彈簧系統(tǒng)會(huì)自動(dòng)尋找張力較小的位置，預(yù)測(cè)編碼網(wǎng)絡(luò)也會(huì)通過調(diào)節(jié)神經(jīng)活動(dòng)，讓實(shí)際活動(dòng)、上層預(yù)測(cè)和下層誤差之間達(dá)到相對(duì)平衡。

活動(dòng)更新：每個(gè)神經(jīng)元在兩種力量之間尋找平衡

在預(yù)測(cè)編碼網(wǎng)絡(luò)中，一個(gè)表征神經(jīng)元的活動(dòng)更新受到兩類局部信號(hào)影響。

第一類來自它自己的預(yù)測(cè)誤差：如果它的實(shí)際活動(dòng)高于上層對(duì)它的預(yù)測(cè)，它會(huì)被拉低；如果低于預(yù)測(cè)，它會(huì)被拉高。

第二類來自它所預(yù)測(cè)的下層神經(jīng)元：如果下層仍有很大誤差，它就需要調(diào)整自身活動(dòng)，以便更好地解釋下層輸入。

因此，每個(gè)神經(jīng)元并不是聽從一個(gè)全局損失函數(shù)，而是在局部層級(jí)中協(xié)調(diào)兩件事：一方面讓自己符合上層模型，另一方面讓自己更好地預(yù)測(cè)下層活動(dòng)。這個(gè)局部折中過程構(gòu)成了預(yù)測(cè)編碼的推斷過程。

從神經(jīng)生物學(xué)角度看，這種形式很有吸引力。它不要求所有神經(jīng)元同步切換模式，也不要求一個(gè)中央控制器逐層調(diào)度。神經(jīng)元只需接收來自相鄰層的預(yù)測(cè)與誤差信息，就能連續(xù)更新自身狀態(tài)。

誤差神經(jīng)元：預(yù)測(cè)編碼為什么需要兩類神經(jīng)群體

預(yù)測(cè)編碼最重要的結(jié)構(gòu)假設(shè)之一，是神經(jīng)系統(tǒng)可能區(qū)分兩類功能性群體：

一類編碼表征或預(yù)測(cè)，

另一類編碼預(yù)測(cè)誤差。

表征神經(jīng)元負(fù)責(zé)維持對(duì)當(dāng)前世界狀態(tài)的解釋；誤差神經(jīng)元負(fù)責(zé)比較實(shí)際活動(dòng)與預(yù)測(cè)活動(dòng)之間的差異。

在一個(gè)層級(jí)中，誤差神經(jīng)元可以被看成比較器：它接收來自同層表征神經(jīng)元的興奮性輸入，同時(shí)接收來自高層預(yù)測(cè)的抑制性輸入。如果兩者匹配，誤差信號(hào)很??；如果不匹配，誤差信號(hào)就變強(qiáng)。隨后，這些誤差信號(hào)向上傳遞，通知高層模型需要修正。

這也解釋了預(yù)測(cè)編碼為什么可以具體落實(shí)為神經(jīng)連接結(jié)構(gòu)：自上而下的連接傳遞預(yù)測(cè)，自下而上的連接傳遞預(yù)測(cè)誤差；同層局部回路則完成實(shí)際活動(dòng)與預(yù)測(cè)活動(dòng)之間的比較。

權(quán)重更新：局部Hebbian可塑性如何承擔(dān)學(xué)習(xí)

如果神經(jīng)活動(dòng)的更新對(duì)應(yīng)“當(dāng)前輸入下如何解釋世界”，那么權(quán)重更新對(duì)應(yīng)“長(zhǎng)期經(jīng)驗(yàn)中如何改變模型”。在預(yù)測(cè)編碼中，連接權(quán)重也沿著降低能量的方向調(diào)整。簡(jiǎn)化地說，某條突觸的改變可以由突觸前活動(dòng)與突觸后誤差信號(hào)的乘積決定：

ΔW ∝ 預(yù)測(cè)誤差 × 突觸前活動(dòng)

這與神經(jīng)科學(xué)中的 Hebbian 可塑性思想相呼應(yīng)：共同活動(dòng)的神經(jīng)元更容易加強(qiáng)連接。不過預(yù)測(cè)編碼中的規(guī)則更精細(xì)，因?yàn)樗皇呛?jiǎn)單地讓所有共同放電的神經(jīng)元連接增強(qiáng)，而是讓連接調(diào)整服務(wù)于減少預(yù)測(cè)誤差。

這種學(xué)習(xí)方式具有重要生物合理性。突觸只需要知道局部可獲得的信息：突觸前神經(jīng)元活動(dòng)、突觸后誤差信號(hào)以及局部調(diào)制狀態(tài)。它不需要讀取全局損失，也不需要等待遠(yuǎn)端層級(jí)傳回精確導(dǎo)數(shù)。

預(yù)測(cè)編碼與反向傳播的關(guān)系

預(yù)測(cè)編碼常被稱為反向傳播的生物合理替代方案，但更準(zhǔn)確地說，它在某些條件下可以近似甚至重現(xiàn)反向傳播的梯度計(jì)算。Whittington 與 Bogacz 的工作顯示，預(yù)測(cè)編碼網(wǎng)絡(luò)可以在局部 Hebbian 突觸可塑性的基礎(chǔ)上近似誤差反向傳播。后續(xù)研究進(jìn)一步表明，預(yù)測(cè)編碼可以沿更一般的計(jì)算圖近似反向傳播梯度。

這說明二者并不是完全互不相干的陣營(yíng)。反向傳播提供了工程上非常高效的全局優(yōu)化工具；預(yù)測(cè)編碼則提供了一種通過神經(jīng)活動(dòng)松弛、局部誤差傳播和局部可塑性實(shí)現(xiàn)相似學(xué)習(xí)目標(biāo)的動(dòng)力學(xué)機(jī)制。

換言之，預(yù)測(cè)編碼的價(jià)值在于提供一種可能更適合生物組織、神經(jīng)形態(tài)硬件和分布式智能系統(tǒng)的學(xué)習(xí)范式。它把學(xué)習(xí)從一次性矩陣求導(dǎo)，重新解釋為一個(gè)連續(xù)發(fā)生的局部自組織過程。

為什么它可能啟發(fā)下一代AI

從人工智能角度看，預(yù)測(cè)編碼至少具有四個(gè)潛在吸引力。

第一，它天然支持并行計(jì)算。每個(gè)層級(jí)和局部回路都可以根據(jù)相鄰誤差持續(xù)更新，不必等待一個(gè)全局反向階段完成。

第二，它適合神經(jīng)形態(tài)硬件，因?yàn)榫植扛潞褪录?qū)動(dòng)處理更接近神經(jīng)芯片與脈沖神經(jīng)網(wǎng)絡(luò)的實(shí)現(xiàn)方式。

第三，它可能更適合持續(xù)學(xué)習(xí)。標(biāo)準(zhǔn)深度網(wǎng)絡(luò)容易出現(xiàn)災(zāi)難性遺忘：新任務(wù)的全局誤差更新可能覆蓋舊知識(shí)結(jié)構(gòu)。預(yù)測(cè)編碼的局部誤差更新有潛力更好地保留已有模型結(jié)構(gòu)，雖然這一優(yōu)勢(shì)在不同任務(wù)、架構(gòu)和訓(xùn)練條件下仍需具體驗(yàn)證。

第四，預(yù)測(cè)編碼與生成模型、變分推斷和主動(dòng)推斷之間存在深層聯(lián)系。它不只是學(xué)習(xí)輸入到輸出的映射，而是學(xué)習(xí)一個(gè)可以解釋輸入、生成預(yù)測(cè)并處理不確定性的內(nèi)部模型。這一點(diǎn)使其與未來面向世界模型、機(jī)器人、具身智能和自主智能體的 AI 架構(gòu)具有天然關(guān)聯(lián)。

必須保持清醒：預(yù)測(cè)編碼不是萬能答案

盡管預(yù)測(cè)編碼極具吸引力，但它不是已經(jīng)取代反向傳播的萬能算法。首先，工程深度學(xué)習(xí)中反向傳播仍然效率極高、工具鏈成熟、可擴(kuò)展性強(qiáng)。預(yù)測(cè)編碼網(wǎng)絡(luò)往往需要迭代松弛到平衡狀態(tài)，這在某些任務(wù)中可能帶來額外計(jì)算開銷。

其次，生物合理性并不等于生物真實(shí)性。預(yù)測(cè)編碼可以解釋許多神經(jīng)現(xiàn)象，但真實(shí)大腦遠(yuǎn)比標(biāo)準(zhǔn)層級(jí)預(yù)測(cè)編碼模型復(fù)雜：皮層并非嚴(yán)格層狀前饋-反饋結(jié)構(gòu)，神經(jīng)調(diào)質(zhì)、振蕩、膠質(zhì)細(xì)胞、樹突計(jì)算、身體反饋和主動(dòng)行為都參與學(xué)習(xí)。

第三，預(yù)測(cè)編碼是否在所有腦區(qū)、所有任務(wù)、所有學(xué)習(xí)階段都占據(jù)核心地位，仍是開放問題。它更像一種強(qiáng)有力的理論框架和算法族，而不是一條已經(jīng)被完全證實(shí)的統(tǒng)一定律。

結(jié)論：預(yù)測(cè)編碼的真正意義

預(yù)測(cè)編碼的重要性在于，它把學(xué)習(xí)重新放回了生物系統(tǒng)的真實(shí)約束中。它不再假設(shè)大腦是一臺(tái)執(zhí)行全局反向傳播的數(shù)字計(jì)算機(jī)，而是假設(shè)大腦是一個(gè)持續(xù)預(yù)測(cè)、持續(xù)比較、持續(xù)修正的動(dòng)力學(xué)系統(tǒng)。每個(gè)神經(jīng)元和突觸都在局部誤差信號(hào)的驅(qū)動(dòng)下參與整體模型的更新。

預(yù)測(cè)編碼提出了一個(gè)深刻方向：未來的 AI 如果要更加穩(wěn)健、節(jié)能、可解釋、可持續(xù)學(xué)習(xí)，并且更接近生物智能，可能需要從“全局誤差反傳的工程機(jī)器”走向“局部預(yù)測(cè)誤差驅(qū)動(dòng)的動(dòng)態(tài)系統(tǒng)”。這正是預(yù)測(cè)編碼作為腦啟發(fā)學(xué)習(xí)框架的理論魅力和技術(shù)價(jià)值。

參考文獻(xiàn)Rao, R. P. N., & Ballard, D. H. (1999). Predictive coding in the visual cortex: a functional interpretation of some extra-classical receptive-field effects. Nature Neuroscience, 2, 79–87.Bogacz, R. (2017). A tutorial on the free-energy framework for modelling perception and learning. Journal of Mathematical Psychology, 76, 198–211.Friston, K. (2018). Does predictive coding have a future? Nature Neuroscience, 21, 1019–1021.Huang, Y., & Rao, R. P. N. (2011). Predictive coding. Wiley Interdisciplinary Reviews: Cognitive Science, 2, 580–593.Keller, G. B., & Mrsic-Flogel, T. D. (2018). Predictive processing: a canonical cortical computation. Neuron, 100, 424–435.Lillicrap, T. P., Santoro, A., Marris, L., Akerman, C. J., & Hinton, G. (2020). Backpropagation and the brain. Nature Reviews Neuroscience, 21, 335–346.Whittington, J. C. R., & Bogacz, R. (2017). An approximation of the error backpropagation algorithm in a predictive coding network with local Hebbian synaptic plasticity. Neural Computation, 29, 1229–1262.Millidge, B., Tschantz, A., & Buckley, C. L. (2022). Predictive coding approximates backprop along arbitrary computation graphs. Neural Computation, 34, 1329–1368.Millidge, B., Seth, A., & Buckley, C. L. (2021). Predictive Coding: a Theoretical and Experimental Review. arXiv:2107.12979.Song, Y., Millidge, B., Salvatori, T., Lukasiewicz, T., Xu, Z., & Bogacz, R. (2024). Inferring neural activity before plasticity as a foundation for learning beyond backpropagation. Nature Neuroscience, 27, 348–358.Salvatori, T., Mali, A., Buckley, C. L., Lukasiewicz, T., Rao, R. P. N., Friston, K., & Ororbia, A. (2025). A Survey on Brain-Inspired Deep Learning via Predictive Coding. arXiv:2308.07870.

掃描或長(zhǎng)按識(shí)別二維碼獲取超強(qiáng)醫(yī)療模型MedGPT免費(fèi)使用額度