這項由美國布法羅大學(xué)（University at Buffalo）研究團(tuán)隊完成的研究，以預(yù)印本形式于2026年5月29日發(fā)布在arXiv平臺，編號為arXiv:2606.00377。感興趣的讀者可以通過該編號在arXiv上查閱完整論文。

你有沒有見過AI生成的人手圖片，手指不是多了一根就是少了一根，甚至彎向不該彎的方向？又或者，AI畫出來的國際象棋棋盤上，棋子擺得亂七八糟，完全不符合規(guī)則？這些讓人哭笑不得的"AI錯誤"，在學(xué)術(shù)界有一個正式的名字——**幻覺**（Hallucination）。就像人在高燒時會看到不存在的東西一樣，AI在生成圖像時，也會"憑空捏造"出現(xiàn)實中根本不可能存在的內(nèi)容。

這個問題不只是讓人覺得好笑那么簡單。當(dāng)AI被用于醫(yī)學(xué)影像分析、工業(yè)質(zhì)檢，甚至輔助設(shè)計創(chuàng)作時，一旦生成了"幻覺圖像"，輕則讓人哭笑不得，重則可能造成嚴(yán)重后果。因此，如何讓AI少產(chǎn)生幻覺，是當(dāng)前人工智能領(lǐng)域一個相當(dāng)緊迫的研究課題。

布法羅大學(xué)的這支團(tuán)隊，不僅從理論上找到了幻覺產(chǎn)生的數(shù)學(xué)根源，還設(shè)計出一種叫做"方差引導(dǎo)評分調(diào)制"（Variance-Guided Score Modulation，簡稱VSM）的訓(xùn)練方法，讓AI在生成圖像時能少走"彎路"、少犯"錯誤"。實驗結(jié)果表明，這種方法能在不損失圖像質(zhì)量的前提下，將幻覺發(fā)生率降低最高約25%至26%。

一、AI的"幻覺"到底是什么？

要理解這項研究，首先得弄清楚AI幻覺是怎么回事。現(xiàn)代AI圖像生成的主流技術(shù)叫做"擴(kuò)散模型"（Diffusion Model）。可以把這個過程想象成一位雕塑家的工作：先把一塊完美的大理石（真實圖像）砸碎成一堆碎屑（純噪聲），然后再一點點把碎屑拼回去（去噪），最終雕出一個新的雕像（生成圖像）。

這個"從碎屑重建雕像"的過程，依賴一種叫做"評分函數(shù)"（Score Function）的核心工具。評分函數(shù)的作用，就像一張非常精細(xì)的地圖，告訴AI在每一步去噪時，應(yīng)該往哪個方向走，才能最終走向一張真實、合理的圖像。

然而，AI學(xué)到的這張"地圖"往往不夠精確——它比真實的地圖更"平滑"，就像把一張等高線圖里所有鋒利的山峰都磨平了。這種平滑會導(dǎo)致一個嚴(yán)重的問題：AI以為自己在走一條平坦的路，實際上卻走進(jìn)了一片沒有真實圖像存在的"荒野"，最終生成出那些根本不可能存在的幻覺圖像。

這里有一個關(guān)鍵的直覺：真實世界的圖像分布，就像一座座孤立的山峰，山峰之間是深深的峽谷。一張合理的人手圖片，就住在"人手"這座山峰上；一張合理的棋盤圖片，住在"棋盤"這座山峰上。兩座山峰之間的峽谷，代表著那些在現(xiàn)實中不可能存在的圖像（比如"半只手加上半張棋盤"的怪物）。

理想的評分函數(shù)，應(yīng)該像一套陡峭的山地地圖，能清晰地引導(dǎo)AI爬上某座山峰，而不會滑落到峽谷里。但AI學(xué)到的平滑版地圖，把這些陡峭的山峰都磨成了緩坡，導(dǎo)致AI很容易在下山時"跑偏"，落到峽谷的低密度區(qū)域里，產(chǎn)生幻覺。

研究團(tuán)隊在論文中給幻覺做了嚴(yán)格的數(shù)學(xué)定義：如果一張生成圖像落在了真實數(shù)據(jù)分布密度極低（低于某個閾值）的區(qū)域，它就被認(rèn)定為幻覺樣本。與此同時，研究者還區(qū)分了另外兩種情況——"記憶樣本"（AI直接復(fù)制了訓(xùn)練集中某張圖像）和"泛化樣本"（AI生成了訓(xùn)練集中沒有出現(xiàn)過但合理的新圖像）。這三種類別互相獨立，共同構(gòu)成了對AI生成質(zhì)量的完整評估體系。

二、用數(shù)學(xué)證明：過于"圓滑"的地圖確實會導(dǎo)致走錯路

布法羅大學(xué)的研究團(tuán)隊不滿足于直覺層面的解釋，他們用嚴(yán)格的數(shù)學(xué)推導(dǎo)，證明了"評分函數(shù)越平滑，幻覺越多"這個結(jié)論。

核心定理可以用一句話來概括：**離真實圖像區(qū)域越遠(yuǎn)的地方，AI認(rèn)為那里存在圖像的概率，和評分函數(shù)的"利普希茨常數(shù)"（Lipschitz Constant）直接相關(guān)**。利普希茨常數(shù)是衡量一個函數(shù)"有多陡"的數(shù)學(xué)指標(biāo)——常數(shù)越小，函數(shù)越平滑；常數(shù)越大，函數(shù)變化越劇烈、越陡峭。

研究團(tuán)隊推導(dǎo)出了一個數(shù)學(xué)不等式，大意是：在離真實圖像區(qū)域很遠(yuǎn)的"荒野"地帶，AI認(rèn)為那里存在圖像的概率，有一個不可消除的正下界，這個下界由利普希茨常數(shù)決定。平滑的評分函數(shù)（小利普希茨常數(shù)）意味著這個下界衰減得很慢，也就是說，AI對"荒野地帶"的誤判概率更高，幻覺也就更多。

為了在實驗中驗證這個理論，研究團(tuán)隊做了一組清晰的對照實驗。他們用一個簡單的一維高斯混合分布（可以理解為數(shù)軸上有三個小山峰，分別位于1.0、1.5、2.0的位置，山峰之間有明顯的"低谷"）來模擬真實數(shù)據(jù)分布，然后用AI來學(xué)習(xí)并生成數(shù)據(jù)。

第一組實驗中，他們對AI的神經(jīng)網(wǎng)絡(luò)施加越來越強的正則化約束（L2權(quán)重正則化），效果相當(dāng)于強迫AI學(xué)一張越來越平滑的地圖。結(jié)果非常直觀：隨著約束越來越強，AI生成的點落在三個山峰之間低谷里的比例不斷增加，幻覺越來越多。

第二組實驗中，他們減少訓(xùn)練數(shù)據(jù)量，效果類似——數(shù)據(jù)越少，AI越難以學(xué)到精細(xì)的地圖，評分函數(shù)越平滑，幻覺也越多。

在更復(fù)雜的真實圖像數(shù)據(jù)集（包含人手圖片的Hands-11K數(shù)據(jù)集）上，研究團(tuán)隊還發(fā)現(xiàn)，評分誤差（AI學(xué)到的評分函數(shù)與真實評分函數(shù)之間的偏差，用均方根誤差量化）與幻覺發(fā)生率之間存在正相關(guān)關(guān)系，相關(guān)系數(shù)R?達(dá)到0.44，進(jìn)一步印證了理論的正確性。

三、對癥下藥：VSM方法是如何工作的？

找到了病根，就可以開方治病了。既然幻覺來自于評分函數(shù)太"平滑"（利普希茨常數(shù)太小），那解決辦法就是想辦法讓評分函數(shù)"陡"起來。

回到山地地圖的比喻：修復(fù)平滑地圖的方法，是在訓(xùn)練AI時額外懲罰那些"太平坦"的地方，鼓勵A(yù)I學(xué)出一張更陡峭、更精確的地圖。數(shù)學(xué)上，"地圖的陡峭程度"可以用"雅可比矩陣"（Jacobian Matrix）的大小來量化——雅可比矩陣本質(zhì)上描述了評分函數(shù)在某個點附近變化有多劇烈。

VSM方法的核心思路就是：在訓(xùn)練損失函數(shù)里加入一個懲罰項，這個懲罰項專門懲罰雅可比矩陣太小的情況，從而"逼迫"AI學(xué)出一張更陡峭的地圖。

然而，這里有一個實際困難：對于高分辨率圖像（例如256×256像素的圖片，數(shù)據(jù)維度高達(dá)196608），直接計算雅可比矩陣在計算上是完全不可行的，所需的計算量和存儲空間根本無法承受。

研究團(tuán)隊的巧妙之處在于，他們找到了一個可操作的替代方案，借助另一項技術(shù)——"改進(jìn)的去噪擴(kuò)散概率模型"（I-DDPM，Improved DDPM）中的方差學(xué)習(xí)機(jī)制。

原版的擴(kuò)散模型在每一步去噪時，會預(yù)測圖像應(yīng)該去往哪個方向（均值），而改進(jìn)版本還額外學(xué)習(xí)了這一步去噪的"不確定性"有多大（方差）。研究團(tuán)隊通過數(shù)學(xué)推導(dǎo)證明，這個學(xué)到的方差，恰好可以作為雅可比矩陣的對角線近似——換句話說，方差的倒數(shù)大致對應(yīng)于評分函數(shù)在該點的局部陡峭程度。

于是，VSM的實際操作變成了：在訓(xùn)練時，額外加入一個方差學(xué)習(xí)頭（Variance Head）來學(xué)習(xí)每一步的去噪方差，然后用這個方差的倒數(shù)來近似雅可比矩陣，并以此構(gòu)建平滑懲罰項。整個過程不需要實際計算龐大的雅可比矩陣，大大降低了計算成本。

此外，研究團(tuán)隊還引入了一個隨時間變化的權(quán)重調(diào)度策略。這是因為，幻覺主要在去噪過程的最后階段（接近生成最終圖像時）出現(xiàn)——就像雕塑家在最后的精修階段最容易出錯。因此，VSM的懲罰力度被設(shè)計成在去噪后期逐漸增大，而在早期噪聲較大的階段保持較小，避免對全局結(jié)構(gòu)的干擾。具體的調(diào)度公式是η(t) = ρ / √(1 - α?)，其中ρ是一個可調(diào)節(jié)的超參數(shù)。

最終，整個訓(xùn)練目標(biāo)由三部分組成：標(biāo)準(zhǔn)的去噪損失（讓AI學(xué)會從噪聲中恢復(fù)圖像）、方差學(xué)習(xí)損失（讓AI學(xué)會預(yù)測每步的不確定性）和VSM平滑懲罰項。三者共同作用，引導(dǎo)AI學(xué)出一個更陡峭、更精確的評分函數(shù)。

四、兩個全新的"極限測試"數(shù)據(jù)集：撲克牌與國際象棋

為了系統(tǒng)地評估幻覺，研究團(tuán)隊發(fā)現(xiàn)現(xiàn)有的數(shù)據(jù)集存在一個共同弱點：語義類別太少。比如MNIST只有0到9這10個數(shù)字，手部圖片只有幾種手勢，語義空間太小，AI很難生成真正意義上的"幻覺"——因為稍微偏差一點，還是能落在某個合法類別上。

因此，研究團(tuán)隊自己動手構(gòu)建了兩個專門用于幻覺評估的數(shù)據(jù)集，它們的共同特點是擁有極其龐大的語義類別空間。

第一個數(shù)據(jù)集叫做**Cards**（撲克牌），包含約94000張圖像，每張圖像是一個2×2排列的撲克牌組合（牌面從Ace到10）。一張生成圖像是否合法，可以通過完全自動化的模板匹配來判斷——檢查每張牌的符號數(shù)量是否與牌面數(shù)字一致、顏色是否正確、是否存在缺失或沖突的符號。這個數(shù)據(jù)集的語義類別數(shù)量約為10的5次方，是非常龐大的組合空間。

第二個數(shù)據(jù)集叫做**ChessImages**（象棋棋盤），包含約190000張256×256像素的棋盤圖像，這些圖像是從國際象棋對局記錄（FEN字符串格式）中隨機(jī)采樣并渲染生成的。一張生成圖像是否合法，同樣通過自動化的棋局合法性檢查來判斷：先用模板匹配從圖像中重建棋局的FEN字符串，再用python-chess庫驗證棋局是否符合國際象棋規(guī)則（比如：棋盤上必須各有且僅有一個白王和黑王，每方不能超過16個棋子，不能超過8個兵，兵不能出現(xiàn)在底線等）。

這個數(shù)據(jù)集的語義類別數(shù)量達(dá)到驚人的10的44次方——這是個什么概念？全宇宙的原子數(shù)量估計也不過是10的80次方，而10的44次方已經(jīng)遠(yuǎn)超任何AI能"記住"的范圍。這意味著，幾乎所有生成的棋盤，都必須是AI真正"理解"了象棋規(guī)則后泛化出來的結(jié)果，而不是簡單地復(fù)制訓(xùn)練集中的棋盤。

與現(xiàn)有數(shù)據(jù)集相比，這兩個新數(shù)據(jù)集有三大優(yōu)勢：幻覺檢測完全自動化（無需人工標(biāo)注）、檢測速度極快（100張圖像只需約2.5秒）、語義空間極大（能暴露AI更深層的幻覺問題）。

五、實驗結(jié)果：VSM在多個數(shù)據(jù)集上的表現(xiàn)

研究團(tuán)隊在一系列數(shù)據(jù)集上對VSM進(jìn)行了全面測試，包括合成數(shù)據(jù)集（1D和2D高斯混合）、真實圖像數(shù)據(jù)集（Hands-11K人手圖像、MNIST手寫數(shù)字、Shapes幾何形狀圖像）以及新提出的大規(guī)模語義數(shù)據(jù)集（Cards、ChessImages），還有挑戰(zhàn)性極強的ImageNet-1K（包含1000個類別的自然圖像數(shù)據(jù)集）。

在最基礎(chǔ)的合成數(shù)據(jù)集上，結(jié)果已經(jīng)非常清晰。對于1D高斯混合，使用VSM后，評分誤差（Score RMSE）從10.56降至7.76，幻覺率從5.22‰下降到2.70‰，降幅近半。2D高斯混合上的改善幅度雖然相對較小，但同樣顯著。在Hands-11K上，評分誤差從21.92降至15.49，幻覺率從11.00%降至5.01%，減少了超過一半。

在MNIST手寫數(shù)字?jǐn)?shù)據(jù)集上，將VSM加入到LDM（Latent Diffusion Model，隱空間擴(kuò)散模型）的無條件生成設(shè)置中，幻覺率從1.83%驟降至0.33%，同時圖像質(zhì)量指標(biāo)（FID、C-FID、FLD）也全面改善。在文本條件生成設(shè)置下，幻覺率從23.00%降至12.48%，降幅同樣顯著。

在新提出的Cards數(shù)據(jù)集上，將VSM加入DDPM基礎(chǔ)模型后，幻覺率從22.41%降至2.33%，這是整個實驗中降幅最為驚人的一組數(shù)據(jù)。

在ChessImages數(shù)據(jù)集上，結(jié)果不僅體現(xiàn)在幻覺率的降低（從11.66%降至9.28%），還體現(xiàn)在對合法棋盤的深入分析上。研究團(tuán)隊進(jìn)一步將合法棋盤分為"記憶棋盤"（與訓(xùn)練集完全相同的棋局）和"泛化棋盤"（合法但訓(xùn)練集中未見過的新棋局）。使用VSM后，記憶棋盤的比例從12.88%降至7.93%，而泛化棋盤的比例從87.12%升至92.07%。這意味著VSM不僅減少了幻覺，還讓AI更傾向于生成真正的新棋局，而不是照搬訓(xùn)練集，這是一個非常理想的特性。

在ImageNet-1K這個最復(fù)雜的真實世界數(shù)據(jù)集上，由于無法對每張生成圖像逐一判斷是否為幻覺，研究團(tuán)隊采用了"改進(jìn)的精確率和召回率"作為替代指標(biāo)，在CLIP特征空間中度量。精確率衡量生成圖像有多少落在真實分布的支撐范圍內(nèi)（可近似理解為"非幻覺率"），召回率衡量生成圖像覆蓋了真實分布的多少模式（可理解為"多樣性"）。與基線LDM相比，VSM將精確率從0.56提升至0.68，召回率從0.41提升至0.51，F(xiàn)ID從76.86降至69.97，F(xiàn)LD從7.23降至4.77，全面領(lǐng)先。

與此同時，研究團(tuán)隊也將VSM與另一種競爭方法"動態(tài)引導(dǎo)"（Dynamic Guidance，DG）進(jìn)行了比較。DG在精確率上達(dá)到了0.75，略高于VSM，但其召回率僅有0.23，遠(yuǎn)低于VSM的0.51。這說明DG雖然減少了幻覺，但代價是嚴(yán)重的"模式崩塌"——AI變得保守，只會生成少數(shù)幾種"安全"的圖像，多樣性大幅下降。相比之下，VSM在減少幻覺的同時，很好地保留了生成多樣性，是一個更平衡的方案。

六、更多實驗細(xì)節(jié)：微調(diào)、消融和迭代訓(xùn)練

除了從零訓(xùn)練的實驗，研究團(tuán)隊還驗證了VSM在"微調(diào)"場景下的效果——也就是在一個已經(jīng)預(yù)訓(xùn)練好的模型上，只訓(xùn)練方差學(xué)習(xí)頭，而不重新訓(xùn)練整個模型。這種方式在實際應(yīng)用中更具價值，因為從零訓(xùn)練大型擴(kuò)散模型的成本極高。

結(jié)果表明，在微調(diào)場景下，加入VSM同樣能一致性地降低各數(shù)據(jù)集上的幻覺率，同時保持圖像質(zhì)量。這說明VSM可以作為一種"事后修復(fù)"工具，為已有的預(yù)訓(xùn)練模型提供低成本的幻覺糾正能力。

研究團(tuán)隊還專門測試了超參數(shù)ρ（控制VSM懲罰強度）的影響。實驗發(fā)現(xiàn)，隨著ρ增大，幻覺率持續(xù)下降，但超過某個臨界值后，幻覺率反而開始回升。原因是VSM懲罰項過強時，會壓制正常的擴(kuò)散損失，導(dǎo)致模型整體性能下降。經(jīng)過測試，ρ = 0.1是一個較好的平衡點。

針對時間調(diào)度策略，研究團(tuán)隊測試了三種方案：線性增長方案η(t) = ρ(1-α?)、完全倒數(shù)方案η(t) = ρ/(1-α?)，以及研究團(tuán)隊提出的倒數(shù)平方根方案η(t) = ρ/√(1-α?)。在MNIST上的消融實驗結(jié)果非常清晰：線性增長方案最差（C-FID 17.18，幻覺率7.83%），完全倒數(shù)方案居中（C-FID 11.05，幻覺率5.00%），倒數(shù)平方根方案最優(yōu)（C-FID 3.91，幻覺率3.50%）。這說明在去噪后期逐漸加強懲罰的思路是正確的，但增強的幅度需要適中，過于激進(jìn)反而不好。

研究團(tuán)隊還探索了一種更激進(jìn)的"迭代訓(xùn)練"策略，專門針對Cards數(shù)據(jù)集進(jìn)行了實驗。策略很直觀：從一個初始模型出發(fā)，每輪迭代中生成一批新圖像，過濾掉其中的幻覺樣本，將剩余合法圖像添加到訓(xùn)練集，再重新訓(xùn)練模型。經(jīng)過六輪迭代，幻覺率從第一輪的7.98%一路下降到1.07%，非幻覺樣本比例達(dá)到98.93%。這種方法在有自動化幻覺檢測器的場景下，可以趨近于零幻覺，代價是需要多輪訓(xùn)練。

說到底，布法羅大學(xué)的這項研究做了一件非常扎實的工作：先把"AI幻覺"這件事從直覺層面提升到數(shù)學(xué)層面，然后設(shè)計出一種有理論依據(jù)、有實驗支撐、計算成本合理的解決方案。

研究團(tuán)隊本身也坦承，VSM的目標(biāo)是"減少"幻覺而非"消滅"幻覺——畢竟，目前要完全消除AI在自然圖像上的幻覺，還缺乏可靠的檢測方法和理論工具。如何在復(fù)雜的自然圖像數(shù)據(jù)集（比如人臉、風(fēng)景、建筑）上定義和量化幻覺，仍然是一個開放的研究問題。

這對普通人意味著什么？當(dāng)你下一次用AI畫圖，看到AI生成的人手終于有了正確的五根手指，或者AI繪制的棋盤終于擺出了合法的棋局，背后或許就有這類研究在默默發(fā)揮作用。AI的"幻覺"問題，不會在一夜之間消失，但每一步扎實的研究，都在讓它離現(xiàn)實更近一點。如果你對這項研究的完整技術(shù)細(xì)節(jié)感興趣，可以在arXiv上通過編號2606.00377找到原文。

Q&A

Q1：擴(kuò)散模型生成的圖像為什么會出現(xiàn)手指數(shù)量錯誤這類幻覺？

A：擴(kuò)散模型依靠"評分函數(shù)"這張"地圖"來引導(dǎo)圖像生成，但AI學(xué)到的地圖比真實地圖更平滑，導(dǎo)致生成過程容易偏離合理區(qū)域，落入現(xiàn)實中不存在的"荒野地帶"，從而生成多手指或少手指這類幻覺圖像。數(shù)學(xué)上，評分函數(shù)的利普希茨常數(shù)越小（越平滑），這種偏離就越嚴(yán)重。

Q2：VSM方法在實際使用時計算成本高嗎？

A：VSM的主要額外開銷來自一個方差學(xué)習(xí)頭，它不需要計算完整的雅可比矩陣，而是用學(xué)到的方差作為近似替代，大大降低了計算量。此外，VSM支持在預(yù)訓(xùn)練模型上只微調(diào)方差頭，無需從零重新訓(xùn)練整個模型，因此在實際應(yīng)用中具有相對較低的部署成本。

Q3：ChessImages數(shù)據(jù)集為什么說語義類別有10的44次方這么多？

A：國際象棋棋盤有64個格子，每個格子可以是空格或多種不同棋子，所有合法的棋盤擺法數(shù)量極其龐大，數(shù)量級約為10的44次方。這意味著訓(xùn)練集中能覆蓋的棋盤狀態(tài)只是滄海一粟，絕大多數(shù)合法棋盤都是AI從未見過的，因此用這個數(shù)據(jù)集能有效測試AI是否真正"理解"了象棋規(guī)則，而不是簡單地記憶訓(xùn)練樣本。