5月22日消息，當(dāng)前AI杜撰歷史事件、編造虛假法律條文、偽造學(xué)術(shù)參考文獻(xiàn)的現(xiàn)象已屢見不鮮。它帶來(lái)的危害早已超越簡(jiǎn)單的“口誤”范疇，不斷侵蝕公眾對(duì)AI的信任。

就在上個(gè)月，全國(guó)首例AI幻覺(jué)侵權(quán)糾紛案正式宣判，這一標(biāo)志性事件意味著AI幻覺(jué)已從單純的技術(shù)問(wèn)題，升級(jí)為亟待解決的法律與社會(huì)問(wèn)題。隨著大模型深度融入我們的工作與生活，其潛在風(fēng)險(xiǎn)正影響著越來(lái)越多的普通人。

那么，到底什么是AI幻覺(jué)？為什么AI總能以無(wú)比自信的語(yǔ)氣說(shuō)出完全錯(cuò)誤的內(nèi)容？這背后藏著大模型最核心的運(yùn)行邏輯。

據(jù)央視報(bào)道，究其根本，AI幻覺(jué)是大模型底層機(jī)制必然帶來(lái)的系統(tǒng)性風(fēng)險(xiǎn)。很多人誤以為AI像人類一樣通過(guò)認(rèn)知世界來(lái)學(xué)習(xí)知識(shí)，但事實(shí)并非如此。

AI娓娓道來(lái)的流暢表達(dá)背后，本質(zhì)上只是從海量文本數(shù)據(jù)中學(xué)習(xí)詞語(yǔ)、句子之間的統(tǒng)計(jì)關(guān)聯(lián)，再根據(jù)上下文預(yù)測(cè)下一個(gè)最有可能出現(xiàn)的詞。

打個(gè)最通俗的比方，小朋友認(rèn)識(shí)“蘋果”，是通過(guò)看見它的顏色、摸到它的質(zhì)感、嘗到它的味道，在大腦中形成關(guān)于蘋果的真實(shí)概念。

而AI認(rèn)識(shí)“蘋果”只做一件事，即統(tǒng)計(jì)詞語(yǔ)共現(xiàn)概率。它從億萬(wàn)篇文本中發(fā)現(xiàn)，“蘋果”常常和“紅”“甜”“脆”“水果”等詞語(yǔ)一起出現(xiàn)，于是就能流暢地說(shuō)出“紅蘋果口感甜脆”這樣的句子。它不是真的懂蘋果，只是說(shuō)得像懂而已。

這種運(yùn)行機(jī)制決定了，當(dāng)問(wèn)題過(guò)于冷門、專業(yè)，或者涉及大量具體細(xì)節(jié)時(shí)，一旦模型在訓(xùn)練語(yǔ)料中缺乏足夠的相關(guān)案例，就無(wú)法計(jì)算出可靠的詞語(yǔ)概率，此時(shí)它不會(huì)選擇“不知道”，而是會(huì)根據(jù)統(tǒng)計(jì)規(guī)律強(qiáng)行拼接出看似合理的內(nèi)容，這就是AI幻覺(jué)的根源。

對(duì)此，全球科技行業(yè)正在積極探索破解之道。目前最主流的解決方案是檢索增強(qiáng)生成技術(shù)（RAG），其核心思路是讓AI在回答問(wèn)題前先檢索權(quán)威數(shù)據(jù)庫(kù)中的資料，相當(dāng)于把“閉卷考試”變成“開卷考試”，能大幅降低AI編造虛假信息的概率。

而最前沿的技術(shù)方向，則是讓AI自己“吵一吵”來(lái)逼近真相。清華大學(xué)等機(jī)構(gòu)提出的多智能體辯論框架，相當(dāng)于讓多個(gè)AI化身不同立場(chǎng)的專家，針對(duì)同一問(wèn)題相互質(zhì)疑、交叉驗(yàn)證，最終篩選出最可靠的結(jié)論。

除了行業(yè)層面的技術(shù)攻關(guān)，普通用戶掌握正確的使用方法，也能有效規(guī)避AI幻覺(jué)的陷阱。具體來(lái)說(shuō)，只需記住兩點(diǎn)：

一是要巧問(wèn)，提問(wèn)時(shí)盡量給出明確的范圍、限制和要求，比如“請(qǐng)基于2025年最新的《民法典》回答”“只引用官方發(fā)布的數(shù)據(jù)”，減少AI自由發(fā)揮的空間；

二是要善查，對(duì)于涉及法律、醫(yī)療、財(cái)務(wù)、學(xué)術(shù)等關(guān)鍵領(lǐng)域的信息，必須通過(guò)權(quán)威渠道進(jìn)行核對(duì)，也可以同時(shí)使用多個(gè)不同的大模型進(jìn)行交叉驗(yàn)證。

誠(chéng)然，受限于當(dāng)前的技術(shù)水平，AI或許永遠(yuǎn)無(wú)法做到100%沒(méi)有幻覺(jué)。

但正是這種“不完美”提醒著我們，在享受AI帶來(lái)便利的同時(shí)，我們要保持獨(dú)立思考和批判性思維，才是應(yīng)對(duì)AI挑戰(zhàn)的最佳方式。