這項由清華大學對話式人工智能（CoAI）研究組發(fā)表的研究，于2026年6月2日以預印本形式公開，論文編號為arXiv:2606.03348，有興趣深入了解的讀者可通過該編號查詢完整論文。

當AI開始偽造文件，誰還能辨別真假？

你一定有過這樣的經(jīng)歷：朋友在群里轉(zhuǎn)發(fā)了一張圖片，看起來像是某所學校的官方通知，說考試推遲了，字體工整、排版規(guī)范、還蓋著公章——但你總覺得哪里不對勁，卻又說不出問題在哪?，F(xiàn)在，這種感覺會越來越普遍，因為AI造假技術已經(jīng)進化到了一個讓人細思極恐的新階段。

清華大學的研究團隊發(fā)現(xiàn)，以GPT Image 2為代表的新一代AI圖像生成工具，已經(jīng)能夠制造出一種他們稱之為"合成可信度"（Synthetic Credibility）的視覺騙局。這不是以前那種讓人一眼看出破綻的美女換臉或風景合成，而是專門模仿我們?nèi)粘Ｉ钪杏脕韨鬟f權威信息的各類文件、截圖和通知——考試成績單、銀行賬單、政府公告、醫(yī)院報告、快遞收據(jù)……而且做得以假亂真，連專業(yè)的AI檢測工具都頻頻失手。

為了系統(tǒng)研究這個問題，研究團隊建立了一個名為SYNCRED-Bench的測試基準，共包含600張AI生成的虛假文件圖片，外加450張真實圖片用于對照。他們邀請了15個頂尖的AI大模型、6個專業(yè)的AI圖像檢測工具，以及20名來自不同專業(yè)背景的大學生，一起來辨別這些圖片的真假。結(jié)果令人大跌眼鏡：AI模型的平均識別率低得可憐，而人類也好不到哪里去，正確率僅有63%。

這項研究的核心價值，不是教你如何造假，而是給整個社會敲響了一記警鐘：在視覺可信度和圖片真實性之間，一道新的裂縫正在悄然打開。

一、"合成可信度"——比換臉更危險的新型騙局

以往我們擔心的AI造假，主要是兩種情形。一種是把某人的臉換到另一個人身上，比如讓某位明星出現(xiàn)在不該出現(xiàn)的地方；另一種是AI畫出一張風景或人物照片，讓人誤以為是真實拍攝的。這兩種方式雖然具有欺騙性，但它們造假的內(nèi)容本身往往缺乏"權威感"——一張美女照片，你可以質(zhì)疑它是否為真；但一張蓋了紅章的官方通知，人們的第一反應往往是相信它。

清華大學的研究團隊正是抓住了這個關鍵區(qū)別，提出了"合成可信度"這個概念。他們認為，AI造假的新威脅不在于讓圖片看起來更逼真，而在于讓圖片看起來更權威、更可信。這種可信度來自兩個相互配合的層面。

第一個層面叫做"可信形式"（Credible Form）。這指的是圖片所模仿的那種讓人本能地想要相信的視覺格式——比如政府部門的通知格式、醫(yī)院的檢查報告樣式、大學錄取通知書的版面、快遞單據(jù)的排布方式。當你看到這些熟悉的格式，大腦會自動觸發(fā)一種"官方認可"的信任感，就像看到白大褂就會聯(lián)想到醫(yī)生的權威一樣。

第二個層面叫做"可信流通"（Credible Circulation）。這更加微妙，指的是圖片身上所帶有的那些"經(jīng)歷過真實世界"的痕跡。一張文件被掃描過，就會有輕微的扭曲和陰影；一張截圖被發(fā)到微信群再轉(zhuǎn)發(fā)，就會有壓縮失真的顆粒感；一張被手機拍下來的紙質(zhì)文件，會有紙張彎曲和不均勻的光線。這些"不完美"恰恰是真實性的證明，因為正常人不會為了造假專門添加這些缺陷。而AI現(xiàn)在已經(jīng)學會了刻意復制這些"缺陷"，讓假文件看起來像是經(jīng)過了真實的流傳過程。

這兩種可信度疊加在一起，就創(chuàng)造出了一種極難識破的騙局。一份AI生成的假通知，不僅在版面上完全符合官方格式，還會刻意加上一些"掃描噪點"或"折痕陰影"，讓你以為這是某人從實體文件拍下來的照片。

二、測試場地的搭建——這批"假文件"長什么樣

為了讓研究有據(jù)可查，研究團隊花了大量精力構建SYNCRED-Bench這個測試庫，確保它能夠覆蓋現(xiàn)實生活中各種類型的可信文件形態(tài)。

在文件類型方面，研究團隊將其分為六大類別，每類包含100張AI生成圖片。第一類是媒體版式，包括各類新聞APP的截圖、電視節(jié)目的字幕條、報紙版面——這類圖片給人一種"新聞報道過的就是真的"的錯覺。第二類是機構通知，模仿政府部門、學校、醫(yī)院等權威機構發(fā)布的正式通告，這類圖片帶有天然的權威背書效果。第三類是平臺界面，包括各種社交媒體的帖子頁面、網(wǎng)頁截圖、聊天記錄——當你看到一張"微博截圖"說某明星出了事，你的第一反應是不是比看到一張普通圖片更容易相信？第四類是憑證記錄，包括證書、獎狀、發(fā)票、收據(jù)、訂單確認頁，這些文件在日常生活中作為"證明材料"被廣泛使用。第五類是分析展示，包括各種數(shù)據(jù)圖表、排行榜、系統(tǒng)后臺截圖，以"數(shù)據(jù)說話"的方式增加說服力。第六類是考評材料，涵蓋考試試卷、準考證、成績單、錄取通知書，在學生群體中具有極高的信息敏感性。

在流通樣式方面，研究團隊同樣進行了精細的分類，共設計了七種不同的"流傳痕跡"。最基本的是原生渲染，即干凈清晰的數(shù)字截圖，沒有任何二次處理的痕跡。接著是掃描件，模擬紙質(zhì)文件被掃描機處理后的效果，會出現(xiàn)邊框陰影、輕微傾斜和掃描噪點。相機拍攝件則進一步模擬用手機拍攝實體文件的場景，帶有紙張彎曲、光線不均勻和背景環(huán)境的細節(jié)。傳真件或復印件則是低質(zhì)量的多次復制效果，有模糊和條紋狀的痕跡。屏幕拍攝是指對著顯示器拍攝的照片，會有莫爾條紋和屏幕反光。截取視圖是對原圖進行裁剪后的局部，缺少完整的邊框和頁眉信息。最后是網(wǎng)絡壓縮，模擬圖片經(jīng)過多次網(wǎng)絡傳輸后產(chǎn)生的像素模糊和鋸齒。

除了這600張AI造假圖片，研究團隊還專門收集了450張真實圖片作為對照組，覆蓋相同的類型和樣式。這個對照組的作用是測試檢測工具是否會"過度敏感"，把真實的圖片也誤判為AI生成品——這在現(xiàn)實應用中是非常嚴重的問題，因為如果你的真實成績單被檢測器認定為假，那后果同樣很糟糕。

三、"考官們"的集體失手——現(xiàn)有工具有多不可靠

研究團隊設計了一套嚴謹?shù)臏y試框架。他們關注的核心指標有兩個：真陽性率（TPR），即在600張假圖中，有多少張被正確識別出來了；以及假陽性率（FPR），即在450張真實圖片中，有多少張被錯誤地判定為假圖。為了讓比較更有實際意義，研究團隊特別設定了一個約束條件：在假陽性率不超過5%的前提下，各個檢測工具的真陽性率能達到多少。這個約束非常合理——如果一個工具把所有東西都判定為假，它的識別率確實很高，但代價是把100個真實證件中的20個都冤枉了，這在實際使用中完全不可接受。

在這個嚴苛的5%假陽性率約束下，15個多模態(tài)大語言模型的平均真陽性率只有10.5%——也就是說，每100張AI造假文件，這些模型平均只能識別出不到11張。即便是取消假陽性率約束，單純看它們對假圖的識別準確率，平均也只有31.2%。

具體來看各個模型的表現(xiàn)，差異相當懸殊。Claude Opus 4.6是表現(xiàn)最好的大語言模型，在5%假陽性率約束下，能達到69.5%的真陽性率。Claude Sonnet 4.6緊隨其后，達到55.3%。然而令人意外的是，一些以綜合能力著稱的頂尖模型在這個任務上的表現(xiàn)卻相當糟糕。GPT-5.4在5%假陽性率約束下的識別率只有11.5%，GPT-4o更是降至0%，Grok-4.3僅有0.3%，Gemini 3.1 Pro只有12.7%。這意味著，這些模型在不冤枉真實圖片的前提下，幾乎認不出任何AI造假文件。

相比之下，專業(yè)的AI圖像檢測工具表現(xiàn)略好，但同樣距離"可靠"還有相當距離。在商業(yè)檢測服務中，Hive AI是最強的選手，在假陽性率僅0.9%的情況下，真陽性率達到75.2%。AI or Not的表現(xiàn)是53.7%的準確率，Sightengine是54.6%。開源檢測工具的表現(xiàn)則普遍較差，一個名為AI-vs-Real的工具雖然原始準確率高達78.7%，但問題在于它的假陽性率高達69.1%——也就是說，它幾乎把所有圖片都判定為假，這不叫檢測，這叫瞎猜。另外兩個開源工具AI-vs-Human和Deepfake-vs-Real的準確率分別只有8.3%和19.3%，幾乎沒有實用價值。

這些數(shù)據(jù)揭示了一個根本性的問題：現(xiàn)有的AI檢測工具，無論是通用型的大語言模型，還是專門為此設計的檢測器，都是在自然風景照片和人物合成圖片的基礎上訓練的。當面對文件、截圖、憑證這類具有強烈文字和版式特征的圖片時，它們就像一個只接受過識別蘋果和橙子訓練的果農(nóng)，突然被要求判斷一個陌生的熱帶水果是真是假，自然是一籌莫展。

四、AI為什么會被騙——那些讓機器深信不疑的視覺線索

研究團隊不僅統(tǒng)計了失誤率，還深入分析了AI模型在判斷錯誤時給出的理由，這部分發(fā)現(xiàn)頗為耐人尋味。

在所有被AI模型誤判為真實圖片的案例中，研究團隊逐一提取了模型給出的解釋理由，并進行了系統(tǒng)歸納。結(jié)果發(fā)現(xiàn)，有幾類視覺特征幾乎成了AI模型認定圖片為真實的"萬能理由"。

排在第一位的，是結(jié)構化的版式和模板外觀。在66.1%的誤判案例中，AI模型的解釋里提到了類似"版面布局一致且專業(yè)"或"符合官方文件的格式規(guī)范"這樣的理由。換句話說，AI被自己造出來的那套官方格式給騙了——越是排版整齊、格式規(guī)范的假文件，越能說服AI它是真實的。

緊隨其后的是界面截圖的視覺慣例，出現(xiàn)在61.1%的誤判理由中。AI模型非常擅長認出各種軟件界面的風格——"這個按鈕的位置、這種字體大小、這個狀態(tài)欄的樣式，完全符合微信/微博/某APP的真實界面"。它用這個邏輯來證明圖片是真實截圖，卻忽略了AI同樣可以學會復制這些界面風格。

字體的一致性和清晰度在46.9%的誤判中被提及。AI模型認為文字排版整齊、字體清晰是真實圖片的標志，因為以往的AI生成圖片經(jīng)常在文字上出現(xiàn)扭曲變形。然而，新一代的圖像生成工具已經(jīng)完全克服了這個缺陷，反而讓模型的這條判斷依據(jù)徹底失靈。

相機角度和光線效果同樣在46.0%的案例中被引用。當AI看到一張帶有自然光線變化、紙張反光或輕微焦外虛化效果的圖片時，它傾向于認為這是真實的相機拍攝——因為這些效果"太自然了，不像是電腦合成的"。殊不知，這些效果恰恰是被AI刻意添加進去的"可信流通"標記。

從各個模型的具體模式來看，Claude系列模型特別容易被截圖和界面元素說服，GPT-5.4傾向于被語義一致性和排版邏輯所迷惑，Grok-4.3則對相機透視和光線效果格外敏感。這說明不同的大模型雖然各有所長，但在對抗"合成可信度"這個專門設計的騙局時，都找到了共同的軟肋——它們都在用"這東西看起來很可信"來代替"這東西是否真實存在"的判斷。

五、流通樣式的陷阱——"掃描件"和"相機照"各有不同效果

研究團隊還做了一項很有趣的比較：同樣的AI造假圖片，呈現(xiàn)為不同的流通樣式時，各個檢測模型的識別率會有什么變化？他們以"原生渲染"（即清晰的數(shù)字截圖）為基準，觀察其他六種樣式對識別率的影響。

研究發(fā)現(xiàn)，不同的流通樣式對檢測效果的影響方向截然不同，甚至相互矛盾。屏幕拍攝樣式讓平均識別率下降了11.1個百分點，截取視圖讓識別率下降了10.3個百分點，相機拍攝件讓識別率下降了6.5個百分點。這三種樣式的共同特點是：它們都提供了一個"為什么圖片不完美"的合理解釋。相機拍攝的文件當然會有一點模糊，截取的圖片當然會缺少完整的頁眉，屏幕照片當然會有反光——這些"缺陷"不但沒有幫助AI識別假圖，反而成了為假圖背書的有力證據(jù)。

然而，傳真件和掃描件的效果恰恰相反。掃描件讓平均識別率提高了4.1個百分點，傳真件更是提高了9.4個百分點。這是因為這兩種樣式引入了一些非常特定的人工痕跡，比如傳真的條紋噪聲和掃描邊框，這些特征在AI生成圖片中相對少見，因此更容易觸發(fā)檢測模型的警覺。值得一提的是，單純的網(wǎng)絡壓縮樣式幾乎沒有任何影響——這說明，僅僅讓圖片變模糊或者加點壓縮噪點，并不會改變模型的判斷，真正起作用的是那些具有明確語義含義的流通痕跡，比如"這是用手機拍的"或"這是傳真過來的"這樣的視覺敘事。

六、人類也沒好到哪里去——我們真的能分辨真假嗎

考慮到AI檢測工具的普遍失效，研究團隊決定同時測試人類的判斷能力。他們招募了20名來自清華大學的本科生和研究生，專業(yè)背景涵蓋經(jīng)濟與金融、自動化、計算機科學、電子學、人文社科和藝術——基本代表了受過良好教育但非該領域?qū)I(yè)的普通人群。

每位參與者拿到的測試集包含100張AI生成的假圖和100張真實圖片，混合隨機排列。每張圖片由五個人獨立判斷，研究團隊同時記錄了個人決策的結(jié)果和五人投票的多數(shù)結(jié)論。

個人決策的平均準確率是62%，真陽性率為60.2%，假陽性率高達35.8%。換句話說，人類每識別出10張假圖中的6張，卻同時把100張真實圖片中的36張也誤認為了假圖。采用五人多數(shù)投票后，整體表現(xiàn)略有改善：真陽性率提升到63%，假陽性率下降到27%，但仍遠未達到"可靠"的標準。

表現(xiàn)最好的參與者總體準確率不超過80%，而最差的參與者整體準確率只有44%，連隨機猜測（50%）都不如。從個體數(shù)據(jù)來看，差異非常大——有人的真陽性率高達88%，但假陽性率也高達44%，本質(zhì)上是"見到什么都認為是假的"；另一些人則相對保守，真陽性率和假陽性率都處于中等水平。

這個結(jié)果說明，"合成可信度"對人類的認知防御同樣構成了實質(zhì)性的威脅。我們依賴的那些經(jīng)驗判斷——"這個版式看起來是真的"、"這張圖有點失真，應該是拍攝的"——在面對專門模擬這些特征的AI造假面前，已經(jīng)無法可靠地發(fā)揮作用。

七、問題該怎么解決——研究者給出的三條出路

面對這一困境，研究團隊在論文中提出了三個值得關注的應對方向。

第一條路是加強內(nèi)容溯源和水印驗證技術。道理其實并不復雜：與其試圖從圖片本身的視覺特征來判斷真假，不如直接給每張AI生成的圖片打上一個無法偽造的數(shù)字印記，就像鈔票上的防偽線一樣。近年來，這一領域有不少進展，包括可以抵抗裁剪、壓縮和調(diào)整大小的魯棒水印技術。如果未來所有的AI生成圖片都被強制嵌入這類水印，檢測工具只需要驗證水印是否存在，而無需分析圖片的視覺內(nèi)容，這將從根本上解決問題。

第二條路是擴大AI檢測器的訓練數(shù)據(jù)范圍。目前的檢測工具主要在自然風景照片和人臉合成圖上進行訓練，對文件、截圖和憑證類圖片幾乎沒有系統(tǒng)性的學習經(jīng)驗。這就好比培訓了一批只見過水果的食品檢驗員，現(xiàn)在讓他們?nèi)z驗藥品。解決方案是構建包含大量文件類、界面類和各種流通樣式AI造假圖片的訓練數(shù)據(jù)集，讓檢測工具真正學會如何處理這類全新的威脅。

第三條路是重新校準大語言模型對"視覺可信度"的解讀方式。研究團隊認為，目前的大模型存在一個系統(tǒng)性偏差：它們習慣于用"圖片看起來是否可信"來推斷"圖片是否為真實拍攝"。這兩個判斷在以前基本等價，但在"合成可信度"時代已經(jīng)脫鉤。研究團隊建議，未來的模型訓練應當明確區(qū)分"視覺合理性"和"內(nèi)容真實性"，并在遇到需要權威證明的文件時，主動建議用戶進行外部核實，而不是僅憑視覺判斷給出結(jié)論。

歸根結(jié)底，AI造假技術的進化速度已經(jīng)超越了我們現(xiàn)有的防御體系。SYNCRED-Bench這個基準測試的核心價值，不是要告訴人們AI多么可怕，而是要給研究者、工具開發(fā)者和政策制定者一把量尺，讓大家看清楚差距究竟在哪里。當600張精心制作的假文件能夠讓專業(yè)的檢測工具和受過高等教育的人類集體失手時，我們顯然不能再假裝這個問題并不緊迫。

這項研究本身也有其局限性，研究者對此非常坦誠。整個測試集只用了GPT Image 2這一個生成模型，因為它是目前唯一能穩(wěn)定生成高質(zhì)量文件類圖片的系統(tǒng)；測試語言也主要局限于中文和英文，對其他語言和文化環(huán)境下的文件格式未必適用；600張圖片的規(guī)模也限制了結(jié)論的統(tǒng)計可靠性。隨著更多能力相當?shù)哪Ｐ统霈F(xiàn)，這個測試集應當不斷擴充和更新，以保持它對現(xiàn)實威脅的覆蓋能力。

說到底，我們正在進入一個視覺證據(jù)的公信力需要被重新定義的時代。那張你媽媽轉(zhuǎn)發(fā)給你、叫你注意安全的官方通知，那張你朋友曬出來證明自己拿了獎學金的截圖，那張要求你立刻付款的收據(jù)——任何一張都可能是在幾十秒內(nèi)由AI生成的。在這個判斷力面臨挑戰(zhàn)的時代，了解威脅的樣子，永遠是防范它的第一步。對這個話題感興趣的讀者，可以通過arXiv編號2606.03348找到完整論文，親自看看研究者是如何設計這場嚴格測試的。

Q&A

Q1：什么是"合成可信度"，它和普通的AI換臉有什么區(qū)別？

A：合成可信度是指AI生成的圖片專門模仿具有權威感的文件格式（比如政府通知、成績單、發(fā)票），并刻意加入掃描、拍攝、壓縮等流傳痕跡，讓圖片看起來像是真實經(jīng)歷過流通的文件。普通AI換臉主要針對人臉圖像，而合成可信度專門針對文字類、憑證類、截圖類文件，后者更難識別，因為人們對官方格式本能地產(chǎn)生信任。

Q2：現(xiàn)在有哪些工具能檢測AI生成的文件圖片，效果怎么樣？

A：目前主要有兩類工具：多模態(tài)大語言模型（如GPT、Claude、Gemini等）和專用AI圖像檢測器（如Hive AI、Sightengine等）。在嚴格控制誤判率（不超過5%）的前提下，15個大語言模型的平均識別率只有10.5%，商業(yè)檢測API平均達到57.6%，其中Hive AI表現(xiàn)最好，能在誤判率0.9%的情況下識別出75.2%的假圖?？傮w而言，沒有任何一個工具達到可靠實用的水準。

Q3：SYNCRED-Bench測試基準包含哪些類型的假文件，普通人最容易被哪類騙到？

A：測試基準涵蓋六類文件：媒體版式（新聞截圖）、機構通知（政府公告）、平臺界面（社交媒體截圖）、憑證記錄（發(fā)票收據(jù)證書）、分析展示（數(shù)據(jù)圖表）和考評材料（成績單準考證）。根據(jù)實驗數(shù)據(jù)，憑證記錄類的假圖最容易被AI檢測器識別，而屏幕截圖樣式的假圖最難識別，檢測率比干凈截圖低11個百分點，因為屏幕反光、莫爾條紋等缺陷反而成了"真實拍攝"的證據(jù)。