頂會論文造假：50多篇ICLR論文怎么騙過同行評審的

當一篇論文的參考文獻有一半查無出處，它憑什么能通過兩輪評審？ICLR 2026的丑聞給出了一個令人不安的答案。

從法庭到頂會：同一種幻覺，同一種漏洞

法律界早就踩過這個坑。2023年的Mata v. Avianca案里，律師用ChatGPT寫訴狀，結果引用了六個根本不存在的判例。法官沒接受"我不懂AI"的借口，直接開出了制裁罰單。

這不是個案。研究顯示，即便是加了檢索增強（檢索增強生成，即讓模型先查資料再回答）的法律寫作工具，面對復雜查詢時也會捏造近三分之一的引用。而且這些不是實驗室原型，是正經在售的商業產品。

學者James把這類錯誤分成兩檔：

「誤植型」——曲解或錯引真實來源；「憑空捏造型」——直接發明案例、法條、引文。ICLR 2026的論文們兩樣都占了：有的把前人工作的基線性能寫錯，有的干脆引用不存在的數據集和"前人研究"，搜索引擎根本抓不到。

核心問題被一句點破：大語言模型的優化目標是"下一個詞最像人話"，不是"這句話為真"。指望下一代模型自動解決這個問題，屬于一廂情愿。

評審機制是怎么被攻破的

一個小型機器學習會議的程序主席講過一件事：一篇"明顯是AI寫的、打磨得很漂亮"的論文，差點騙過兩個超負荷工作的審稿人。最后是個志愿者發現，一半參考文獻根本解析不出來。ICLR 2026只是把這套劇本放大了。

技術層面，幻覺有幾條滲透路徑：

第一，"請總結X方向的相關工作"——這種提示詞會讓模型在不確定時依然輸出看似合理的綜述，夾帶私貨。

第二，虛構的會議名、數據集名、基準測試名，聽起來像真的。

第三，根本沒跑過的消融實驗，被寫成"我們嘗試了A/B/C三種設置"。

審稿人面對 polished 的文本，加上自身時間壓力，驗證動力天然不足。而生成式工具的輸出又恰好擅長"看起來對"。

責任該由誰扛？

法律學者Shamov的觀點值得注意：個人追責不夠，因為"經過認證"的工具本身就被證明不可靠。他主張責任分散到三層——工具開發商、機構/平臺、實際使用者。

學術出版完全對得上這個框架：

? 廠商做寫作和文獻工具

? 會議方定政策和評審流程

? 作者和審稿人選擇并驗證輸出

目前三層都在失靈。工具沒內置事實核查，會議沒針對AI寫作調整審稿標準，作者和審稿人則普遍缺乏驗證紀律。

清單：AI輔助研究的五條底線

既然幻覺是模型結構的內稟特性， workaround 必須從流程入手。參考法律和安全關鍵領域的做法，可以列出這幾條：

1. 參考文獻必須逐條核驗

不是抽查，是全部。用學術搜索引擎、期刊官網、作者個人頁交叉確認。ICLR 2026的造假論文里，"查無此文"的引用占了相當比例——這本是審稿環節就能攔截的。

2. 數據集和基準測試要驗證可獲取性

論文聲稱用了某個數據集？去官方倉庫下載試試。聲稱在某個基準上跑了分數？找 leaderboard 核對。很多幻覺數據集的名字起得很像真的，但域名、機構、年份對不上。

3. 消融實驗保留執行痕跡

代碼版本、隨機種子、運行日志。不是說作者都會造假，而是這些痕跡讓"聲稱跑過"變成"可以復現"。

4. 工具輸出標記與隔離

哪些段落是AI生成的初稿，哪些是經人工改寫的事實陳述，應當有明確區分。這不是為了懲罰使用AI，而是為了在出問題時快速定位。

5. 審稿流程增加對抗性檢查

現在的審稿是"找亮點"，需要補一道"找硬傷"的工序。可以隨機抽取引用、數據集、實驗配置進行強制核驗，也可以引入專門的"紅隊"審稿人。

一個行業級的問題

ICLR 2026不是孤立事件。法律、安全、軟件工程都出現了同樣的模式：流暢的AI輸出被當作事實，治理規則跟不上技術擴散速度。

區別在于，法律界已經用判例和制裁建立了底線。學術界的反應還在"建議"和"倡導"層面。當一篇頂會論文的引用有50%是假的，它損害的不只是那屆會議的聲譽——而是整個同行評審制度的可信度。

如果明年的投稿系統不強制要求參考文獻哈希校驗，不接入數據集注冊表，我們是在等下一個ICLR 2027嗎？