北京
去年夏天，蘇黎世大學(xué)可重復(fù)科學(xué)與研究綜合中心的博士后研究員Peter Degen遇到了一個(gè)反常的麻煩：他導(dǎo)師的一篇論文被引用得太多了。
這篇2017年發(fā)表的論文評估了特定統(tǒng)計(jì)分析方法在流行病學(xué)數(shù)據(jù)中的準(zhǔn)確性，多年來只獲得了幾十次引用。但突然間，它每隔幾天就被引用一次，累計(jì)數(shù)百次，成為導(dǎo)師職業(yè)生涯中被引用最多的論文之一。別的教授可能會欣喜若狂，Degen的導(dǎo)師卻讓他去調(diào)查原因。
Degen發(fā)現(xiàn)，這些引用論文都遵循相似模式。它們像原文一樣分析華盛頓大學(xué)健康指標(biāo)與評估研究所編制的全球疾病負(fù)擔(dān)研究公開數(shù)據(jù)集，但用這個(gè)數(shù)據(jù)集批量生成無窮無盡的預(yù)測：20歲以上成年人未來中風(fēng)可能性、年輕人睪丸癌風(fēng)險(xiǎn)、中國老年人跌倒概率、極少攝入全谷物人群的結(jié)直腸癌風(fēng)險(xiǎn)，等等。
順著GitHub上的分析代碼鏈接，Degen追蹤到了中國視頻網(wǎng)站Bilibili。一家廣州公司正在宣傳教程，教用戶如何借助其軟件工具和AI寫作輔助，在兩小時(shí)內(nèi)產(chǎn)出可發(fā)表的論文。這些研究質(zhì)量堪憂——有研究者分析了部分頭痛相關(guān)研究，發(fā)現(xiàn)其中充滿錯(cuò)誤和誤述。但它們也不像早期的AI生成論文那樣錯(cuò)得離譜，反而更難被篩選出來。
"這對同行評審系統(tǒng)是巨大的負(fù)擔(dān)，它已經(jīng)到極限了，"Degen表示，"發(fā)表的論文太多，評審員不夠。如果大語言模型讓批量生產(chǎn)論文變得如此容易，系統(tǒng)會崩潰。"
樂觀派期待生成式AI能帶來科學(xué)突破，加速發(fā)現(xiàn)、攻克癌癥。但現(xiàn)實(shí)是，這項(xiàng)技術(shù)正在侵蝕科學(xué)研究的根基，用無休止的論文洪流淹沒期刊編輯和評審員。諷刺的是，AI生成的論文越"合格"，危機(jī)就越嚴(yán)重。
特別聲明：以上內(nèi)容(如有圖片或視頻亦包括在內(nèi))為自媒體平臺“網(wǎng)易號”用戶上傳并發(fā)布，本平臺僅提供信息存儲服務(wù)。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
