耶魯大學人類學研究生院主任Lisa Messeri、和普林斯頓大學的心理學家M. J. Crockett 發(fā)給《自然》期刊的論文中闡述：人工智能正在迅速加速科學產(chǎn)出，但也有可能縮小研究范圍，削弱判斷力，削弱科學家的培訓方式。

科學界正以驚人的速度采用人工智能工具，尤其是大型語言模型（LLM）。過去三年，LLM輔助論文寫作大幅增長，研究人員也試圖將半自主智能體納入他們的工作流程。然而，人工智能在科學領(lǐng)域的快速且不加批判的采用也帶來了重大風險。幾個問題已經(jīng)顯現(xiàn)：使用人工智能工具的論文關(guān)注的是更狹窄的研究問題在某些情況下，科學價值被評估較低4而非依賴人工智能的研究則更為重要。

為什么過度依賴人工智能驅(qū)動的建模對科學有害

此外，隨著人工智能自動化日常科學任務(wù)，早期職業(yè)研究人員培訓機會流失的擔憂大多未被解決，且常常未被承認。傳統(tǒng)上，科學培訓將事實和方法的正式教學與通過動手入門級工作逐步獲得隱性知識相結(jié)合。科學與技術(shù)研究領(lǐng)域的學者多次證明，僅靠科學文本并不能完全傳達知識;相反，關(guān)鍵的知識深植于研究社區(qū)，并通過學徒制和實踐傳遞。

這種默契——例如，什么是“合理”數(shù)據(jù)，或難以在方法部分表達的技術(shù)細節(jié)，或結(jié)果是否與現(xiàn)有文獻一致——對于研究者未來有效監(jiān)督AI輔助工作流程至關(guān)重要。如果人工智能系統(tǒng)越來越多地取代入門級科學勞動力，學員可能永遠無法掌握這些技能，可能導致下一代科學家無法負責任地監(jiān)督人工智能驅(qū)動的研究。

這些趨勢要求科學家正視科學機構(gòu)的宗旨。人們的目標僅僅是建立科學事實的集合，還是培養(yǎng)一個活生生、不斷發(fā)展的科學知識者社區(qū)？如果人工智能工具加速了前者的目標，同時威脅到了后者，科學家們應(yīng)如何前進？借助關(guān)于人工智能對科學實踐影響的新興證據(jù)，提出重點介紹主要風險并概述潛在的解決方案。

人工智能行業(yè)積極向科學家推銷LLM產(chǎn)品，視其為提高生產(chǎn)力的技術(shù)。一些研究人員接受了這一承諾，稱贊這些產(chǎn)品能夠“強化”他們的學術(shù)寫作能力。

人工智能是否導致科學中的可重復性危機？

如果人們將生產(chǎn)力理解為科學論文的產(chǎn)出，人工智能產(chǎn)品無疑兌現(xiàn)了這一承諾，并產(chǎn)生了深遠的影響。

除了生產(chǎn)力提升，有證據(jù)表明，使用人工智能工具的科學家獲得的引用次數(shù)更多，晉升為首席研究員的速度也比未使用者更快以英語為母語的人受益尤為明顯。

值得注意的是，人工智能產(chǎn)品的職業(yè)優(yōu)勢最明顯體現(xiàn)在數(shù)量指標上，如發(fā)表次數(shù)和引用次數(shù)。這些措施無法解釋這些利益是源于科學貢獻，還是源于與某個炒作領(lǐng)域的聯(lián)系。因此，若將這些指標視為科學的勝利，而忽視了生產(chǎn)力提升的質(zhì)量，將是錯誤的。

越多不一定越好，而且越來越多的證據(jù)表明，大型語言模型推動的科學生產(chǎn)力提升往往是有代價的。最明顯的是“人工智能垃圾”被引入文獻，包括無意義的人工智能生成圖像和幻覺引用。

多項研究記錄了大量依賴LLM輔助寫作的論文出現(xiàn)令人擔憂的趨勢?！犊茖W組織》雜志審核了2021年1月至2026年1月期間收到的全部6,957篇投稿，并指出LLM輔助論文的科學質(zhì)量較低（以期刊接受這些作品的可能性衡量）。另一項研究從2024年人工智能會議收集的264,125篇論文中，以及2023-24年在三個預(yù)印本服務(wù)器（arXiv、bioRxiv和SSRN）上發(fā)布的投稿中，發(fā)現(xiàn)在LLM輔助論文中，良好的寫作不再是科學質(zhì)量的準確啟發(fā)式（以發(fā)表結(jié)果和同行評審評分衡量）。

人工智能能有常識嗎？

了解這些信息將是實現(xiàn)機器智能的關(guān)鍵，這對科學事業(yè)造成了“風險，因為大量表面上令人信服但科學上令人失望的研究可能會淹沒文獻”。目前，盡管大家一致認為這些污染不應(yīng)該發(fā)生，但目前尚無明確的解決方案來應(yīng)對這些污染。

在研究流程中實施的人工智能工具也在以更微妙的方式限制科學理解，例如縮小了研究人員關(guān)注的范圍。分析在涵蓋生物學、醫(yī)學、化學、物理學、材料科學和地質(zhì)學的4130萬篇研究論文中，研究表明人工智能的采用似乎“促使作者趨向于解決已知問題的相同方案，而非創(chuàng)造新問題”。這預(yù)示了人工智能可能對知識生態(tài)系統(tǒng)產(chǎn)生連鎖反應(yīng)的可能性。

淘汰威脅

人工智能在科學領(lǐng)域的最宏大愿景涉及半自主或完全自主的“人工智能科學家”，這一愿景的最新原型在科學界和業(yè)界都獲得了高度贊譽。人工智能科學家的開發(fā)者們總是迅速安慰說，他們的意圖“不是取代人類科學家，而是增強和加速他們的工作”。因此，這些產(chǎn)品應(yīng)由一位技術(shù)嫻熟的科學家監(jiān)督，能夠負責任地指導和檢查人工智能的輸出。

專家質(zhì)疑，如果沒有清晰闡述負責任科學家如何培養(yǎng)區(qū)分好壞AI結(jié)果的專業(yè)知識，這一愿景是否能夠?qū)崿F(xiàn)。