在AI大模型快速發(fā)展的今天，很多人在生病或出現(xiàn)癥狀時(shí)的第一反應(yīng)已經(jīng)不再是去醫(yī)院掛急診，而是求助于ChatGPT或者DeepSeek這類(lèi)AI聊天機(jī)器人。

盡管這些通用聊天機(jī)器人在日常生活的很多方面都能成為人類(lèi)的好助手，但在醫(yī)學(xué)方面，它們還不足以好到能提供精確診斷的程度。

近日，美國(guó)哈佛醫(yī)學(xué)院的一個(gè)研究團(tuán)隊(duì)評(píng)估了20幾種最先進(jìn)的AI大型語(yǔ)言模型（LLM）的診斷能力，其中包括ChatGPT、DeepSeek、Gemini和Claude。結(jié)果顯示，基于患者的初步癥狀和體征進(jìn)行“鑒別診斷”（識(shí)別可能的疾病）的錯(cuò)誤率高達(dá)80%。

這項(xiàng)研究進(jìn)一步顯示，在患者提供更多檢測(cè)結(jié)果后，大模型可以將“最終診斷”的失敗率降至40%左右。研究人員表示，這意味著AI聊天機(jī)器人需要通過(guò)充分的患者信息，才能對(duì)疾病作出更為精準(zhǔn)的診斷，患者無(wú)法提供完整的健康檢測(cè)信息時(shí)，AI提供的結(jié)果并不可靠。

研究人員還強(qiáng)調(diào)：“人工智能尚未達(dá)到無(wú)需醫(yī)療專(zhuān)業(yè)人員干預(yù)即可為患者做出診斷決策的水平。”

這一研究結(jié)果也凸顯了人工智能在醫(yī)療領(lǐng)域應(yīng)用時(shí)面臨的安全挑戰(zhàn)。聊天機(jī)器人等AI工具若不經(jīng)過(guò)專(zhuān)業(yè)人士的嚴(yán)格把關(guān)，不僅會(huì)誤導(dǎo)患者，醫(yī)學(xué)從業(yè)者在使用AI作為檢索資料的過(guò)程中也可能被誤導(dǎo)。

上周《自然》雜志就刊登了一篇文章，稱(chēng)出現(xiàn)在網(wǎng)上的兩篇假論文中的一種不存在的皮膚疾病，被同行評(píng)議的文獻(xiàn)引用，并且開(kāi)始出現(xiàn)在Gemini等最常用的大型語(yǔ)言模型聊天機(jī)器人的輸出中。這些聊天機(jī)器人“一本正經(jīng)”地將一些患者診斷為這種不存在的疾病，并建議人們?nèi)タ聪嚓P(guān)的專(zhuān)科醫(yī)生。

Gemini是谷歌的一款聊天機(jī)器人。一位谷歌發(fā)言人表示，此類(lèi)結(jié)果反映了早期大模型發(fā)展的局限性?！拔覀兪冀K對(duì)生成式AI的局限性保持透明，并提醒用戶(hù)仔細(xì)核對(duì)信息。對(duì)于諸如醫(yī)療建議這類(lèi)敏感事項(xiàng)，Gemini建議用戶(hù)咨詢(xún)具有資質(zhì)的專(zhuān)業(yè)人士?！?/p>

中國(guó)科學(xué)院院士、復(fù)旦大學(xué)附屬中山醫(yī)院心內(nèi)科主任葛均波教授近期多次談及AI大模型在醫(yī)療應(yīng)用中面臨的挑戰(zhàn)，其中兩個(gè)關(guān)鍵問(wèn)題是患者隱私如何保護(hù)，以及AI在醫(yī)療過(guò)程中一旦出現(xiàn)問(wèn)題，責(zé)任由誰(shuí)來(lái)承擔(dān)？他表示，目前正在開(kāi)展的工作包括如何明確AI技術(shù)輔助診療的邊界，強(qiáng)化醫(yī)生對(duì)AI結(jié)果的判斷能力和責(zé)任意識(shí)，確保醫(yī)療安全。

盡管AI大模型仍在不斷完善的過(guò)程中，但葛均波仍然相信，在不久的將來(lái)，隨著AI技術(shù)的進(jìn)步以及算法的提升，AI的能力一定會(huì)超過(guò)最頂尖的醫(yī)生，從輔助醫(yī)生逐步走向具有獨(dú)立思考能力的診療工具。