*僅供醫(yī)學專業(yè)人士閱讀參考

連日來，多家醫(yī)學院校發(fā)文，督促師生員工審慎使用“龍蝦”等智能代理軟件，非必要不使用，如確需使用，應嚴格遵循一定安全要求。

專家表示，醫(yī)療關乎生命，AI賦能醫(yī)療必須以安全為底線。

撰文丨文慧、燕小六

近期，開源AI智能體框架OpenClaw（俗稱“龍蝦”）在網(wǎng)絡上迅速走紅。

它具有高度的“自主執(zhí)行”能力，可以自主進行文件管理、郵件收發(fā)、批量數(shù)據(jù)處理等復雜任務，一經(jīng)推出便在全球范圍內(nèi)引發(fā)部署熱潮。但這并不安全，今年2月以來，工信部、國家互聯(lián)網(wǎng)應急中心多次發(fā)布相關風險預警。

3月13日，國家網(wǎng)絡與信息安全信息通報中心再次發(fā)布預警，明確指出OpenClaw存在架構設計缺陷多、默認配置風險高、高危漏洞數(shù)量多等五大安全風險。據(jù)通報數(shù)據(jù)，我國境內(nèi)活躍的OpenClaw互聯(lián)網(wǎng)資產(chǎn)約2.3萬個，呈爆發(fā)式增長態(tài)勢。

“醫(yī)學界”梳理發(fā)現(xiàn)，在國家層面密集預警的背景下，北京協(xié)和醫(yī)學院等多家醫(yī)學院校已緊急發(fā)布相關通知，提醒師生員工審慎使用“龍蝦”等智能代理軟件。

這背后的原因或許是，對于醫(yī)學院及其附屬的醫(yī)療機構而言，“龍蝦”的風險遠比其他行業(yè)更加復雜、也更加嚴峻。

協(xié)和帶頭，多家醫(yī)學院校緊急提醒

據(jù)“醫(yī)學界”不完全統(tǒng)計，目前已有北京協(xié)和醫(yī)學院、廣東醫(yī)科大學、內(nèi)蒙古醫(yī)科大學、新疆醫(yī)科大學、重慶醫(yī)科大學、溫州醫(yī)科大學、南京中醫(yī)藥大學、杭州醫(yī)學院等十余家醫(yī)學院校發(fā)布了OpenClaw的風險提示。

各院校的應對力度不盡相同，但態(tài)度一致明確。

北京協(xié)和醫(yī)學院信息辦通知明確要求各部門、各學院及各所院廣泛傳達并督促師生員工審慎使用“龍蝦”等智能代理軟件，堅持“非必要不使用”的原則。如確需使用，應嚴格遵循六大安全要求。

內(nèi)蒙古醫(yī)科大學則嚴禁在網(wǎng)絡信息中心統(tǒng)一分配、管理的服務器及校園公共計算資源上安裝、部署、運行OpenClaw相關程序。

圖源：智慧內(nèi)醫(yī)大

廣東醫(yī)科大學著重提醒師生，部署OpenClaw要注意防護，避免電腦里的畢業(yè)論文、實驗數(shù)據(jù)、科研成果，以及個人賬號密碼、校園信息等面臨被竊取、篡改的風險。新疆醫(yī)科大學同樣在3月11日發(fā)文提醒，審慎使用“龍蝦”。

圖源：新疆醫(yī)科大學

在國家層面的密集預警之下，全國已有數(shù)十所高校均已發(fā)布類似通知，甚至嚴禁辦公電腦安裝“龍蝦”。

其中，醫(yī)學院校的應對值得關注，因為它們不僅是教學科研機構，更直接連接著臨床醫(yī)療體系，承載著遠比普通高校更為敏感的數(shù)據(jù)資產(chǎn)。

通常而言，一所醫(yī)學院校的網(wǎng)絡環(huán)境中，往往同時運行著教務系統(tǒng)、科研數(shù)據(jù)庫和附屬醫(yī)院的臨床信息系統(tǒng)，任何一個環(huán)節(jié)的安全漏洞，都可能產(chǎn)生鏈式反應。

某大學附屬醫(yī)院員工告訴“醫(yī)學界”，目前他所在的醫(yī)院雖未就“龍蝦”單獨下達通知，但作為大學附屬機構，學校的要求，醫(yī)院會跟著執(zhí)行。

科技型醫(yī)療服務企業(yè)“鄰家好醫(yī)”創(chuàng)始人兼CEO羅林對“醫(yī)學界”表示，OpenClaw在醫(yī)療圈的熱度在不斷提升，不過在臨床一線，其應用仍處于早期探索階段，業(yè)內(nèi)心態(tài)整體保持“關注且謹慎”。

醫(yī)療機構為何要格外警惕？

“龍蝦”的安全風險是普遍性的，但對醫(yī)學院或醫(yī)療機構來說，這些風險一旦落地，后果可能遠比其他行業(yè)嚴重。

這首先與醫(yī)療數(shù)據(jù)的特殊性有關。

醫(yī)院信息系統(tǒng)中存儲著海量的患者隱私數(shù)據(jù)——姓名、身份證號、病史、診斷結果、檢查影像、基因檢測信息等，這些數(shù)據(jù)一旦泄露，不僅侵犯患者個人權益，還可能觸發(fā)嚴重的法律后果。

與一般商業(yè)數(shù)據(jù)不同，醫(yī)療數(shù)據(jù)具有高度的不可逆性，即一個人的病史和基因信息等一旦外泄，無法像更換密碼那樣補救。

對醫(yī)學院校而言，風險還疊加了一層科研維度。

大量尚未發(fā)表的臨床試驗數(shù)據(jù)、藥物研發(fā)資料、科研成果儲存在校園網(wǎng)絡中，如果被OpenClaw在自主執(zhí)行過程中讀取甚至外傳，不僅涉及知識產(chǎn)權損失，還可能影響正在進行的臨床研究的合規(guī)性。

正如廣東醫(yī)科大學在通知中特別提到的，畢業(yè)論文、實驗數(shù)據(jù)、科研成果都是需要重點防護的對象。

羅林對“醫(yī)學界”表示，如果未經(jīng)嚴格管控就將OpenClaw引入醫(yī)院內(nèi)網(wǎng)環(huán)境，等于在核心醫(yī)療系統(tǒng)中打開一扇“未知之門”。患者的敏感信息將直接暴露在風險之下，隱私保護防線可能全面失守。

更深層的隱憂在于醫(yī)療數(shù)據(jù)的完整性。

羅林指出，病歷數(shù)據(jù)一旦被惡意或錯誤修改，將直接埋下醫(yī)療事故的隱患。在臨床實踐中，醫(yī)生的每一個診療決策都建立在對病歷信息的信任之上。

如果一個AI智能體在“自主執(zhí)行”過程中篡改或丟失了關鍵的檢查結果、用藥記錄或手術記錄，后果不堪設想。更棘手的是，這種篡改往往是隱蔽的，醫(yī)生未必能在第一時間察覺。

權限失控則是另一重風險。一旦OpenClaw獲得了對醫(yī)院信息系統(tǒng)的深層訪問權限，系統(tǒng)遭到破壞、數(shù)據(jù)記錄丟失等情況就可能發(fā)生。

此外，還有網(wǎng)絡安全專家指出，AI智能體本身固有的“幻覺”問題在醫(yī)療領域尤其危險。普通用戶使用AI時，一個錯誤的回答或許只是帶來不便；但在診療環(huán)節(jié)，如果AI給出了錯誤的輔助建議，而臨床人員未能及時識別和糾正，后果可能直接關乎患者的生命安全。

AI醫(yī)療，安全是底線

值得注意的是，從制度層面來看，醫(yī)療行業(yè)受到的監(jiān)管力度本就遠高于一般行業(yè)。

《個人信息保護法》將醫(yī)療健康信息列為“敏感個人信息”，處理此類信息需要取得個人的單獨同意，并采取嚴格的保護措施。

《數(shù)據(jù)安全法》和《網(wǎng)絡安全法》也對關鍵信息基礎設施的運營者提出了更高的安全要求，而大型醫(yī)療機構的信息系統(tǒng)往往屬于這一范疇。

一旦因部署“龍蝦”導致數(shù)據(jù)安全事件，醫(yī)療機構面臨的不僅是技術層面的損失，更可能是法律層面的嚴厲追責。

羅林對“醫(yī)學界”表示，以OpenClaw為代表的AI智能體在醫(yī)療領域確實有廣闊的應用前景——從智能導診、病歷整理、報告解讀，到患者隨訪管理和科研數(shù)據(jù)分析，落地場景清晰可見。

但他強調(diào)，AI醫(yī)療，安全是底線。風險規(guī)避的關鍵在于如何定義“自主”邊界。

“讓AI擁有'執(zhí)行權'，但醫(yī)生必須牢牢守住‘決策權’與‘確認權’。”羅林說，“落實到具體操作，一定要提前給AI設定好什么能做、什么不能做。所有開出的藥、給出的診斷建議，必須經(jīng)過醫(yī)生親自確認、電子簽名，才能生效。”

對于醫(yī)療機構，羅林建議應做好網(wǎng)絡隔離，為智能體設立專屬“數(shù)字隔離帶”，確保核心臨床系統(tǒng)不受沖擊；必須制定風險預案，明確人機權責邊界，確保一旦失控，人工能隨時接管；同時要培養(yǎng)既懂醫(yī)療又懂AI的復合型人才，為技術落地配好“領航員”。

歸根結底，醫(yī)學院校及其附屬醫(yī)院對“龍蝦”的禁用與慎用，并非對AI技術的排斥，而是對醫(yī)療行業(yè)特殊性的理性認識，在一個直接關乎人命的領域，任何技術的引入都必須以安全為前提。

本文來源丨醫(yī)學界

責任編輯丨蕾蕾

*“醫(yī)學界”力求所發(fā)表內(nèi)容專業(yè)、可靠，但不對內(nèi)容的準確性做出承諾；請相關各方在采用或以此作為決策依據(jù)時另行核查。