北京
5月14日消息，當?shù)貢r間周五晚，Anthropic宣布暫停Claude Fable 5和Mythos 5兩款模型的全部客戶訪問。公司稱，美國政府以國家安全為由發(fā)布出口管制指令，要求暫停任何外國國民使用這兩款模型，無論其位于美國境內(nèi)還是境外，也包括Anthropic內(nèi)部的外國籍員工。為確保合規(guī)執(zhí)行，公司對所有用戶禁用了這兩款模型；其他Claude模型不受影響。
指令落下前，亞馬遜CEO安迪·賈西（Andy Jassy）曾與特朗普政府高級官員通話，提及Anthropic先進模型的安全風險。The Information和Axios均將這次溝通列為政府采取行動的背景之一。
Anthropic官方聲明確認，政府指令針對的是外國國民訪問權(quán)限。但由于公司難以在所有客戶中即時區(qū)分國籍，選擇了統(tǒng)一暫停。
The Information報道，政府公開指向的核心風險，是Fable 5可能存在繞過安全護欄的"越獄"方法，并被用于發(fā)現(xiàn)軟件漏洞或執(zhí)行敏感網(wǎng)絡(luò)安全任務(wù)。CyberScoop也報道稱，美國政府將這兩款模型視為國家安全風險。更大的背景則是，Anthropic此前已與特朗普政府在模型能否用于大規(guī)模監(jiān)控、致命自主武器等問題上存在長期分歧。
The Information援引兩位知情人士稱，賈西本周與特朗普政府高級官員通話時，提出了Anthropic模型的安全風險；Axios也報道稱，亞馬遜提交的一份緊急報告觸發(fā)了白宮內(nèi)部快速反應(yīng)。
亞馬遜發(fā)言人對The Information表示，作為服務(wù)大量私營和公共部門客戶的主要云廠商，政府就潛在安全風險征詢其意見并不罕見；當這類溝通發(fā)生時，公司不會披露具體討論內(nèi)容。
自2023年以來，亞馬遜已向Anthropic投資130億美元，同時也是其云服務(wù)和算力的核心合作方。向政府提出風險提醒的，不是外部競爭者，而是Anthropic最重要的商業(yè)伙伴之一。
Anthropic認為，政府擔心的并不是一個能廣泛繞過護欄的"通用越獄"。公司稱，它看到的演示只涉及少量已知、相對簡單的漏洞，而且其他公開可用模型也能發(fā)現(xiàn)類似問題。但指令已經(jīng)落地，公司只能先執(zhí)行暫停。
這次事件之后，企業(yè)客戶選擇AI供應(yīng)商時需要評估的東西多了一項：已經(jīng)部署的AI能力可能因出口管制、國家安全審查或合規(guī)執(zhí)行被臨時收回。模型能力、價格和穩(wěn)定性之外，政策連續(xù)性本身成了一個風險變量。（易句）
（本文由AI翻譯，網(wǎng)易編輯負責校對）
本文來源：網(wǎng)易智能
責任編輯：
王鳳枝_NT2541
