江蘇
關鍵詞
訪問權限
Anthropic 周五表示，在美國政府以國家安全為由命令其暫停向外國公民（無論在美國境內還是境外）提供模型訪問權限后，該公司將"緊急禁用"其最先進的 AI 模型——Claude Fable 5 和 Mythos 5——面向所有用戶的訪問。
這家 AI 公司表示，其于美國東部時間下午 5:21 收到命令，要求暫停外國公民對該模型的所有訪問權限。該公司認為存在"誤解"，并正在努力盡快恢復模型訪問。其他模型的訪問不受該出口管制指令影響。
"我們的理解是，政府認為其發現了一種繞過（即'越獄'）Fable 5 的方法，"該公司表示。
"我們審查了該特定技術的演示，該技術被用于識別少量先前已知的、輕微漏洞。這些漏洞看起來都相對簡單，我們發現其他公開可用的模型也能發現這些漏洞，無需進行越獄。"
這一意外舉措發生在 Claude Fable 5 及其對應版本 Mythos 5 發布數天之后。Mythos 5 使用相同的基礎模型，但在某些領域（如網絡安全）移除了安全防護措施。后者被描述為"擁有全球所有模型中最強的網絡安全能力"，目前仍對經過審查的網絡安全防御者和關鍵基礎設施運營者開放。
網絡安全
Anthropic 強調其已實施"強有力的"防護措施，以防止模型被濫用于網絡安全相關任務。具體來說，這由一組安全分類器支撐，用于檢測潛在的濫用行為（包括越獄嘗試），并禁止主模型做出響應。
該網絡安全分類器旨在阻止涉及網絡攻擊規劃、漏洞利用開發或防御規避的有害單輪請求。該公司指出，Mythos 類模型擅長發現和利用軟件漏洞，從而為攻擊者提供戰略優勢。
上周，Anthropic 透露其 Mythos 類模型可以將新披露的軟件漏洞在數小時內（某些情況下甚至數分鐘內）轉化為可用的利用程序，而非數周，從而將 N-day 轉化為 N-hour。這一發現表明，前沿模型可能同樣擅長快速武器化已公開披露的漏洞。
"一名獨立操作者現在可以在一個下午內，將一個月積累的補丁轉化為可用的利用程序——只需花費幾千美元，且無需任何專業知識，"Anthropic 的紅隊表示。"這意味著軟件開發人員今天使用的典型補丁策略——每月發布節奏、持續數周的分階段部署、預發布版與穩定版之間的延遲——已不再適用。"
Fable 5 的保護機制意味著，關于網絡安全主題的查詢將由該公司的次強模型 Claude Opus 4.8 來響應。
在最新聲明中，該公司辯稱，迄今為止尚未開發出針對最新模型的通用越獄方法，并補充說第三方和內部紅隊演練發現其安全防護措施"比任何先前部署的模型都顯著更有效"。
此外，Anthropic 聲稱任何模型提供商都無法實現"完美的越獄抵抗"，因為業界使用的每種安全防護措施都容易受到非通用越獄的攻擊，這些越獄"在非常有限的上下文中有效，或需要額外努力才能適應每種新情況"。
網絡安全
"迄今為止，政府僅向我們提供了關于潛在狹窄、非通用越獄的口頭證據，這基本上包括要求模型讀取特定代碼庫并修復任何軟件缺陷，"該公司表示。
"我們的理解是，一種潛在的越獄方法被分享給了政府。我們審查了一份我們認為構成政府指令依據的報告，并驗證了其中展示的能力水平在其他模型（包括 OpenAI 的 GPT-5.5）中廣泛可用，并且每天被維護系統安全的防御者所使用。"
Anthropic 還指出，雖然它完全支持政府阻止不安全的 AI 部署，但發現"狹窄的潛在越獄"不應成為召回已廣泛部署的商業模型的原因。法定程序應"透明、公平、清晰，并基于技術事實"。
今年早些時候，美國國防部將 Anthropic 標記為"供應鏈風險"，原因是這家 Claude 制造商試圖為其技術的軍事用途劃清紅線。該公司已提起兩起訴訟以阻止該認定。
安全圈
網羅圈內熱點 專注網絡安全
實時資訊一手掌握！
好看你就分享 有用就點個贊
支持「安全圈」就點個三連吧！
特別聲明：以上內容(如有圖片或視頻亦包括在內)為自媒體平臺“網易號”用戶上傳并發布，本平臺僅提供信息存儲服務。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
