7月1日消息，當(dāng)?shù)貢r間周二，Anthropic宣布恢復(fù)Claude Fable 5訪問。公告里的新信息不止模型重新上線：公司第一次系統(tǒng)解釋，什么樣的AI越獄應(yīng)被視為嚴(yán)重風(fēng)險。

Anthropic在官網(wǎng)發(fā)布長文稱，美國政府已解除對Claude Fable 5和Claude Mythos 5的出口管制。Fable 5將從7月1日起重新面向全球用戶開放，覆蓋Claude Platform、Claude.ai、Claude Code和Claude Cowork。Pro、Max、Team和部分Enterprise用戶在7月7日前可把Fable 5用于最多50% 的每周使用額度；之后將通過用量積分繼續(xù)使用。Anthropic還稱，將盡快在AWS、Google Cloud和Microsoft Foundry上重新啟用訪問。

Mythos 5則已在美國政府6月26日批準(zhǔn)后，先向一批美國機(jī)構(gòu)恢復(fù)訪問，并將繼續(xù)與政府協(xié)調(diào)，擴(kuò)大到Glasswing項目中的更多國內(nèi)和國際合作伙伴。

如果只看結(jié)果，這像是一場模型下架風(fēng)波的收尾。但Anthropic這篇文章的重點其實在后半段：它想把 “AI模型越獄到底有多嚴(yán)重” 變成一套行業(yè)評分標(biāo)準(zhǔn)，并把前沿模型發(fā)布納入更深的政府預(yù)發(fā)布測試。

為什么一份越獄報告會讓模型下架

這場風(fēng)波始于6月12日。

Anthropic稱，美國政府當(dāng)天對Fable 5和Mythos 5實施出口管制，要求限制外國國民訪問這兩款模型。這里的外國國民不只包括美國境外用戶，也包括在美國境內(nèi)的非美國國民。由于指令立即生效，而Anthropic無法實時核驗每個用戶的國籍，公司最后選擇暫停所有用戶訪問。

政府介入的直接導(dǎo)火索，是一份來自亞馬遜研究人員的報告。報告稱，研究人員找到一種繞過Fable 5安全防護(hù)的方法，讓模型識別出若干軟件漏洞；其中一個案例里，模型還生成了演示如何利用漏洞的代碼。

Anthropic的反駁很明確：這不是Fable 5突然釋放出獨有的高級攻擊能力。

公司稱，自己復(fù)測后發(fā)現(xiàn)，Claude Opus 4.8、GPT-5.5、Kimi K2.7等較低能力模型，也能識別同樣漏洞；在生成單個漏洞利用演示時，Haiku、Sonnet、Opus、GPT和Kimi的多個版本也能給出類似結(jié)果。Anthropic認(rèn)為，這更像是Fable 5安全分類器里的一個邊界案例，而不是Mythos級別網(wǎng)絡(luò)攻擊能力外泄。

換句話說，爭議核心不是 “模型有沒有風(fēng)險”，而是：一個繞過技巧到底嚴(yán)重到什么程度，是否足以讓政府要求模型停服。

新防護(hù)能攔99% 以上，但代價是誤傷

為了恢復(fù)訪問，Anthropic訓(xùn)練了新的安全分類器，專門攔截亞馬遜報告中的繞過行為。公司稱，新分類器能在超過99% 的情況下阻止相關(guān)技巧；如果Fable 5請求被攔截，系統(tǒng)會把請求轉(zhuǎn)給Claude Opus 4.8處理。

美國商務(wù)部下屬的AI標(biāo)準(zhǔn)與創(chuàng)新中心也測試了Anthropic的新舊防護(hù)。

但這不是一個 “修好就完事” 的問題。Anthropic承認(rèn)，新分類器會讓日常編程和調(diào)試任務(wù)中更多良性請求被誤判。也就是說，用戶正常做安全研究、漏洞分析或代碼調(diào)試時，可能更容易碰到拒答。

這才是前沿模型安全的難點：廠商既要證明模型不會被輕易拿去做攻擊，又不能把正常開發(fā)者和安全研究人員擋在門外。Fable 5的恢復(fù)，實際上是一次能力、可用性和政策風(fēng)險之間的重新平衡。

Anthropic想給AI越獄分級

這篇文章最有價值的部分，是Anthropic提出的 “AI越獄嚴(yán)重程度框架”。

Anthropic認(rèn)為，現(xiàn)在行業(yè)缺少統(tǒng)一標(biāo)準(zhǔn)。每次有人發(fā)現(xiàn)新的繞過方法，廠商不知道該多快修，政府也缺少一致尺度判斷是否該介入。

它提出用四個維度判斷一個越獄是否嚴(yán)重：能力增益、能力范圍、武器化難度和可發(fā)現(xiàn)性。

這個框架的意義在于，它把 “AI越獄” 從一個容易引發(fā)恐慌的詞，拆成了可以排序、可以處置的問題。一個只能觸碰安全邊界、還需要很多技巧才能復(fù)現(xiàn)的越獄，和一個一兩句提示就能穩(wěn)定解鎖危險能力的越獄，不應(yīng)該被同等對待。

Anthropic正在與亞馬遜、微軟、谷歌和其他Glasswing合作伙伴起草一套框架。它建議從四個維度給越獄風(fēng)險打分：

第一，能力增益。越獄后，模型能不能做出現(xiàn)有公開工具和較弱模型做不到的事情。如果只是達(dá)到其他工具已有能力，風(fēng)險較低；如果能顯著加速專家級攻擊，風(fēng)險就高。

第二，能力范圍。同一種越獄方法，是只能解鎖一個很窄的任務(wù)，還是能覆蓋多類攻擊目標(biāo)和技術(shù)路線。

第三，武器化難度。把這個越獄轉(zhuǎn)成真實攻擊，需要多少人工努力、提示技巧和反復(fù)嘗試。如果一兩次提示就能穩(wěn)定成功，風(fēng)險更高。

第四，可發(fā)現(xiàn)性。這個方法是需要專業(yè)知識才能找到，還是已經(jīng)在網(wǎng)上廣泛傳播。

這套框架的意義在于，它試圖把 “AI越獄” 從籠統(tǒng)恐慌，拆成可溝通、可排序、可修復(fù)的問題。以后模型被發(fā)現(xiàn)漏洞時，廠商和政府可以先判斷：這是低風(fēng)險邊界案例，還是必須立即部署緩解措施的高危越獄。

Anthropic還計劃推出新的HackerOne項目，讓安全研究人員提交Fable 5潛在網(wǎng)絡(luò)安全越獄案例。

前沿模型發(fā)布以后更難 “只按產(chǎn)品節(jié)奏走”

Fable 5這次恢復(fù)訪問，也說明前沿模型發(fā)布正在多一層外部變量。

Anthropic表示，對涉及國家安全相關(guān)前沿能力的模型，將向指定美國政府伙伴提供更早訪問權(quán)限，讓政府在廣泛發(fā)布前測試模型和配套防護(hù)；當(dāng)出現(xiàn)重要越獄或濫用模式時，也會更快向政府共享信息；同時投入專門團(tuán)隊和算力，參與AI安全評測與研究。

這意味著，前沿模型不再只是 “訓(xùn)練完成、評測通過、上線銷售”。越靠近網(wǎng)絡(luò)安全、生物安全、國家安全這些高風(fēng)險能力，模型發(fā)布越可能進(jìn)入政府預(yù)審、信息共享和風(fēng)險協(xié)商流程。

對用戶來說，F(xiàn)able 5恢復(fù)訪問是好消息。但對企業(yè)客戶來說，這件事留下的提醒更現(xiàn)實：最強(qiáng)模型的可用性，不只取決于能力、價格和接口，也取決于政策狀態(tài)。一款模型即使已經(jīng)上線，也可能因為安全爭議突然暫停，再通過補防護(hù)、復(fù)測和政府協(xié)調(diào)恢復(fù)。

對Anthropic來說，這次復(fù)盤既是在解釋下架原因，也是在爭奪話語權(quán)：公司希望外界相信，F(xiàn)able 5不是失控模型，而是一個被過度謹(jǐn)慎處理的邊界案例；同時，它也希望把行業(yè)焦點從 “模型能不能被越獄” 轉(zhuǎn)到 “越獄嚴(yán)重程度該怎么判斷”。

所以，這篇公告表面上是在宣布Fable 5重新上線，實際上是在給前沿模型行業(yè)立一套新問題：AI越獄該怎么分級，政府該什么時候介入，模型公司又該怎樣證明自己既能放出能力，也能管住風(fēng)險。（易句）

（本文由AI翻譯，網(wǎng)易編輯負(fù)責(zé)校對）