7月1日消息，當(dāng)?shù)貢r(shí)間周二，Anthropic宣布恢復(fù)Claude Fable 5訪問(wèn)。公告里的新信息不止模型重新上線：公司第一次系統(tǒng)解釋，什么樣的AI越獄應(yīng)被視為嚴(yán)重風(fēng)險(xiǎn)。

Anthropic在官網(wǎng)發(fā)布長(zhǎng)文稱，美國(guó)政府已解除對(duì)Claude Fable 5和Claude Mythos 5的出口管制。Fable 5將從7月1日起重新面向全球用戶開放，覆蓋Claude Platform、Claude.ai、Claude Code和Claude Cowork。Pro、Max、Team和部分Enterprise用戶在7月7日前可把Fable 5用于最多50% 的每周使用額度；之后將通過(guò)用量積分繼續(xù)使用。Anthropic還稱，將盡快在AWS、Google Cloud和Microsoft Foundry上重新啟用訪問(wèn)。

Mythos 5則已在美國(guó)政府6月26日批準(zhǔn)后，先向一批美國(guó)機(jī)構(gòu)恢復(fù)訪問(wèn)，并將繼續(xù)與政府協(xié)調(diào)，擴(kuò)大到Glasswing項(xiàng)目中的更多國(guó)內(nèi)和國(guó)際合作伙伴。

如果只看結(jié)果，這像是一場(chǎng)模型下架風(fēng)波的收尾。但Anthropic這篇文章的重點(diǎn)其實(shí)在后半段：它想把 “AI模型越獄到底有多嚴(yán)重” 變成一套行業(yè)評(píng)分標(biāo)準(zhǔn)，并把前沿模型發(fā)布納入更深的政府預(yù)發(fā)布測(cè)試。

為什么一份越獄報(bào)告會(huì)讓模型下架

這場(chǎng)風(fēng)波始于6月12日。

Anthropic稱，美國(guó)政府當(dāng)天對(duì)Fable 5和Mythos 5實(shí)施出口管制，要求限制外國(guó)國(guó)民訪問(wèn)這兩款模型。這里的外國(guó)國(guó)民不只包括美國(guó)境外用戶，也包括在美國(guó)境內(nèi)的非美國(guó)國(guó)民。由于指令立即生效，而Anthropic無(wú)法實(shí)時(shí)核驗(yàn)每個(gè)用戶的國(guó)籍，公司最后選擇暫停所有用戶訪問(wèn)。

政府介入的直接導(dǎo)火索，是一份來(lái)自亞馬遜研究人員的報(bào)告。報(bào)告稱，研究人員找到一種繞過(guò)Fable 5安全防護(hù)的方法，讓模型識(shí)別出若干軟件漏洞；其中一個(gè)案例里，模型還生成了演示如何利用漏洞的代碼。

Anthropic的反駁很明確：這不是Fable 5突然釋放出獨(dú)有的高級(jí)攻擊能力。

公司稱，自己復(fù)測(cè)后發(fā)現(xiàn)，Claude Opus 4.8、GPT-5.5、Kimi K2.7等較低能力模型，也能識(shí)別同樣漏洞；在生成單個(gè)漏洞利用演示時(shí)，Haiku、Sonnet、Opus、GPT和Kimi的多個(gè)版本也能給出類似結(jié)果。Anthropic認(rèn)為，這更像是Fable 5安全分類器里的一個(gè)邊界案例，而不是Mythos級(jí)別網(wǎng)絡(luò)攻擊能力外泄。

換句話說(shuō)，爭(zhēng)議核心不是 “模型有沒(méi)有風(fēng)險(xiǎn)”，而是：一個(gè)繞過(guò)技巧到底嚴(yán)重到什么程度，是否足以讓政府要求模型停服。

新防護(hù)能攔99% 以上，但代價(jià)是誤傷

為了恢復(fù)訪問(wèn)，Anthropic訓(xùn)練了新的安全分類器，專門攔截亞馬遜報(bào)告中的繞過(guò)行為。公司稱，新分類器能在超過(guò)99% 的情況下阻止相關(guān)技巧；如果Fable 5請(qǐng)求被攔截，系統(tǒng)會(huì)把請(qǐng)求轉(zhuǎn)給Claude Opus 4.8處理。

美國(guó)商務(wù)部下屬的AI標(biāo)準(zhǔn)與創(chuàng)新中心也測(cè)試了Anthropic的新舊防護(hù)。

但這不是一個(gè) “修好就完事” 的問(wèn)題。Anthropic承認(rèn)，新分類器會(huì)讓日常編程和調(diào)試任務(wù)中更多良性請(qǐng)求被誤判。也就是說(shuō)，用戶正常做安全研究、漏洞分析或代碼調(diào)試時(shí)，可能更容易碰到拒答。

這才是前沿模型安全的難點(diǎn)：廠商既要證明模型不會(huì)被輕易拿去做攻擊，又不能把正常開發(fā)者和安全研究人員擋在門外。Fable 5的恢復(fù)，實(shí)際上是一次能力、可用性和政策風(fēng)險(xiǎn)之間的重新平衡。

Anthropic想給AI越獄分級(jí)

這篇文章最有價(jià)值的部分，是Anthropic提出的 “AI越獄嚴(yán)重程度框架”。

Anthropic認(rèn)為，現(xiàn)在行業(yè)缺少統(tǒng)一標(biāo)準(zhǔn)。每次有人發(fā)現(xiàn)新的繞過(guò)方法，廠商不知道該多快修，政府也缺少一致尺度判斷是否該介入。

它提出用四個(gè)維度判斷一個(gè)越獄是否嚴(yán)重：能力增益、能力范圍、武器化難度和可發(fā)現(xiàn)性。

這個(gè)框架的意義在于，它把 “AI越獄” 從一個(gè)容易引發(fā)恐慌的詞，拆成了可以排序、可以處置的問(wèn)題。一個(gè)只能觸碰安全邊界、還需要很多技巧才能復(fù)現(xiàn)的越獄，和一個(gè)一兩句提示就能穩(wěn)定解鎖危險(xiǎn)能力的越獄，不應(yīng)該被同等對(duì)待。

Anthropic正在與亞馬遜、微軟、谷歌和其他Glasswing合作伙伴起草一套框架。它建議從四個(gè)維度給越獄風(fēng)險(xiǎn)打分：

第一，能力增益。越獄后，模型能不能做出現(xiàn)有公開工具和較弱模型做不到的事情。如果只是達(dá)到其他工具已有能力，風(fēng)險(xiǎn)較低；如果能顯著加速專家級(jí)攻擊，風(fēng)險(xiǎn)就高。

第二，能力范圍。同一種越獄方法，是只能解鎖一個(gè)很窄的任務(wù)，還是能覆蓋多類攻擊目標(biāo)和技術(shù)路線。

第三，武器化難度。把這個(gè)越獄轉(zhuǎn)成真實(shí)攻擊，需要多少人工努力、提示技巧和反復(fù)嘗試。如果一兩次提示就能穩(wěn)定成功，風(fēng)險(xiǎn)更高。

第四，可發(fā)現(xiàn)性。這個(gè)方法是需要專業(yè)知識(shí)才能找到，還是已經(jīng)在網(wǎng)上廣泛傳播。

這套框架的意義在于，它試圖把 “AI越獄” 從籠統(tǒng)恐慌，拆成可溝通、可排序、可修復(fù)的問(wèn)題。以后模型被發(fā)現(xiàn)漏洞時(shí)，廠商和政府可以先判斷：這是低風(fēng)險(xiǎn)邊界案例，還是必須立即部署緩解措施的高危越獄。

Anthropic還計(jì)劃推出新的HackerOne項(xiàng)目，讓安全研究人員提交Fable 5潛在網(wǎng)絡(luò)安全越獄案例。

前沿模型發(fā)布以后更難 “只按產(chǎn)品節(jié)奏走”

Fable 5這次恢復(fù)訪問(wèn)，也說(shuō)明前沿模型發(fā)布正在多一層外部變量。

Anthropic表示，對(duì)涉及國(guó)家安全相關(guān)前沿能力的模型，將向指定美國(guó)政府伙伴提供更早訪問(wèn)權(quán)限，讓政府在廣泛發(fā)布前測(cè)試模型和配套防護(hù)；當(dāng)出現(xiàn)重要越獄或?yàn)E用模式時(shí)，也會(huì)更快向政府共享信息；同時(shí)投入專門團(tuán)隊(duì)和算力，參與AI安全評(píng)測(cè)與研究。

這意味著，前沿模型不再只是 “訓(xùn)練完成、評(píng)測(cè)通過(guò)、上線銷售”。越靠近網(wǎng)絡(luò)安全、生物安全、國(guó)家安全這些高風(fēng)險(xiǎn)能力，模型發(fā)布越可能進(jìn)入政府預(yù)審、信息共享和風(fēng)險(xiǎn)協(xié)商流程。

對(duì)用戶來(lái)說(shuō)，F(xiàn)able 5恢復(fù)訪問(wèn)是好消息。但對(duì)企業(yè)客戶來(lái)說(shuō)，這件事留下的提醒更現(xiàn)實(shí)：最強(qiáng)模型的可用性，不只取決于能力、價(jià)格和接口，也取決于政策狀態(tài)。一款模型即使已經(jīng)上線，也可能因?yàn)榘踩珷?zhēng)議突然暫停，再通過(guò)補(bǔ)防護(hù)、復(fù)測(cè)和政府協(xié)調(diào)恢復(fù)。

對(duì)Anthropic來(lái)說(shuō)，這次復(fù)盤既是在解釋下架原因，也是在爭(zhēng)奪話語(yǔ)權(quán)：公司希望外界相信，F(xiàn)able 5不是失控模型，而是一個(gè)被過(guò)度謹(jǐn)慎處理的邊界案例；同時(shí)，它也希望把行業(yè)焦點(diǎn)從 “模型能不能被越獄” 轉(zhuǎn)到 “越獄嚴(yán)重程度該怎么判斷”。

所以，這篇公告表面上是在宣布Fable 5重新上線，實(shí)際上是在給前沿模型行業(yè)立一套新問(wèn)題：AI越獄該怎么分級(jí)，政府該什么時(shí)候介入，模型公司又該怎樣證明自己既能放出能力，也能管住風(fēng)險(xiǎn)。（易句）

（本文由AI翻譯，網(wǎng)易編輯負(fù)責(zé)校對(duì)）