北京
5月26日消息，紐約時報報道，英國AI Security Institute（AISI，原AI Safety Institute）的研究人員會測試前沿AI模型，尋找安全漏洞和風險邊界，而這套做法正在被其他政府借鑒。
過去幾年，AI監管經常停留在透明度、責任、原則、風險管理和自愿承諾這些詞上。現在問題更具體：一個模型發布前，到底會不會幫助黑客攻擊？會不會降低制造危險物質的門檻？會不會在關鍵場景里繞過安全限制？
這種問題不能只靠公司自己回答。公司可以做紅隊測試，也可以發布安全報告，但政府如果沒有自己的評估能力，就只能在發布會、論文和企業承諾之間做判斷。英國AI安全研究院的價值，正在于它把政府放進了測試流程里。
這套模式已經開始向國際合作擴散。英國政府5月25日發布公告稱，英國AI安全研究院將與澳大利亞AI安全研究院合作，跟蹤前沿AI風險，包括AI系統如何被用于網絡攻擊，以及如何用于加強防御。公告還提到，雙方會共享AI能力洞察，開展新興風險研究，并推動AI測試和評估的國際最佳實踐。
美國也在走類似方向。美國商務部下屬的AI標準與創新中心（CAISI）近期與谷歌DeepMind、微軟和xAI達成協議，將在模型公開發布前進行國家安全相關評估。微軟也在同期宣布與美國CAISI和英國AISI建立合作，用于測試前沿模型、評估安全防護，并降低國家安全和大規模公共安全風險。
這意味著，前沿模型公司以后面對的不只是市場競爭，還有一套越來越像“發布前安全評估”的流程。在英美這類合作框架下，模型能力越強，企業越可能需要向政府測試機構提供更多材料和訪問權限。對創業公司來說，如果未來政府采購、企業采購或跨境合規更多參考這類評估，安全測試能力會變成產品競爭的一部分。
未來AI監管不再只是問“公司有沒有寫安全承諾”，而是開始問“有沒有人真的測過”。這比原則聲明更麻煩，也更接近現實。（易句）
（本文由AI翻譯，網易編輯負責校對）
本文來源：網易智能
責任編輯：
王鳳枝_NT2541
