慕安會AI側邊活動 聚焦非國家行為體濫用風險治理與危機管理

2025年2月10-13日，復旦發展研究院副教授、全球人工智能創新治理中心研究員江天驕受邀參與慕安會多場人工智能治理側邊活動。在相關對話和討論過程中，歐美專家此番不約而同的將目光轉向非國家行為體濫用先進人工智能技術的安全風險及其治理議題值得關注。

第62屆慕尼黑安全會議開幕式現場。圖片來源：新華社

在具體風險場景方面，專家們對非國家行為體濫用人工智能發動網絡攻擊、核生化攻擊以及恐怖襲擊等挑戰表達了共同的擔憂，同時呼吁各國政府、監管機構和企業在各個環節建立有效的技術和政策干預措施。

歐美學者則對開源模型在這一問題上的潛在風險提出了更多疑慮。前幾個月，Anthropic已經公開發布報告將矛頭對準所謂人工智能加劇大規模網絡攻擊問題。此次會上，國外專家進一步援引相關報告以及國外對國內開源模型在核生化等議題上的安全測評結果，帶來較大挑戰。更為棘手的是，國內一些模型發布的同時確實沒有公布安全測評說明，在國際交流和交鋒中吃了啞巴虧。

在應對措施方面，歐美專家建議推動人工智能危機管理并建立專門的政府間溝通聯絡機制和企業間的信息披露或共享機制。類似倡議早在英國舉辦人工智能安全峰會時就已經提出并初步建立了相關機制。但目前看來，一是人工智能被濫用的風險有增無減，形勢挑戰更加嚴峻；二是已有機制可能并不及預期。尤其美國對人工智能安全監管的政策變化是較大的不確定性因素。此外，相關危機處置究竟應該由誰牽頭、向誰報告或披露信息、在多長時間內完成、披露或分享哪些信息都是極為復雜的國內治理和外交博弈問題。

最后，在一次非正式晚餐會上，德國專家表達了對歐洲人工智能發展和整個地緣政治經濟格局的焦慮。在加拿大總理卡尼的達沃斯講話之后，歐洲開始更加嚴肅的討論所謂“戰略自主”問題。面對中美在人工智能領域的高歌猛進，一些歐洲專家坦言是時候多到中國走走看看，實地感受一下人工智能的浪潮。恰逢近期德國總理訪華，期待中德能夠在這一關鍵領域開辟廣闊的合作空間。

來源 | 全球人工智能創新治理中心

排版 | 蒲云濤