四川
本周，來自加利福尼亞州的民主黨參議員亞當·希夫提出《致命行動中的人類授權法案》。該法案要求，任何由自主武器系統采取的行動，最終都必須由人類指揮官拍板。
法案還要求詳細記錄軍事決策的形成過程以及目標選擇方式，以便事后審查；為舉報人設立保護措施；并禁止在某些涉及核武器和大規模監控的情形中使用人工智能。
希夫在新聞稿中表示：“過去幾個月已經表明，我們迫切需要建立常識性的防護欄，確保國防部對人工智能的使用符合美國人的國家安全和隱私優先事項。我的立法將保護美國人免受非法國內監控，確保指揮鏈中的人類對任何致命技術的使用承擔責任，并在部署自主和半自主武器時維持強有力的倫理保護。”
人工智能進入戰爭領域已有一段時間。世界各國軍隊都在借助人工智能系統進行打擊目標選擇和大規模監控，其中一個較為突出的例子，是以色列軍隊針對巴勒斯坦人使用人工智能。美國也長期在軍事行動中部署人工智能，包括其最近針對伊朗的戰爭。
不過，今年早些時候，軍方使用人工智能的問題被迅速推上公共討論前臺。原因是五角大樓與人工智能公司安思羅皮克之間一項原有協議告吹，而且五角大樓還以前所未有的做法，將這家公司列為供應鏈風險。
據稱，安思羅皮克拒絕取消其人工智能系統中的防護限制。這些限制原本旨在防止國防部將其模型用于大規模國內監控以及完全自主武器，也就是幾乎不需要人類參與的武器系統。
在合作破裂后，五角大樓與其他主要人工智能公司簽署了合同，包括開放人工智能研究中心、谷歌、英偉達、太空探索技術公司、微軟和亞馬遜云服務。安思羅皮克已就這一認定提起訴訟。不過有報道稱，在該公司發布最新模型“邁索斯”后，特朗普政府對它的態度正在轉暖。這一模型被宣傳為網絡安全行業的“噩夢”。
在特朗普政府與安思羅皮克高調決裂后，一批民主黨人公開表態支持這家人工智能公司及其立場，希夫就是其中之一，也是《致命行動中的人類授權法案》的提出者。
希夫今年3月在“龐奇博爾新聞大會”上說：“我希望外界能有更多像安思羅皮克這樣的聲音。”過去幾個月里，希夫還提出了一系列與人工智能相關的法案，包括要求大型數據中心自行承擔用電成本、要求人工智能公司披露用于訓練模型的版權作品，以及將人工智能素養課程引入學校。
據報道，他現在正計劃把這項法案附加到年度軍事開支法案，也就是《國防授權法案》中。這項法案最遲必須在今年年底前通過。
提出類似方案的并不只有他。來自紐約州的民主黨參議員柯爾斯滕·吉利布蘭德本月早些時候也提出了一項非常相似的法案，對人工智能在核武器部署、國內監控和完全自主武器中的使用設限。
根據這項法案的定義，所有這些以及更多“高后果行動”，都必須獲得國防部高級官員批準后才能推進。據報道，吉利布蘭德也計劃把這項提案作為《國防授權法案》的修正案提出。
此外，來自密歇根州的民主黨參議員伊麗莎·斯洛特金早在3月就提出了《人工智能防護欄法案》。這項法案同樣試圖建立與希夫和吉利布蘭德法案非常相近的限制措施。據報道，斯洛特金也正準備將其作為《國防授權法案》的修正案提出。
這三項法案都試圖通過在人類監督下約束軍方場景中的人工智能決策，以提高安全性。但風險并不止于此。許多人工智能使用者容易受到專家所說的“自動化偏見”影響，也就是因為系統掌握更多信息，或者看起來推理更高效，就認為人工智能比人類判斷得更準確。但事實顯然并非如此：這項技術遠未成熟，大語言模型容易出現“幻覺”或帶有偏見的判斷。
再加上人工智能具有“黑箱”特性，使用者無法完全了解系統為何會以某種方式推理、又是如何得出結論的。這樣一來，即便有人類監督，軍方的人工智能方案仍可能導致致命錯誤。這也說明，對軍方人工智能決策設置明確邊界和人為約束，仍是不可回避的問題。
特別聲明：以上內容(如有圖片或視頻亦包括在內)為自媒體平臺“網易號”用戶上傳并發布，本平臺僅提供信息存儲服務。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
