萬斯與頂級權勢人物密談：你們的技術或對小醫院和銀行造成大破壞

JD·萬斯與美國最有權勢的男性舉行了令人不寒而栗的閉門峰會，而此時一場危及醫院的可怕全球威脅正在蔓延

JD·萬斯感到震驚。

他花了數月時間倡導的技術，如今卻可能席卷美國的銀行、醫院和水處理廠。

在4月與國內最有權勢的科技高管的一次通話中，這位副總統對他們自己創造的技術所引發的失控危險發出了警告。

參加通話的是這個星球上一些最富有的人：埃隆·馬斯克、OpenAI的山姆·阿爾特曼、Anthropic首席執行官達里奧·阿莫迪、谷歌掌門人桑達爾·皮查伊和微軟的薩提亞·納德拉。

據報道，萬斯對他們說：“我們都需要在這個問題上共同努力?！?/p>

這位副總統因其與硅谷的聯系而成為白宮在人工智能方面的關鍵人物，如今他向自己的盟友發出了嚴峻警告：控制好你們的技術。

這堪稱一次令人震驚的立場逆轉。

數月來，唐納德·特朗普及其高級官員堅稱，必須拆除對人工智能的限制，以便美國能在類似曼哈頓計劃的技術主導權競賽中獲勝。

在4月的這次通話中，副總統警告說，Anthropic的Mythos等強大的新型人工智能模型可能會對脆弱的小鎮醫院和銀行造成嚴重破壞，使它們遭受網絡攻擊，而地方政府缺乏能力抵御這些攻擊。

全球一些最富有的人參加了此次通話，包括埃隆·馬斯克。

導火索是硅谷巨頭Anthropic的最新人工智能模型Mythos，它具備自主尋找并利用網絡安全漏洞的驚人能力。

該模型極其危險，以至于Anthropic尚未將其公開發布，擔心Mythos可能會被用來攻擊美國的關鍵基礎設施。

在測試中，它的行為就像一名精英黑客，發現了一個存在于OpenBSD——一種以安全性著稱的操作系統——中長達27年的漏洞，而人類研究人員幾十年來一直未能發現它。

它還能夠發現Linux內核（全球大多數服務器的骨干）中的弱點。

美國財政部長斯科特·貝森特上月召集了美國最大銀行的首席執行官們到華盛頓，就這一威脅舉行緊急閉門會議。

出席會議的首席執行官包括花旗集團的簡·弗雷澤、摩根士丹利的泰德·皮克、美國銀行的布萊恩·莫伊尼漢、富國銀行的查理·沙夫和高盛的大衛·所羅門。

萬斯的警覺源于他在4月致電科技巨頭前數日收到的一份關于Mythos的白宮簡報。

據媒體報道，白宮目前正在考慮發布一項行政命令，正式建立對最先進模型的監督程序。

Mythos自主尋找并利用網絡安全漏洞的能力如此之強，以至于其所屬公司將該程序進行保留，未公開發布，擔心該模型可能被用來破壞美國的關鍵基礎設施。

特朗普政府官員已要求Anthropic停止將Mythos的訪問權限擴展至更多監督關鍵數字基礎設施的公司和組織。

這家硅谷巨頭已通過一項名為“Project Glasswing”的機密計劃，將Mythos的使用范圍限制在大約40家精英企業，其中包括蘋果、微軟、谷歌、摩根大通、高盛、美國銀行、花旗和摩根士丹利。

這家人工智能公司認為該模型過于危險，不宜廣泛發布，但報道顯示它還是泄露了。

據美媒報道，在萬斯通話的同一周，來自一個“私人在線論壇”的未經授權用戶通過第三方供應商成功侵入了Mythos。

據報道，這群人通過“基于對Anthropic用于其他模型格式的了解，對該模型在線位置做出有根據的猜測”而進入。

這些用戶告訴美媒，他們只是“對嘗試新AI模型感興趣”，并非想要制造混亂。

Anthropic的一名發言人表示：“我們正在調查一份報告，該報告稱有人通過我們的一個第三方供應商環境未經授權訪問了Claude Mythos預覽版?！?/p>

馬斯克和彼得·蒂爾是特朗普2024年競選活動的兩大捐款人，兩人都在人工智能公司持有大量財務股份，這使任何打擊行動變得復雜。

Anthropic已經置身于美國國防的核心，獲得了一份價值高達2億美元（約 13.6億元人民幣）、為期兩年的五角大樓合同，為軍事和情報工作提供人工智能工具。