高盛首席執(zhí)行官大衛(wèi)·所羅門表示，他對Anthropic旗下Mythos AI模型的能力"高度警覺"，并在該公司發(fā)出網(wǎng)絡(luò)安全風(fēng)險警告后，正與其"密切"合作。

這家美國銀行一直在持續(xù)關(guān)注人工智能領(lǐng)域的快速發(fā)展動態(tài)，包括大語言模型的演進，將其納入防御黑客攻擊的整體安全戰(zhàn)略之中。

"顯然，大語言模型正在快速迭代，在美國政府和模型開發(fā)商的協(xié)助下，我們對這些新模型不斷增強的能力保持著高度關(guān)注。"所羅門在周一的業(yè)績電話會議上對分析師表示。

他提到的合作方包括Anthropic——Claude系列AI工具的開發(fā)商。上周，該公司宣稱其最新模型Mythos因能夠發(fā)現(xiàn)IT系統(tǒng)漏洞而構(gòu)成前所未有的安全風(fēng)險。

"AI模型的代碼能力已經(jīng)達到了一個新高度，除極少數(shù)頂尖專家外，它在發(fā)現(xiàn)和利用軟件漏洞方面已能超越絕大多數(shù)人類。"Anthropic上周三在一篇博客文章中寫道，"由此引發(fā)的后果——無論是對經(jīng)濟、公共安全還是國家安全——都可能極為嚴峻。"

所羅門在周一表示："我們了解Mythos及其能力……我們已經(jīng)獲取了該模型，正在與Anthropic以及所有安全供應(yīng)商緊密協(xié)作，盡可能地駕馭前沿技術(shù)能力。這將持續(xù)是我們工作的重要重心。"

"我們高度重視網(wǎng)絡(luò)安全與基礎(chǔ)設(shè)施韌性的強化建設(shè)。這是我們持續(xù)投入的能力建設(shè)的一部分，并且正在加快投資步伐。"

此前，美國財政部長斯科特·貝森特已于上周召集所羅門及其他美國大型銀行高管赴華盛頓，專門就Mythos模型展開討論。

此次會議重點關(guān)注所謂"系統(tǒng)重要性銀行"的負責(zé)人——監(jiān)管機構(gòu)認為，這類銀行一旦發(fā)生重大運營中斷乃至倒閉，將對金融穩(wěn)定構(gòu)成威脅。

周一，英國政府人工智能安全研究院（AISI）警告稱，與此前的模型相比，Mythos在網(wǎng)絡(luò)威脅層面是一次"重大升級"。

AISI指出，Mythos能夠在無需人工干預(yù)的情況下，獨立執(zhí)行需要多個步驟的攻擊操作，并自主發(fā)現(xiàn)IT系統(tǒng)中的安全弱點。通常情況下，這些任務(wù)需要專業(yè)人員耗費數(shù)天才能完成。Mythos是首個成功完成AISI設(shè)計的32步網(wǎng)絡(luò)攻擊模擬任務(wù)的AI模型，在10次嘗試中有3次成功解決了該挑戰(zhàn)。

AISI表示，Mythos看似已具備自主攻擊規(guī)模較小、防護薄弱的IT系統(tǒng)的能力，但由于測試環(huán)境缺乏防御工具等安全機制，目前尚無法確定其是否能夠攻破防護完善的系統(tǒng)。

AISI的博客文章最后發(fā)出警告：未來的高級AI模型只會在Mythos的基礎(chǔ)上持續(xù)進化，因此"現(xiàn)在投資網(wǎng)絡(luò)防御至關(guān)重要"。

英國監(jiān)管機構(gòu)預(yù)計將在未來數(shù)周內(nèi)，就Mythos的風(fēng)險問題與英國各大銀行高管及政府官員展開專項溝通。由各銀行首席執(zhí)行官以及財政部、英格蘭銀行、金融行為監(jiān)管局和國家網(wǎng)絡(luò)安全中心官員共同組成的跨市場運營韌性小組（CMorg），預(yù)計將在未來兩周內(nèi)召開會議。

英格蘭銀行負責(zé)CMorg相關(guān)事務(wù)的溝通工作，目前對此不予置評。

Q&A

Q1：Mythos AI模型存在哪些具體的網(wǎng)絡(luò)安全風(fēng)險？

A：根據(jù)Anthropic和英國AISI的評估，Mythos AI模型能夠在無需人工干預(yù)的情況下，自主發(fā)現(xiàn)和利用軟件漏洞，執(zhí)行需要多個步驟的網(wǎng)絡(luò)攻擊操作。通常需要專業(yè)人員數(shù)天才能完成的任務(wù)，Mythos可以獨立完成。它是首個成功完成AISI設(shè)計的32步網(wǎng)絡(luò)攻擊模擬任務(wù)的AI模型，在10次嘗試中有3次成功。目前評估認為它能攻擊防護薄弱的小型系統(tǒng)，但對防護完善系統(tǒng)的攻擊能力尚不明確。

Q2：高盛是如何應(yīng)對Mythos AI帶來的安全威脅的？

A：高盛CEO大衛(wèi)·所羅門表示，高盛已經(jīng)獲取了Mythos模型，并正與Anthropic及所有安全供應(yīng)商展開密切合作，以充分掌握和駕馭前沿AI能力。與此同時，高盛也在持續(xù)加大對網(wǎng)絡(luò)安全和基礎(chǔ)設(shè)施韌性建設(shè)的投資力度，將其列為公司重要戰(zhàn)略重心。

Q3：英國政府和監(jiān)管機構(gòu)對Mythos AI的風(fēng)險態(tài)度如何？

A：英國政府人工智能安全研究院（AISI）已于近期發(fā)出警告，認為Mythos在網(wǎng)絡(luò)威脅層面較此前模型有顯著提升。英國監(jiān)管機構(gòu)還計劃在未來數(shù)周內(nèi)與各大銀行高管及政府官員專門討論Mythos的風(fēng)險問題，跨市場運營韌性小組（CMorg）預(yù)計兩周內(nèi)將召開相關(guān)會議。