![]()
高盛首席執(zhí)行官大衛(wèi)·所羅門表示,他對Anthropic旗下Mythos AI模型的能力"高度警覺",并在該公司發(fā)出網(wǎng)絡(luò)安全風(fēng)險警告后,正與其"密切"合作。
這家美國銀行一直在持續(xù)關(guān)注人工智能領(lǐng)域的快速發(fā)展動態(tài),包括大語言模型的演進,將其納入防御黑客攻擊的整體安全戰(zhàn)略之中。
"顯然,大語言模型正在快速迭代,在美國政府和模型開發(fā)商的協(xié)助下,我們對這些新模型不斷增強的能力保持著高度關(guān)注。"所羅門在周一的業(yè)績電話會議上對分析師表示。
他提到的合作方包括Anthropic——Claude系列AI工具的開發(fā)商。上周,該公司宣稱其最新模型Mythos因能夠發(fā)現(xiàn)IT系統(tǒng)漏洞而構(gòu)成前所未有的安全風(fēng)險。
"AI模型的代碼能力已經(jīng)達到了一個新高度,除極少數(shù)頂尖專家外,它在發(fā)現(xiàn)和利用軟件漏洞方面已能超越絕大多數(shù)人類。"Anthropic上周三在一篇博客文章中寫道,"由此引發(fā)的后果——無論是對經(jīng)濟、公共安全還是國家安全——都可能極為嚴峻。"
所羅門在周一表示:"我們了解Mythos及其能力……我們已經(jīng)獲取了該模型,正在與Anthropic以及所有安全供應(yīng)商緊密協(xié)作,盡可能地駕馭前沿技術(shù)能力。這將持續(xù)是我們工作的重要重心。"
"我們高度重視網(wǎng)絡(luò)安全與基礎(chǔ)設(shè)施韌性的強化建設(shè)。這是我們持續(xù)投入的能力建設(shè)的一部分,并且正在加快投資步伐。"
此前,美國財政部長斯科特·貝森特已于上周召集所羅門及其他美國大型銀行高管赴華盛頓,專門就Mythos模型展開討論。
此次會議重點關(guān)注所謂"系統(tǒng)重要性銀行"的負責(zé)人——監(jiān)管機構(gòu)認為,這類銀行一旦發(fā)生重大運營中斷乃至倒閉,將對金融穩(wěn)定構(gòu)成威脅。
周一,英國政府人工智能安全研究院(AISI)警告稱,與此前的模型相比,Mythos在網(wǎng)絡(luò)威脅層面是一次"重大升級"。
AISI指出,Mythos能夠在無需人工干預(yù)的情況下,獨立執(zhí)行需要多個步驟的攻擊操作,并自主發(fā)現(xiàn)IT系統(tǒng)中的安全弱點。通常情況下,這些任務(wù)需要專業(yè)人員耗費數(shù)天才能完成。Mythos是首個成功完成AISI設(shè)計的32步網(wǎng)絡(luò)攻擊模擬任務(wù)的AI模型,在10次嘗試中有3次成功解決了該挑戰(zhàn)。
AISI表示,Mythos看似已具備自主攻擊規(guī)模較小、防護薄弱的IT系統(tǒng)的能力,但由于測試環(huán)境缺乏防御工具等安全機制,目前尚無法確定其是否能夠攻破防護完善的系統(tǒng)。
AISI的博客文章最后發(fā)出警告:未來的高級AI模型只會在Mythos的基礎(chǔ)上持續(xù)進化,因此"現(xiàn)在投資網(wǎng)絡(luò)防御至關(guān)重要"。
英國監(jiān)管機構(gòu)預(yù)計將在未來數(shù)周內(nèi),就Mythos的風(fēng)險問題與英國各大銀行高管及政府官員展開專項溝通。由各銀行首席執(zhí)行官以及財政部、英格蘭銀行、金融行為監(jiān)管局和國家網(wǎng)絡(luò)安全中心官員共同組成的跨市場運營韌性小組(CMorg),預(yù)計將在未來兩周內(nèi)召開會議。
英格蘭銀行負責(zé)CMorg相關(guān)事務(wù)的溝通工作,目前對此不予置評。
Q&A
Q1:Mythos AI模型存在哪些具體的網(wǎng)絡(luò)安全風(fēng)險?
A:根據(jù)Anthropic和英國AISI的評估,Mythos AI模型能夠在無需人工干預(yù)的情況下,自主發(fā)現(xiàn)和利用軟件漏洞,執(zhí)行需要多個步驟的網(wǎng)絡(luò)攻擊操作。通常需要專業(yè)人員數(shù)天才能完成的任務(wù),Mythos可以獨立完成。它是首個成功完成AISI設(shè)計的32步網(wǎng)絡(luò)攻擊模擬任務(wù)的AI模型,在10次嘗試中有3次成功。目前評估認為它能攻擊防護薄弱的小型系統(tǒng),但對防護完善系統(tǒng)的攻擊能力尚不明確。
Q2:高盛是如何應(yīng)對Mythos AI帶來的安全威脅的?
A:高盛CEO大衛(wèi)·所羅門表示,高盛已經(jīng)獲取了Mythos模型,并正與Anthropic及所有安全供應(yīng)商展開密切合作,以充分掌握和駕馭前沿AI能力。與此同時,高盛也在持續(xù)加大對網(wǎng)絡(luò)安全和基礎(chǔ)設(shè)施韌性建設(shè)的投資力度,將其列為公司重要戰(zhàn)略重心。
Q3:英國政府和監(jiān)管機構(gòu)對Mythos AI的風(fēng)險態(tài)度如何?
A:英國政府人工智能安全研究院(AISI)已于近期發(fā)出警告,認為Mythos在網(wǎng)絡(luò)威脅層面較此前模型有顯著提升。英國監(jiān)管機構(gòu)還計劃在未來數(shù)周內(nèi)與各大銀行高管及政府官員專門討論Mythos的風(fēng)險問題,跨市場運營韌性小組(CMorg)預(yù)計兩周內(nèi)將召開相關(guān)會議。
特別聲明:以上內(nèi)容(如有圖片或視頻亦包括在內(nèi))為自媒體平臺“網(wǎng)易號”用戶上傳并發(fā)布,本平臺僅提供信息存儲服務(wù)。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.