人工智能實(shí)驗(yàn)室安斯羅普克本周宣布,已開(kāi)發(fā)出一款強(qiáng)大的新模型。該公司認(rèn)為該模型有望重塑網(wǎng)絡(luò)安全格局。
![]()
安斯羅普克表示,其最新模型“神話(huà)預(yù)覽版”能夠發(fā)現(xiàn)高危漏洞,這些漏洞甚至存在于所有主流操作系統(tǒng)和網(wǎng)絡(luò)瀏覽器中。
維護(hù)常用網(wǎng)絡(luò)基礎(chǔ)設(shè)施的開(kāi)發(fā)者表示,在過(guò)去幾個(gè)月里,人工智能模型已經(jīng)從產(chǎn)生幻覺(jué),轉(zhuǎn)變?yōu)槟軌蛴行Оl(fā)現(xiàn)軟件安全缺陷的工具。
這些軟件不僅驅(qū)動(dòng)著操作系統(tǒng)的運(yùn)行,還負(fù)責(zé)為連接互聯(lián)網(wǎng)的設(shè)備傳輸數(shù)據(jù)。盡管這些新能力可以幫助開(kāi)發(fā)者提升軟件的安全性,但它們也可能被黑客和國(guó)家級(jí)行為體武器化,用于竊取信息和資金,或破壞關(guān)鍵服務(wù)。
人工智能網(wǎng)絡(luò)能力的最新進(jìn)展出現(xiàn)于周二。當(dāng)時(shí)人工智能實(shí)驗(yàn)室安斯羅普克宣布,已開(kāi)發(fā)出一款被其視為有望重塑網(wǎng)絡(luò)安全格局的強(qiáng)大新模型。
該公司聲稱(chēng),最新模型“神話(huà)預(yù)覽版”能夠發(fā)現(xiàn)高危漏洞,涵蓋所有主流操作系統(tǒng)和網(wǎng)絡(luò)瀏覽器。
![]()
不僅如此,該模型在構(gòu)思漏洞利用方法方面也表現(xiàn)得更為出色,這意味著惡意行為體可以更高效地達(dá)成其目的。目前,該公司將該模型的訪(fǎng)問(wèn)權(quán)限限制在約50家特定的企業(yè)和機(jī)構(gòu),試圖以此保護(hù)全球最關(guān)鍵的軟件。他們將這一合作命名為“透翅蝶計(jì)劃”,該名稱(chēng)源于一種擁有透明翅膀的蝴蝶。根據(jù)公告,安斯羅普克表示,由于濫用風(fēng)險(xiǎn)極高,目前沒(méi)有計(jì)劃向公眾發(fā)布這款特定模型,但會(huì)推出其他相關(guān)模型。
該公司在聲明中寫(xiě)道,其最終目標(biāo)是讓用戶(hù)能夠安全地大規(guī)模部署“神話(huà)”級(jí)別的模型。
盡管如此,安全專(zhuān)家指出,潛在風(fēng)險(xiǎn)主要針對(duì)網(wǎng)絡(luò)安全專(zhuān)業(yè)人士,而非普通大眾。
網(wǎng)絡(luò)安全公司Proofpoint威脅研究副總裁丹尼爾·布萊克福德表示,他并不認(rèn)為普通電腦用戶(hù)需要對(duì)此感到根本性的擔(dān)憂(yōu)。
他強(qiáng)調(diào),普通人更應(yīng)該擔(dān)心的是如何避免泄露密碼,因?yàn)檫@種事情每天都在頻繁發(fā)生。托管開(kāi)源系統(tǒng)內(nèi)核的Linux基金會(huì)首席執(zhí)行官吉姆·澤姆林表示,“神話(huà)預(yù)覽版”在協(xié)助開(kāi)發(fā)者修復(fù)漏洞方面,可能也具備超越以往模型的能力。
內(nèi)核是實(shí)現(xiàn)硬件與軟件通信的接口,而該基金會(huì)的內(nèi)核驅(qū)動(dòng)著包括安卓在內(nèi)的最廣泛使用的操作系統(tǒng),以及全球最強(qiáng)大的500臺(tái)超級(jí)計(jì)算機(jī)。
Linux基金會(huì)是“透翅蝶計(jì)劃”的成員之一。澤姆林透露,負(fù)責(zé)維護(hù)內(nèi)核的核心團(tuán)隊(duì)即維護(hù)者已經(jīng)開(kāi)始對(duì)新模型進(jìn)行測(cè)試,以探索最有效的使用方式。
澤姆林坦言,在人工智能出現(xiàn)之前,這些維護(hù)者就已經(jīng)處于超負(fù)荷工作的狀態(tài)。這項(xiàng)新技術(shù)的出現(xiàn),無(wú)疑大大改善了他們的工作處境。甚至在“神話(huà)預(yù)覽版”限量發(fā)布之前,網(wǎng)絡(luò)安全界就已經(jīng)在應(yīng)對(duì)目前最先進(jìn)商用人工智能模型的強(qiáng)大能力。
開(kāi)發(fā)者們正爭(zhēng)分奪秒地修復(fù)黑客利用人工智能標(biāo)記出的安全漏洞。安全專(zhuān)家擔(dān)憂(yōu),如果這種能力在缺乏護(hù)欄的情況下肆意擴(kuò)散,未來(lái)可能會(huì)面臨不可預(yù)知的風(fēng)險(xiǎn)。
![]()
黑客利用人工智能尋找漏洞:從失效到奏效丹尼爾·斯坦伯格指出,人工智能模型能力的提升在2026年初變得尤為明顯。
他是開(kāi)源數(shù)據(jù)傳輸工具cURL的首席軟件開(kāi)發(fā)者。這款擁有30年歷史的工具被廣泛應(yīng)用于汽車(chē)和醫(yī)療設(shè)備等各類(lèi)互聯(lián)網(wǎng)連接設(shè)備中。斯坦伯格表示,這一轉(zhuǎn)變緊隨2025年底發(fā)布的新一批前沿模型而來(lái)。與軟件界的許多人一樣,斯坦伯格也依靠安全研究人員的協(xié)助來(lái)維持軟件的功能和安全性。所謂的“白帽黑客”會(huì)在私下向開(kāi)發(fā)者報(bào)告安全缺陷。作為回報(bào),他們有時(shí)會(huì)獲得被稱(chēng)為“漏洞賞金”的獎(jiǎng)金,或者獲得以自己名字命名該安全缺陷的榮譽(yù)。
盡管所有的漏洞都會(huì)影響軟件功能,但只有部分漏洞會(huì)構(gòu)成真正的安全威脅。
這一機(jī)制在去年開(kāi)始出現(xiàn)崩潰的跡象。斯坦伯格的團(tuán)隊(duì)被大量虛假報(bào)告淹沒(méi),他堅(jiān)信這些報(bào)告是由人工智能生成的。
斯坦伯格透露,他們?nèi)旯彩盏?85份報(bào)告,但最終真正與安全問(wèn)題相關(guān)的不到百分之五。
盡管從2024年到2025年,報(bào)告數(shù)量翻了一番,但斯坦伯格最終發(fā)現(xiàn)并修復(fù)的安全漏洞卻在減少。
由于垃圾報(bào)告泛濫成災(zāi),斯坦伯格甚至停止了為cURL工具發(fā)放漏洞賞金。
斯坦伯格表示,向他提交報(bào)告的黑客通常是匿名的,他們也不會(huì)透露報(bào)告是否借助了人工智能。
但他指出,人工智能具有獨(dú)特的寫(xiě)作風(fēng)格。這些報(bào)告往往極其詳盡且充滿(mǎn)描述性,人類(lèi)只需50行就能說(shuō)清楚的問(wèn)題,人工智能會(huì)生成一份長(zhǎng)達(dá)400行的報(bào)告。
斯坦伯格用于管理安全報(bào)告的平臺(tái)HackerOne在2025年夏天對(duì)黑客進(jìn)行了一項(xiàng)調(diào)查。
![]()
結(jié)果顯示,近百分之六十的受訪(fǎng)者正在使用人工智能、學(xué)習(xí)人工智能,或者正在學(xué)習(xí)如何審計(jì)人工智能及機(jī)器學(xué)習(xí)系統(tǒng)。
今年的情況發(fā)生了戲劇性的變化。斯坦伯格表示,報(bào)告數(shù)量甚至超過(guò)了2025年,但到目前為止,其中大部分都揭示了真正的問(wèn)題。
他感嘆道,幾乎所有劣質(zhì)報(bào)告現(xiàn)在都消失了。據(jù)他估計(jì),大約十分之一的報(bào)告涉及安全漏洞,其余大部分也是真實(shí)的程序缺陷。
在2026年僅僅過(guò)去的三個(gè)月里,斯坦伯格領(lǐng)導(dǎo)的團(tuán)隊(duì)發(fā)現(xiàn)并修復(fù)的漏洞數(shù)量,就已經(jīng)超過(guò)了過(guò)去兩年的總和。
除了依賴(lài)外部安全研究人員的報(bào)告,斯坦伯格自己也使用人工智能來(lái)尋找漏洞。
只需一鍵操作,人工智能就以近乎神奇的方式,在他的代碼中標(biāo)記出了100多個(gè)缺陷。而這些代碼此前已經(jīng)經(jīng)過(guò)了人類(lèi)和傳統(tǒng)代碼分析器的多輪審查。
斯坦伯格的經(jīng)歷并非個(gè)例。Linux內(nèi)核的維護(hù)者們也觀察到了漏洞報(bào)告質(zhì)量的類(lèi)似變化。
安斯羅普克的研究科學(xué)家尼古拉斯·卡利尼利用較早版本的安斯羅普克模型和相對(duì)簡(jiǎn)單的提示詞,成功在Linux內(nèi)核中發(fā)現(xiàn)了漏洞。
此外,卡利尼還利用人工智能在另一個(gè)擁有20年歷史的開(kāi)源項(xiàng)目中,發(fā)現(xiàn)了首個(gè)高危漏洞。
人工智能軟件安全公司Corridor的首席安全官亞歷克斯·斯塔莫斯直言,大語(yǔ)言模型在尋找漏洞方面已經(jīng)超越了人類(lèi)的能力。
斯塔莫斯曾擔(dān)任雅虎和臉書(shū)的安全主管。他指出,安全研究報(bào)告質(zhì)量的提升,是在去年11月安斯羅普克發(fā)布“杰作4.5”模型之后出現(xiàn)的。
![]()
斯塔莫斯進(jìn)一步分析稱(chēng),由于大量商業(yè)軟件包含開(kāi)源組件,開(kāi)源項(xiàng)目的遭遇將對(duì)整個(gè)互聯(lián)網(wǎng)產(chǎn)生更廣泛的影響。
人工智能能否修復(fù)其發(fā)現(xiàn)的漏洞?斯坦伯格認(rèn)可目前公眾可用的人工智能模型在尋找漏洞方面變得更加實(shí)用,但他同時(shí)也對(duì)未來(lái)更強(qiáng)大的模型可能給開(kāi)源軟件開(kāi)發(fā)者帶來(lái)的沖擊保持警惕。
他指出,這會(huì)給所有維護(hù)者帶來(lái)超負(fù)荷的壓力,而這些維護(hù)者在很多情況下已經(jīng)處于工作過(guò)載、人手不足、薪酬微薄且資金匱乏的困境中。
斯坦伯格并未參與“透翅蝶計(jì)劃”。他坦言,許多作為互聯(lián)網(wǎng)真正基石的關(guān)鍵項(xiàng)目,實(shí)際上被排除在了該計(jì)劃之外。
針對(duì)美國(guó)全國(guó)公共廣播電臺(tái)的置評(píng)請(qǐng)求,安斯羅普克未予回應(yīng)。
不過(guò),基于目前的經(jīng)驗(yàn),斯坦伯格認(rèn)為人工智能在修復(fù)缺陷和安全漏洞方面的表現(xiàn),遠(yuǎn)不及它在發(fā)現(xiàn)問(wèn)題時(shí)的亮眼。
部分原因在于,無(wú)論是漏洞本身還是其修復(fù)方案,往往都不是非黑即白的。與軟件開(kāi)發(fā)的其他許多環(huán)節(jié)一樣,做出判斷所耗費(fèi)的時(shí)間往往多于實(shí)際編寫(xiě)代碼的時(shí)間。
斯坦伯格解釋道,一旦確定了問(wèn)題并達(dá)成共識(shí),實(shí)際的修復(fù)工作并不困難,也不會(huì)耗費(fèi)太多時(shí)間。真正消耗時(shí)間和精力的,是達(dá)到這一步之前的整個(gè)過(guò)程。
但也有人持有不同觀點(diǎn)。HackerOne公司目前正在開(kāi)發(fā)一款代理型人工智能產(chǎn)品,旨在更自主地發(fā)現(xiàn)并修復(fù)漏洞。
人工智能如何影響網(wǎng)絡(luò)安全攻防戰(zhàn)?
斯塔莫斯指出,發(fā)現(xiàn)漏洞并不等同于讓漏洞變得可被利用。
![]()
他解釋稱(chēng),在所謂的“殺傷鏈”中,第一步是發(fā)現(xiàn)缺陷,而下一步才是真正構(gòu)建武器。目前的基礎(chǔ)模型并不會(huì)替你完成構(gòu)建武器的工作。
基礎(chǔ)模型是由安斯羅普克、OpenAI和谷歌DeepMind等最頂尖人工智能實(shí)驗(yàn)室開(kāi)發(fā)的模型。
這些實(shí)驗(yàn)室已經(jīng)設(shè)置了安全護(hù)欄,以防止其模型生成可被惡意使用的軟件。這些模型具有高度的專(zhuān)有性,其內(nèi)部運(yùn)作機(jī)制并不公開(kāi)。
一旦公眾更容易獲取的所謂“開(kāi)源權(quán)重模型”趕上頂尖實(shí)驗(yàn)室的水平,一切防線(xiàn)都可能土崩瓦解。
惡意行為體可以輕易復(fù)制這些模型,并移除防范惡意軟件的安全護(hù)欄。
斯塔莫斯警告稱(chēng),屆時(shí)我們將陷入真正的麻煩,因?yàn)槟悴粌H可以要求這些模型尋找漏洞,還能讓它們生成用于入侵系統(tǒng)的漏洞利用代碼。
目前,最先進(jìn)的開(kāi)源權(quán)重模型與最先進(jìn)的閉源權(quán)重模型之間,差距已不足一年。
斯塔莫斯補(bǔ)充道,外界分析人士指出,五角大樓將安斯羅普克視為對(duì)整個(gè)美國(guó)的威脅,這種論調(diào)顯得極不明智。
此前,五角大樓將安斯羅普克標(biāo)記為“供應(yīng)鏈風(fēng)險(xiǎn)”,原因是該公司要求政府不得將其技術(shù)用于自主武器和大規(guī)模監(jiān)控。
這一標(biāo)簽將禁止政府機(jī)構(gòu)和承包商與安斯羅普克合作。目前,安斯羅普克正在法庭上對(duì)這一標(biāo)簽提出異議。
斯塔莫斯認(rèn)為,安斯羅普克選擇不公開(kāi)發(fā)布“神話(huà)預(yù)覽版”,實(shí)際上是在為軟件開(kāi)發(fā)者以及美國(guó)爭(zhēng)取鞏固防御體系的時(shí)間。
特別聲明:以上內(nèi)容(如有圖片或視頻亦包括在內(nèi))為自媒體平臺(tái)“網(wǎng)易號(hào)”用戶(hù)上傳并發(fā)布,本平臺(tái)僅提供信息存儲(chǔ)服務(wù)。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.