亚洲中文字幕乱码亚洲-蜜桃成熟视频在线观看-免费中文字幕视频在线-中国五十路熟妇洗澡视频-亚洲av伊人啪啪c-国产精品成人一区二区-国产自拍视频一区在线观看-成人一区不卡二区三区四区-亚洲情精品中文字幕99在线

網(wǎng)易首頁 > 網(wǎng)易號 > 正文 申請入駐

人手一個(gè)"龍蝦"的時(shí)代,誰來管住失控的AI?

0
分享至


OpenClaw(又稱"龍蝦")在技術(shù)社區(qū)快速走紅后,隨之而來的安全焦慮正在全面蔓延。作為一款開源AI智能體(AI Agent)框架,OpenClaw的核心目標(biāo)是讓用戶擁有一個(gè)可以執(zhí)行任務(wù)的私人AI助手——

它的圖標(biāo)是紅色龍蝦,但它的"鉗子"已經(jīng)伸向了系統(tǒng)級權(quán)限、企業(yè)數(shù)據(jù)和供應(yīng)鏈環(huán)節(jié)。
"龍蝦"為什么讓人又愛又怕

過去一年里,OpenClaw在技術(shù)社區(qū)快速走紅,成為最熱門的開源AI智能體框架之一。但安全討論的熱度幾乎同步攀升。

風(fēng)險(xiǎn)的根源在于,AI Agent不再是被動(dòng)回答問題的"聊天機(jī)器人",而是能自主調(diào)用工具、訪問資源、執(zhí)行復(fù)雜任務(wù)的"數(shù)字員工"。

從事iOA產(chǎn)品運(yùn)營多年的行業(yè)專家劉登峰直言:"本質(zhì)上,這樣的AI Agent是一個(gè)不會(huì)疲倦、會(huì)自動(dòng)化執(zhí)行的超級用戶,如果它在終端上安裝,被攻破了,就相當(dāng)于攻擊者完全獲得了這個(gè)終端的電腦權(quán)限,由此以來,就可以進(jìn)行下一步的橫向滲透,擴(kuò)散到企業(yè)的全部網(wǎng)絡(luò)終端或服務(wù)器,同時(shí)也具備非常高的數(shù)據(jù)外泄風(fēng)險(xiǎn)。"

AI Agent的出現(xiàn),不僅帶來了新的攻擊面,更從根本上動(dòng)搖了傳統(tǒng)安全防護(hù)體系的底層邏輯。

說白了,"過去我們盯的是用戶是誰,現(xiàn)在我們可能還要盯AI Agent在替誰行動(dòng),它具備什么樣的能力,它執(zhí)行的動(dòng)作有沒有偏離它的原始意圖。"劉登峰表示。

其次,安全建設(shè)的重心也發(fā)生了根本轉(zhuǎn)移:過去,安全的職責(zé)是防入侵,現(xiàn)在除了防入侵以外,還要防越權(quán)使用。因?yàn)樵贏gent時(shí)代,很多風(fēng)險(xiǎn)不再是過去所認(rèn)知的“黑進(jìn)來了”,它是屬于本來就允許它在內(nèi)網(wǎng)用這個(gè)Agent,本來就有授權(quán),但是它授權(quán)過多,導(dǎo)致它的邊界不清楚或者失控。

防護(hù)對象從設(shè)備轉(zhuǎn)向了數(shù)據(jù)。過去是保設(shè)備,現(xiàn)在是重點(diǎn)保數(shù)據(jù)。即使一個(gè)設(shè)備本身沒有被攻擊者直接明顯的攻破,但是數(shù)據(jù)是有可能在正常的業(yè)務(wù)流程中被帶出去的。

這種轉(zhuǎn)變在個(gè)人端同樣顯著。PC端的權(quán)限天然比移動(dòng)端開放得多。Windows先天設(shè)計(jì)就會(huì)有一些機(jī)制允許通過底層上的技術(shù),比如通過寫一段代碼就能夠調(diào)用系統(tǒng)上的某個(gè)文檔或者操作一些系統(tǒng)級的能力。

移動(dòng)端更偏向于輸入,在手機(jī)上遙控龍蝦在電腦上干活,在電腦上可能要操作文檔,訪問網(wǎng)絡(luò)和電腦上其他的內(nèi)容,所以有操作,這個(gè)風(fēng)險(xiǎn)會(huì)更大。

Skill供應(yīng)鏈:被忽視的新攻擊面

如果說權(quán)限失控是"明面上的風(fēng)險(xiǎn)",那么Skill插件的供應(yīng)鏈投毒就是更隱蔽的"暗雷"。

OpenClaw的核心能力拓展依賴Skill插件:要處理PDF就裝PDF轉(zhuǎn)換插件,要查天氣就裝天氣查詢插件,要對接企業(yè)系統(tǒng)就裝對應(yīng)的業(yè)務(wù)插件。但這些插件大部分來自第三方開發(fā)者,安全審核機(jī)制尚不完善。

站在用戶角度,因?yàn)橄敫玫厥褂肙penClaw,需要完整、高效的工具說明,也就是Skill插件。在這個(gè)過程中,因?yàn)楸还粽叨⑸狭耍梢园岩粋€(gè)惡意文件偽裝正常Skill,比如PDF轉(zhuǎn)換、天氣查詢。對于普通用戶而言,甚至對于企業(yè)級員工而言,很難自行去辨別這里是否有問題。

更棘手的是,這類攻擊繞過了傳統(tǒng)的檢測手段。騰訊云安全副總經(jīng)理、AI Agent 安全中心負(fù)責(zé)人謝奕智也對筆者指出:"Skills的安全性,因?yàn)樗锩嬗刑崾驹~、腳本,傳統(tǒng)的基于規(guī)則特征檢測的能力很難應(yīng)對。不過,目前,各家安全廠商針對Skill的安全檢測是在持續(xù)迭代的。”

面對AI Agent,企業(yè)的態(tài)度正在快速分化。

劉登峰透露,咨詢客戶覆蓋了金融、能源、運(yùn)營商、企業(yè)、零售等多個(gè)行業(yè),但需求差異明顯:"金融行業(yè)有明確訴求,就是要禁用的。偏互聯(lián)網(wǎng)的中型客戶,他們更想快速溝通企業(yè)級的安全沙箱方案。很多用戶一方面是在聊更精細(xì)化的場景怎么管,另外一方面就是聊能不能直接給他上沙箱,上了沙箱之后他可以根據(jù)沙箱跑一段時(shí)間、運(yùn)行一段時(shí)間,再判斷對于企業(yè)來說哪些場景是允許用的,哪些場景是不允許用的。"

值得注意的是,安全預(yù)算的來源也發(fā)生了結(jié)構(gòu)性變化:"目前我們看到更多是業(yè)務(wù)部門,因?yàn)槭紫人菢I(yè)務(wù)發(fā)動(dòng)出來的需求。用戶對安全的認(rèn)知是比較成熟的,覺得OpenClaw這個(gè)東西天生就是有安全風(fēng)險(xiǎn),所以我在購買一個(gè)企業(yè)版的OpenClaw的時(shí)候,我希望把安全也帶上,是基于這樣一個(gè)流程,和過去有點(diǎn)不同。"

安全的終局:不是對立,而是無感

很多人擔(dān)心,安全防護(hù)會(huì)犧牲AI Agent的使用體驗(yàn)。但這本質(zhì)上是一個(gè)偽命題:安全本身也可以是一種用戶體驗(yàn)。安全無處不在,但是你卻感受不到它的存在。在未來伴隨著OpenClaw的發(fā)展,大家應(yīng)該會(huì)慢慢習(xí)慣用它來解決這些問題,有些邊界會(huì)默認(rèn)被關(guān)閉。

而AI本身正在成為最好的安全工具。謝奕智透露,針對Skill安全中傳統(tǒng)規(guī)則檢測難以應(yīng)對的提示詞和腳本風(fēng)險(xiǎn),"有專門的實(shí)驗(yàn)室同學(xué)在做研究,而且相關(guān)的能力已經(jīng)集成到我們的云端安全產(chǎn)品跟C端的安全產(chǎn)品"。"AI治理AI"正在從概念走向落地。

在大家關(guān)心的token消耗問題上,謝奕智的判斷是:"token單價(jià)肯定是往下走的,因?yàn)樗磥砣绻蔀橄袼娨粯拥脑挘泻芎玫钠占埃幸欢ǖ囊?guī)模,價(jià)格一定是往下走的。"

這意味著AI Agent的使用成本將持續(xù)降低,普及速度會(huì)加快,安全防護(hù)的需求也會(huì)越來越迫切——一場圍繞AI Agent安全的長跑才剛剛開始。

實(shí)用建議:給"養(yǎng)蝦"人士的安全指南

針對企業(yè)業(yè)務(wù)使用者

權(quán)限最小化原則:給AI Agent分配權(quán)限時(shí),只開放必要的系統(tǒng)訪問、數(shù)據(jù)讀取和操作權(quán)限。盡量不要涉及寫權(quán)限的工作,如果不需要,就給它只讀的密鑰權(quán)限。

做好網(wǎng)絡(luò)隔離:如果龍蝦有很固定的訪問目標(biāo)去完成它的工作,網(wǎng)絡(luò)做好隔離,不要讓它有權(quán)限去訪問一些不該訪問的內(nèi)網(wǎng)服務(wù)。

先測試再上線:新部署的Agent先在隔離測試環(huán)境運(yùn)行驗(yàn)證,確認(rèn)所有操作行為符合預(yù)期,再逐步接入生產(chǎn)環(huán)境。

建立全流程審計(jì)機(jī)制:對Agent的所有操作留痕,包括輸入的Prompt、調(diào)用的插件、執(zhí)行的動(dòng)作、訪問的數(shù)據(jù),定期做安全審計(jì),異常行為實(shí)時(shí)告警。

插件準(zhǔn)入審核:不要隨意使用第三方開源Skill插件,所有接入企業(yè)系統(tǒng)的插件必須經(jīng)過安全檢測,建議優(yōu)先使用官方提供或經(jīng)過安全廠商認(rèn)證的插件。

定期備份核心數(shù)據(jù):預(yù)設(shè)Agent異常操作的攔截機(jī)制,一旦出現(xiàn)失控能快速止損,避免造成不可逆損失。

針對AI愛好者和個(gè)人用戶

不要開放不必要的權(quán)限:安裝OpenClaw時(shí)仔細(xì)審查權(quán)限申請,不要直接同意所有請求,尤其是文件讀寫、支付接口、攝像頭麥克風(fēng)等敏感權(quán)限。

優(yōu)先使用帶安全沙箱的方案:在本地部署時(shí),優(yōu)先使用帶AI安全沙箱的防護(hù)工具,把Agent的運(yùn)行環(huán)境和真實(shí)系統(tǒng)隔離開。如果不熟悉OpenClaw的復(fù)雜安裝流程,可以考慮開箱即用的方案。

謹(jǐn)慎安裝第三方插件:不要下載不明來源的Skill插件,盡量從官方渠道獲取,安裝前做安全掃描檢測。

不要用Agent處理敏感信息:盡量避免用本地Agent處理身份證、銀行卡、工作機(jī)密等敏感信息,防止數(shù)據(jù)泄露。

做好數(shù)據(jù)備份:假設(shè)龍蝦很不靠譜,但是又很想用,怎么辦呢?可以買一臺PC,做好網(wǎng)絡(luò)隔離,做數(shù)據(jù)的定期備份,這樣就可以很靈活的去用龍蝦所有的能力。如果系統(tǒng)壞了,備份能力自動(dòng)加上,也不擔(dān)心數(shù)據(jù)問題。(本文首發(fā)鈦媒體APP,文 | DeepWrite秦報(bào)局,作者|秦聰慧 )

特別聲明:以上內(nèi)容(如有圖片或視頻亦包括在內(nèi))為自媒體平臺“網(wǎng)易號”用戶上傳并發(fā)布,本平臺僅提供信息存儲(chǔ)服務(wù)。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相關(guān)推薦
熱點(diǎn)推薦
“谷雨不排毒,夏天身體堵”,明日谷雨,多吃4樣排毒菜,正當(dāng)季

“谷雨不排毒,夏天身體堵”,明日谷雨,多吃4樣排毒菜,正當(dāng)季

小茉莉美食記
2026-04-19 09:41:12
弗格森也做不到!曼聯(lián)打破英超紀(jì)錄,切爾西有望掉出前十

弗格森也做不到!曼聯(lián)打破英超紀(jì)錄,切爾西有望掉出前十

嗨皮看球
2026-04-19 16:52:48
男子在云南大黑山攀巖受傷倒掛懸崖血流不止,路過的一群徒步大學(xué)生和消防接力施救

男子在云南大黑山攀巖受傷倒掛懸崖血流不止,路過的一群徒步大學(xué)生和消防接力施救

紅星新聞
2026-04-19 16:52:20
U17亞洲杯:中國U17擊敗印尼卡塔爾基本可晉級世少賽

U17亞洲杯:中國U17擊敗印尼卡塔爾基本可晉級世少賽

章民解說體育
2026-04-19 20:23:01
在滬做 12 年保姆,因金鐲被辭,回鄉(xiāng)后發(fā)現(xiàn)箱中是 3 本房產(chǎn)證與字條

在滬做 12 年保姆,因金鐲被辭,回鄉(xiāng)后發(fā)現(xiàn)箱中是 3 本房產(chǎn)證與字條

愛下廚的阿釃
2026-04-19 11:48:29
提到本山大叔家的公子趙大牛,他的座駕在沈陽街頭可算相當(dāng)拉風(fēng)。

提到本山大叔家的公子趙大牛,他的座駕在沈陽街頭可算相當(dāng)拉風(fēng)。

情感大頭說說
2026-04-12 05:21:17
國家其實(shí)已經(jīng)暗示得很明白了,只是很多人一直沒真正聽明白!

國家其實(shí)已經(jīng)暗示得很明白了,只是很多人一直沒真正聽明白!

Ck的蜜糖
2026-04-10 17:45:46
越吃血管越通!建議中老年:常吃“2菜1果”,心臟舒服,安穩(wěn)過春

越吃血管越通!建議中老年:常吃“2菜1果”,心臟舒服,安穩(wěn)過春

江江食研社
2026-04-16 19:42:38
光明“新鮮牧場”擦邊鮮牛奶,網(wǎng)友稱被誤導(dǎo)

光明“新鮮牧場”擦邊鮮牛奶,網(wǎng)友稱被誤導(dǎo)

新浪財(cái)經(jīng)
2026-04-19 12:44:38
江蘇發(fā)布大霧大風(fēng)雙警報(bào),降溫降雨同步來襲

江蘇發(fā)布大霧大風(fēng)雙警報(bào),降溫降雨同步來襲

揚(yáng)子晚報(bào)
2026-04-19 22:11:11
看上去像“公務(wù)員”,其實(shí)連編制都沒有的6個(gè)職業(yè)

看上去像“公務(wù)員”,其實(shí)連編制都沒有的6個(gè)職業(yè)

細(xì)說職場
2026-04-12 17:02:40
伊朗方面稱只要存在海上封鎖就不會(huì)談判

伊朗方面稱只要存在海上封鎖就不會(huì)談判

極目新聞
2026-04-19 22:27:17
趙心童沒讓眾星徹底嘆服!希金斯:他可能達(dá)到小特高度但無法更高

趙心童沒讓眾星徹底嘆服!希金斯:他可能達(dá)到小特高度但無法更高

楊華評論
2026-04-18 18:39:32
蔡磊妻子段睿半夜悲痛發(fā)文:明知沒有機(jī)會(huì)了,偏要賭他會(huì)等我回來

蔡磊妻子段睿半夜悲痛發(fā)文:明知沒有機(jī)會(huì)了,偏要賭他會(huì)等我回來

樂天閑聊
2026-04-19 07:05:22
長治商場女子墜樓后續(xù):知情人曝現(xiàn)場細(xì)節(jié),商場次日營業(yè)惹爭議

長治商場女子墜樓后續(xù):知情人曝現(xiàn)場細(xì)節(jié),商場次日營業(yè)惹爭議

奇思妙想草葉君
2026-04-19 23:35:25
iPhone 17突然降價(jià),這應(yīng)該是目前最香的iPhone了

iPhone 17突然降價(jià),這應(yīng)該是目前最香的iPhone了

劉奔跑
2026-04-19 23:10:21
王健林預(yù)言成真!第3輪大漲來了?內(nèi)行人:2026年房價(jià)將超乎想象

王健林預(yù)言成真!第3輪大漲來了?內(nèi)行人:2026年房價(jià)將超乎想象

貓叔東山再起
2026-04-19 09:20:11
老同學(xué)聚會(huì)班花陰陽我:同學(xué)中就屬你混得差,我:你爸都是我員工

老同學(xué)聚會(huì)班花陰陽我:同學(xué)中就屬你混得差,我:你爸都是我員工

紅豆講堂
2025-04-23 11:05:46
特朗普稱美伊仍能達(dá)成協(xié)議

特朗普稱美伊仍能達(dá)成協(xié)議

每日經(jīng)濟(jì)新聞
2026-04-19 23:13:37
專家警告:每天吃一根香蕉,就等于給心臟“踩剎車”?真相來了

專家警告:每天吃一根香蕉,就等于給心臟“踩剎車”?真相來了

路醫(yī)生健康科普
2026-04-05 11:20:07
2026-04-20 04:12:49
鈦媒體APP incentive-icons
鈦媒體APP
獨(dú)立財(cái)經(jīng)科技媒體
132476文章數(shù) 862107關(guān)注度
往期回顧 全部

科技要聞

50分26秒破人類紀(jì)錄!300臺機(jī)器人狂飆半馬

頭條要聞

半年下沉22厘米 女子家中坐擁價(jià)值上億別墅卻沒法住人

頭條要聞

半年下沉22厘米 女子家中坐擁價(jià)值上億別墅卻沒法住人

體育要聞

湖人1比0火箭:老詹比烏度卡像教練

娛樂要聞

何潤東漲粉百萬!內(nèi)娛隔空掀桌第一人

財(cái)經(jīng)要聞

華誼兄弟,8年虧光85億

汽車要聞

29分鐘大定破萬 極氪8X為什么這么多人買?

態(tài)度原創(chuàng)

家居
旅游
時(shí)尚
本地
藝術(shù)

家居要聞

法式線條 時(shí)光靜淌

旅游要聞

北京投入2.2億元建成和田“三館一院”

裝修“精神角落”,就是這么上癮

本地新聞

12噸巧克力有難,全網(wǎng)化身超級偵探添亂

藝術(shù)要聞

超模施特洛耶克寫真曝光,簡直美到窒息,別錯(cuò)過!

無障礙瀏覽 進(jìn)入關(guān)懷版