網易首頁 > 網易號 > 正文 申請入駐

記憶投毒、Token套利,智能體正在失控前夜

0
分享至

近期AI圈有個名字被反復提起,并不是因為它有多聰明,而是因為它闖了不少禍——OpenClaw。

這款主打"全自主"的AI智能體產品,接連曝出多個重大問題:

1)記憶投毒: 它悄悄在記憶模塊里寫入被篡改的"歷史對話",植入一段假記憶。下次它做決策時,依據的是一段根本沒發生過的"過去"——用戶渾然不知。

2)數據污染: 攻擊者不需要入侵系統,只需在某個不起眼的網頁里藏一段精心設計的文字。智能體"讀"完之后,行為目標就會改變。權威機構測試顯示,主流智能體面對入侵的失陷率超過60%。

3)濫用權限: 智能體申請的系統權限,遠超完成任務所需。你讓它幫你訂外賣,它順手把你的銀行App、相冊、通訊錄全掃了一遍——全程合法,因為你當初點了"同意"。

4)Token套利: 計費邏輯存在縫隙,攻擊者可以構造特定請求,讓智能體陷入無限循環調用——每轉一圈,平臺計一次費,用戶賬單悄悄膨脹,一晚上消耗用戶幾十美元不在話下。

單看這幾個問題,你可能覺得:不過是一家公司的問題。但真正讓人不安的,不是OpenClaw,而在于它是當前AI智能體發展不設剎車的縮影。

不同于聊天機器人,智能體有記憶、有工具調用權、有跨系統操作能力,越來越多的產品開始讓它"自主規劃、自主執行"。但自動化的背后,安全設計完全不匹配。

比如,智能體調用數據需要授權與認證,就是一個典型。現有的MCP(Model Context Protocol)等智能體協議框架,在權限管控上基本還停留在"君子協定"階段——我說我只訪問這些,你信不信由你。

但這并非最糟糕的,市場上的部分玩家,直接繞開MCP,打著“創新”旗號,在設計發布產品時,如入無人之境。他們采取的是"先發布、后修復"的做法。某種程度上,這就是先犯罪,再道歉;先污染,再治理的一種翻盤。

整個行業正在陷入一場“逐底競爭”,部分玩家們相信一點:用戶并不真正關心隱私,法律跟蹤不了技術,越是沒有下限,越能贏得勝利。

技術樂觀主義者會說:這些都是成長的煩惱,等標準成熟了自然會好。但真正的問題在于,整個AI行業,有能力在意用戶安全的企業并不多。

OpenClaw全球用戶目前不足百萬,但各大品牌的AI手機早已箭在弦上、磨刀霍霍,沒有行業標準,沒有法律底線,只靠企業的道德自覺。

數以億計的用戶,正被推向一個尚未建立基本安全契約的新世界——一個無人負責的風險世界。





特別聲明:以上內容(如有圖片或視頻亦包括在內)為自媒體平臺“網易號”用戶上傳并發布,本平臺僅提供信息存儲服務。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相關推薦
熱點推薦
男子30年前被扣押2859克黃金申請退賠,遼寧營口警方:正研究,將盡快答復

男子30年前被扣押2859克黃金申請退賠,遼寧營口警方:正研究,將盡快答復

澎湃新聞
2026-04-24 21:04:32
巴爾韋德:畢包首要任務是保級;馬競賽程強度已到荒謬地步

巴爾韋德:畢包首要任務是保級;馬競賽程強度已到荒謬地步

懂球帝
2026-04-25 12:07:11
破防了!浙江一年輕夫妻逛街,妻子因想喝一瓶飲料,情緒徹底失控

破防了!浙江一年輕夫妻逛街,妻子因想喝一瓶飲料,情緒徹底失控

火山詩話
2026-04-24 07:24:30
三個航母打擊群或將同時部署中東,美軍伙食就這?

三個航母打擊群或將同時部署中東,美軍伙食就這?

每日經濟新聞
2026-04-24 14:36:35
王治郅和二婚妻子近照,亮相名人堂,為他生2娃,依舊美麗動人

王治郅和二婚妻子近照,亮相名人堂,為他生2娃,依舊美麗動人

大西體育
2026-04-24 21:59:33
很丑很溫柔的草根前鋒,要和姆巴佩爭金靴

很丑很溫柔的草根前鋒,要和姆巴佩爭金靴

足球周刊
2026-04-25 11:05:34
足協官宣中超第8輪裁判安排:上海主裁執法京津德比,4人內部停哨

足協官宣中超第8輪裁判安排:上海主裁執法京津德比,4人內部停哨

體壇鑒春秋
2026-04-25 11:15:59
外交部:希望芬方理性客觀地看待中國同其他國家正常發展關系

外交部:希望芬方理性客觀地看待中國同其他國家正常發展關系

環球網資訊
2026-04-24 15:48:11
馬筱梅:還有很多事情沒有說,怕會傷害很多人,網友:似曾相識

馬筱梅:還有很多事情沒有說,怕會傷害很多人,網友:似曾相識

街上的行人很刺眼
2026-04-14 14:04:10
別苦大仇深了!泰山多人可清洗 高準翼可續,三中衛5名小將夠用了

別苦大仇深了!泰山多人可清洗 高準翼可續,三中衛5名小將夠用了

刀鋒體育
2026-04-25 11:38:12
年輕人上班帶飯的“飯盒”,能有多邪修?我也是被驚艷到了

年輕人上班帶飯的“飯盒”,能有多邪修?我也是被驚艷到了

美家指南
2026-04-23 15:53:51
《乘風2026》二公反轉來得太狠:贏了比賽也要淘汰,陶昕然成了所有觀眾的意難平!

《乘風2026》二公反轉來得太狠:贏了比賽也要淘汰,陶昕然成了所有觀眾的意難平!

毒舌八卦
2026-04-25 01:48:26
不懂車的人都多可怕?網友:?這個媳婦怕是人家都看不上

不懂車的人都多可怕?網友:?這個媳婦怕是人家都看不上

另子維愛讀史
2026-03-21 19:01:06
馬筱梅或與婆家切割,成立公司,和玥箖劃界限,張蘭后悔了嗎

馬筱梅或與婆家切割,成立公司,和玥箖劃界限,張蘭后悔了嗎

揭秘那些精彩
2026-04-25 11:48:04
險勝!塔圖姆25+7立功,馬克西31+6布朗里程碑,湖人棄將6中5盡力

險勝!塔圖姆25+7立功,馬克西31+6布朗里程碑,湖人棄將6中5盡力

魚崖大話籃球
2026-04-25 09:55:07
36歲TVB男演員宣布離巢,早前突然被公司除名

36歲TVB男演員宣布離巢,早前突然被公司除名

TVB劇評社
2026-04-25 10:05:28
羅翔:如果一個人突然努力工作,業余時間開始學習,不再參加社交活動,那么,身邊的人可能不僅不會幫他,還會拉他下來,原因就一個!

羅翔:如果一個人突然努力工作,業余時間開始學習,不再參加社交活動,那么,身邊的人可能不僅不會幫他,還會拉他下來,原因就一個!

譚老師地理大課堂
2026-04-22 00:03:57
營收7000億,利潤才1個億:世界銅王的窟窿,比恒大的還深

營收7000億,利潤才1個億:世界銅王的窟窿,比恒大的還深

財經保探長
2026-04-12 15:20:05
菲律賓斷油了,工廠停工,吉普尼停運,電價翻倍。

菲律賓斷油了,工廠停工,吉普尼停運,電價翻倍。

天氣觀察站
2026-04-24 20:06:50
莫雷諾剛重返上海就進球!同時做出重要決定,直言申花就是他的家

莫雷諾剛重返上海就進球!同時做出重要決定,直言申花就是他的家

張麗說足球
2026-04-25 12:51:47
2026-04-25 13:15:00
賽格大道 incentive-icons
賽格大道
關注數字時代,提供靠譜分析
190文章數 274關注度
往期回顧 全部

科技要聞

Anthropic剛拿亞馬遜250億美元,又拿谷歌400億

頭條要聞

媒體:三航母準備圍逼伊朗 結果美國海軍后院先"炸"了

頭條要聞

媒體:三航母準備圍逼伊朗 結果美國海軍后院先"炸"了

體育要聞

火箭0-3觸發百分百出局定律:本季加時賽9戰8敗

娛樂要聞

鄧超最大的幸運,就是遇見孫儷

財經要聞

90%訂單消失,中東旺季沒了

汽車要聞

2026款樂道L90亮相北京車展 樂道L80正式官宣

態度原創

時尚
游戲
手機
數碼
藝術

朱珠到底為什么接這部劇?

育碧再出王炸!《AC黑旗》重制版登頂8大地區PS商店

手機要聞

華為Pura X Max和三星Galaxy Z Fold8 Wide折疊手機尺寸對比

數碼要聞

華為WATCH Buds 2開售 手表耳機二合一 3488元起

藝術要聞

廈門新地標奠基!美圖立方視覺藝術中心,OPEN設計

無障礙瀏覽 進入關懷版