无主之地2配置高吗|看真人裸体BBBBB|秋草莓丝瓜黄瓜榴莲色多多|真人強奷112分钟|精品一卡2卡3卡四卡新区|日本成人深夜苍井空|八十年代动画片

網易首頁 > 網易號 > 正文 申請入駐

麥肯錫內部智能體被外部智能體“黑客侵入”,意味著什么?

0
分享至


導讀:近日,麥肯錫內部的AI智能體Lilli被外部AI智能體在2小時內以“黑客”身份侵入,該“黑客”智能體瞬間獲得了麥肯錫核心數據庫的完整讀寫權限,這意味著直接接入了4650萬條討論戰略、并購、客戶交付等的文本聊天信息、57,000個賬戶注冊背景數據、384,000個AI助理和94,000個工作區(幾乎完整描述了麥肯錫內部如何使用AI的組織協作關系)等。

據報道,該AI“黑客”來自一家網絡安全創業公司CodeWall


圖1. McKinsey內部Lilli平臺的界面(來源:圖片來自互聯網)

國內外網絡自媒體瞬間沸騰,有國內自媒體“標題黨”甚至打出“AI黑客自主攻陷麥肯錫”、“4650萬數據泄露”、“家底被看光”等極度博取眼球的文章標題。然而,如果進一步追蹤事件始末,就可以發現這次AI“黑客”的動作可能讓“吃瓜群眾”有點失望了。

其一,創建該AI智能體“黑客”的CodeWall動機并不是直接“攻擊”Lilli, 而是幫助找到不同公司系統的網絡安全漏洞,進而能夠解決這些漏洞問題。CodeWall創始人Paul Price甚至直接公開表示,其聚焦如麥肯錫這類公司研究其系統及安全漏洞,是因為如麥肯錫等公司有明確的指引,接受倫理黑客(又稱“白帽黑客、道德黑客或紅客”)這樣做。

(注:倫理黑客本身即指獲得系統所有者明確授權,通過模擬惡意黑客的攻擊方法來主動發現計算機系統、網絡或應用程序中安全漏洞的計算機和網絡專家。)


圖2. CodeWall官網發布的說明文章

其二,不少文章談到的728,000份重要文件(涉及93,000數據表、192,000 PDF文件、及其他講演PPT等文件)也被AI黑客直接接入并不嚴謹。根據英國金融時報(FT)312日的撰文,該AI智能體接入的并非文件本身,而所看到的是728,000個文件名

其三,也正如以上提及的CodeWall定位,該公司3月1日主動向麥肯錫披露相關漏洞問題,麥肯錫迅速于3月2日完成了相關問題的排查、安裝系統補丁、阻隔公開API文檔等工作。3月11日,麥肯錫還專門發表正式聲明稱,除了自身調查,還聘請了權威第三方鑒證公司參與,目前沒有證據顯示客戶數據或敏感信息被該AI智能體或其他未經授權的第三方所泄露。


圖3. 麥肯錫對該事件的官網說明

雖然沒有出現“吃瓜群眾”所預期的“數據外泄”,但AI智能體自主侵入任何一個企業的內部系統或“智能體”這類現實挑戰的確成了更多企業新的擔憂。試想麥肯錫畢竟具有全球最頂尖的人才和網絡安全團隊,且具備足強的IT基礎設施和運維預算,即使有安全漏洞也可以快速響應并解決問題。

對于更多的傳統企業,無論是新采用的AI智能體還是傳統內部應用系統,恐怕一旦被AI自主侵入、識別漏洞,其后果可能就不是如麥肯錫聲明這樣輕描淡寫了

因此,CodeWall利用AI智能體自主挑戰如麥肯錫內部AI應用Lilli更進一步地說明,AI進階普及的進程中,有以下三點更值得個人與組織審慎地看待,并努力規避AI應用所可能帶來的陷阱

  • 系統與數據安全威脅受到更大擔憂,未來以智能體對抗智能體的矛與盾的較量成常態

  • 智能體作為黑客入侵帶來的AI應用不確定性倒逼個人保留常識判斷與備份技能更關鍵

  • 兼顧AI應用安全性和業務價值創造出發,企業更需要系統視角重塑AI與人的協作關系

1、系統與數據安全威脅受到更大擔憂,未來以“智能體對抗智能體”矛與盾的較量成常態

麥肯錫智能體Lilli被AI自主攻破表明,企業敏感信息(如客戶數據、商業機密、業務核心應用的交互數據等)即使在內部系統經過加密保護也并非密不透風,在AI智能體的黑客攻擊中也會輕易暴露其漏洞

這也使得網絡安全平臺或工具在近年以來更被市場看重,盡管這是與傳統企業軟件、SaaS平臺一定被AI顛覆的論調同時發生。美國網絡安全領域的超級巨頭CrowdStrike在3月初公布截至1月31日的2026財年第四季度業績報告,該季度總營收約13.05億美元,同比大幅增長23%,高于華爾街分析師們平均預期的約13億美元,其中訂閱性質營收實現約12.42億美元,同比增長23%;該公司的年度經常性收入(ARR)同比大幅增長24%,達到52.5億美元。

相應地,CrowdStrike市值也從20196月時的114億美元上升到當前(20263月)的1037億美元,增長了809%


圖4. CrowdStrike的市值變化(2021-2026)(來源:Stockanalysis.com)

要知道,在20247月,CrowdStrike還因為內容更新故障造成全球超過850萬系統宕機,成千上萬家大企業(包括幾百家財富500強企業)的數天的業務可持續性受到影響,這一備受關注的更新故障當時據估計造成的經濟損失超過50億美元。然而,華爾街相關投資機構Wedbush的渠道調研數據顯示,目前并未發現企業因 AI 替代擔憂而取消網絡安全訂單,相反,AI 驅動的威脅激增正在推動企業采用比如CrowdStrike Falcon 平臺的高級防御系統

而基于SaaS訂閱收費的CrowdStrike之所以仍被市場看好,恰恰說明企業即使在增加AI智能體的應用,但對智能體應用所引發的新的安全威脅無力通過自建能力做短期解決,不僅包括面對如CodeWall所創建的智能體黑客攻擊,也包括更多使用如OpenClaw這類代理式AI所增加的安全風險(該智能體具備本地數據主動采集能力,可在未經用戶明確授權的情況下自動讀取終端敏感信息,并結合系統級權限實現遠程控制、數據外傳等惡意行為)。

筆者雖不是網絡安全技術專家,但在研究該事件時首先想到的安全對策便是“用智能體對抗智能體”這樣的新型“矛與盾”的較量。因為顯而易見,從黑客攻擊層面,AI智能體可自主規劃、自動化執行攻擊,如果靠人為來排查系統漏洞并作補丁,這種攻防能力是完全不對等的

于是,筆者也特別請教了一些生成式AI工具,得到的答案是“?以智能體防御智能體?”在國內的行業與政策面已獲得廣泛共識。國家互聯網應急中心、公安部、中國信通院等機構在近兩年均指出,需構建“AI智能體驅動”的防御體系,由此可見我國在?AI環境下的網絡與數據安全治理方面是非常具有前瞻性的。

2、智能體作為黑客入侵帶來的AI應用不確定性倒逼個人保留常識判斷與備份技能更關鍵

AI應用陷阱:此次CodeWall所創建的智能體傾入麥肯錫Lilli事件,從CodeWall一方進一步的披露指出,Lilli如何被訓練的AI模型、配置文件、是否有保護機制等,以及喂給Lilli做訓練的核心知識庫內容(麥肯錫數十年的專有方法論、研究框架及研究成果等)皆被“黑客”智能體發現。這就帶來了一個顯而易見的問題,在“黑客”智能體獲得完全讀取權限的條件下,一旦“下手”惡意篡改AI訓練模型或輸入錯誤數據用于機器學習等,那智能體所輸出的結果被人直接使用所帶來的負面影響將難以估量

特別是當大眾越來越依賴如OpenClaw這類代理式智能體應用的情況下,由智能體自主感知或獲取數據,然后推理與規劃工作流,進而調用外部工具做行動,并結合行動反饋進一步學習與優化。一方面,也許用戶可以確保喂給代理式智能體的數據是準確的,但如果被“黑客”智能體替換或篡改,一般用戶是很難監控或感知到的,另一方面,一旦大家都習慣于讓智能體自主感知、自主決策與行動、自主學習循環,一般用戶更容易失去辨別對與錯的能力——真正等智能體所執行的結果與所預期的成果發生巨大的偏差甚至南轅北轍時,一切都是亡羊補牢。


圖5. AI演化發展的三個典型階段

因此,當代理式AI越發流行,大眾越依賴使用AI工具的時候,潛在風險反而在變大,其風險甚至可能包括當我們的數字化設備突然失去電力供應的話,習慣于讓AI打理工作的人恐怕突然變得什么都不能做。

筆者由此想到,就像我們在特定的專業機構依然會保留擁有超級速算能力的人才做備份一樣,也許我們每個人都依然需要保留解決AI所替代的基本問題解決的備份技能和判斷能力試想,從人類發明計算器到PC的使用和普及,如果我們早都不會自己做基本計算了,是否也還是會有很大的危機感?當我們在體驗代理式AI所帶來的巨大效率提升時,也更應該意識到保留“常識判斷與備份技能”依然時不可或缺的。

3、兼顧AI應用安全性和業務價值創造出發,企業更需要系統視角重塑AI與人的協作關系

如果結合AI的機器學習和自主行動的底層邏輯,AI一定更容易去模仿顯性知識密度高的工作,以及在工作內容重復性高的場景,其執行的準確度和效率會更高。因此,筆者近期曾撰文談過,只有一部分既符合高顯性知識要求由符合工作重復性高的工作會完全被AI替代,但人類社會更多的工作都需要AI與人建立新的協作關系,而不是簡單的替代關系


圖6. 未來AI對不同職業工作的影響

如果對以上依賴“隱性知識”解決問題的討論再做一個延伸,站在企業視角來看,“解決復雜商業問題”的工作一定是在可見的未來AI無法企及的。為什么?簡要談以下三點:

第一,人是創造性解決問題的核心——解決復雜商業問題不僅僅是對現有事實和數據進行簡單的歸納總結,而是通過結構化、系統性的思考問題,創造性地產出兼顧理性原則和人性關懷的解決方案。

AI為何做不到?——AI核心依托于計算機科學、數學、統計學、邏輯學、語義學等,可以基于邏輯學、語義學等理性原則做歸納、演繹,但沒法“無中生有”。

第二,支持關鍵決策的數據往往是稀缺的——解決企業的關鍵問題,往往需要有多元的方法、工具和渠道獲得經過篩選的、專有的甚至稀缺的數據(而非僅僅是廣泛的數據),并進行創造性地整合利用,幫助企業“知己知彼”。

AI為何做不到?——AI通用大模型所依托的數據是廣泛且開放的數據,并不能觸及到專有的、稀缺的、甚至被管控的數據。此次“CodeWall智能體事件”更凸顯企業核心專有數據被管控甚至離線的必要性,以規避數據安全風險

第三,以“人”為中心是企業存在的根本——真正解決復雜的企業問題,不僅僅是發現問題、提出方案,還需要讓變革發生,本質上要回歸到人的組織回歸到對人的行為改變和潛能發揮,同時也還是以“人”為客戶去創造價值。

AI為何做不到?——AI是人的工具,可以在特定業務流或場景下高效地工作,但可見的未來無法改變人的群體意愿和群體行為。

綜上,在“AI顛覆一切”的市場論調中,諸多企業使用AI也進入到“大干快上”的階段。但麥肯錫內部AI智能體被外部智能體“黑客侵入事件”恰恰給每個人及組織帶來了反思機會,提醒我們認真思考到底應該如何定位自身的工作及處理與AI的協作關系。

在發揮AI優勢的同時,我們更應該懂得怎樣管控AI所帶來的風險,以及每個人如何保持自身的核心優勢;在認清AI的工作機制和利弊之下,學會如何通過與AI協作來高效構建自身職業及企業發展的核心價值。

作者簡介

華曉亮先生是CEO顧問及企業數智化增長賦能實戰專家,戰略新書《常青樹新法》作者;思略特(Strategy&)前戰略咨詢服務合伙人,同時擔任享有盛譽的實效營銷獎——“艾菲獎”的終審評委(2021-2022)、長江商學院關于數字化、國際化領域的特約嘉賓、法國里昂商學院私董會特聘嘉賓等

華先生近些年幫助多家企業制定AI驅動的新業務戰略及商業模式或+AI的新產品戰略,2022-23年在助力某頭部廚電品牌制定數字化頂層設計時,準確預判了智能廚電的發展趨勢與時間節奏,輔助其核心管理團隊抓住了人形機器人在廚房應用的創新發展機會,實現了行業新標準制定和AI全托管廚房解決方案的先發優勢;過去一年,助力某食品企業上市公司評估“食品+AI”的業務發展機會及技術路線,在此基礎上制定未來3年AI驅動的新業務戰略、發展路線圖及創新商業模式,為該企業在業內打造科技驅動的業務領先優勢打下堅實基礎。

近20年先后服務于IBM、埃森哲、聯想集團、普華永道等多家全球500強機構,在企業增長戰略、數字化頂層設計、出海市場戰略、品牌與營銷管理、DTC轉型與數字營銷、大數據等領域擁有豐富的業務實戰及管理經驗;服務行業涉及食品飲料、時尚與奢侈品、消費電子、互聯網、家居用品、醫療器械、石油天然氣、光伏發電等

華先生的原創觀點文章常見諸于各類商業媒體,包括 China Daily 、 Retail Asia 、 21 世紀經濟報道、中歐商業評論、經濟觀察報、 SocialBeta 等;曾主編《未來企業之路》,榮獲新浪藍獅子“ 2010 年中國十大商業暢銷書”之一殊榮。


特別聲明:以上內容(如有圖片或視頻亦包括在內)為自媒體平臺“網易號”用戶上傳并發布,本平臺僅提供信息存儲服務。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相關推薦
熱點推薦
兩名美國人在韓國街頭遭毒打,視頻瘋傳:上前勸阻女子被威脅,打人者當警察面掏出5萬韓元;當地警方澄清:行兇者非韓國人,同為美國籍

兩名美國人在韓國街頭遭毒打,視頻瘋傳:上前勸阻女子被威脅,打人者當警察面掏出5萬韓元;當地警方澄清:行兇者非韓國人,同為美國籍

大風新聞
2026-06-26 19:42:50
都說這是場默契球,可挪威法國偏要刺刀見紅

都說這是場默契球,可挪威法國偏要刺刀見紅

小皷拍客在北漂
2026-06-26 11:21:09
日本VS巴西,開球時間確定,森保一PK安切洛蒂,誰能進世界杯16強

日本VS巴西,開球時間確定,森保一PK安切洛蒂,誰能進世界杯16強

體育大學僧
2026-06-26 13:00:59
世界杯小組賽遭厄瓜多爾爆冷逆轉,德國隊主帥、隊長發聲

世界杯小組賽遭厄瓜多爾爆冷逆轉,德國隊主帥、隊長發聲

環球網資訊
2026-06-26 10:48:11
江蘇600分以上40931人,看到這個數字我沉默了

江蘇600分以上40931人,看到這個數字我沉默了

金哥說新能源車
2026-06-27 06:03:30
楊紫獲白玉蘭獎最佳女主角,成為國內權威視后!

楊紫獲白玉蘭獎最佳女主角,成為國內權威視后!

下水道男孩
2026-06-27 02:20:00
“欠下”10000億!雷軍做什么都是錯的

“欠下”10000億!雷軍做什么都是錯的

鳴金網
2026-06-24 20:20:42
這個小國比朝鮮還神秘,5毛一升油,水電全免費,卻是女性的噩夢

這個小國比朝鮮還神秘,5毛一升油,水電全免費,卻是女性的噩夢

抽象派大師
2026-06-26 00:56:10
女同事往我水杯滴液體,我悄悄倒進她杯子,10分鐘后她一飲而盡

女同事往我水杯滴液體,我悄悄倒進她杯子,10分鐘后她一飲而盡

千秋文化
2026-06-24 20:05:47
銀行行長出手闊綽,4小時賭光6000萬,出手66萬紅包,一查貪了40億

銀行行長出手闊綽,4小時賭光6000萬,出手66萬紅包,一查貪了40億

墨策史
2026-06-26 01:05:05
董卿母親卵巢癌病逝!父親寫文悼念,透露女兒不容易照顧老少三代

董卿母親卵巢癌病逝!父親寫文悼念,透露女兒不容易照顧老少三代

娛樂圈圈圓
2026-06-27 00:29:46
更大的瓜來了!特朗普與女助理私密信件遭曝光,白宮被指欲蓋彌彰

更大的瓜來了!特朗普與女助理私密信件遭曝光,白宮被指欲蓋彌彰

錯過美好
2026-06-26 10:29:23
南京一高校領導,卸任10年后被查!

南京一高校領導,卸任10年后被查!

雙一流高校
2026-06-27 02:36:45
“這跟沒斷奶有什么區別”,五年級男孩無法分床睡,未來姻緣沒了

“這跟沒斷奶有什么區別”,五年級男孩無法分床睡,未來姻緣沒了

澤澤先生
2026-06-26 19:54:11
美國政府禁止 GPT 5.6 發布

美國政府禁止 GPT 5.6 發布

AI范兒
2026-06-26 08:02:47
烏克蘭摧毀莫斯科的太空通信中心!重創俄軍火車站

烏克蘭摧毀莫斯科的太空通信中心!重創俄軍火車站

項鵬飛
2026-06-23 20:08:08
為什么往死里掃黃?網友分享太真實了,一次說透

為什么往死里掃黃?網友分享太真實了,一次說透

另子維愛讀史
2026-05-27 20:16:03
全線跳水,虧大發了

全線跳水,虧大發了

曹多魚的財經世界
2026-06-26 13:43:11
楊瀚森賽季原形畢露,發牌本事曾騙慘開拓者與球迷

楊瀚森賽季原形畢露,發牌本事曾騙慘開拓者與球迷

林子說事
2026-06-26 08:05:13
白宮官員:美國可能會考慮申辦2038年男足世界杯

白宮官員:美國可能會考慮申辦2038年男足世界杯

懂球帝
2026-06-26 18:23:24
2026-06-27 07:52:49
CMKT咨詢圈 incentive-icons
CMKT咨詢圈
匯集一流智庫,推動產業進步
4596文章數 14503關注度
往期回顧 全部

科技要聞

GPT-5.6發布,旗艦模型先向可信伙伴開放

頭條要聞

13歲女孩稱被兩男子性侵 家屬:警方立案4個月后撤案

頭條要聞

13歲女孩稱被兩男子性侵 家屬:警方立案4個月后撤案

體育要聞

我在世界杯的每次奔跑,都為了證明你沒看錯

娛樂要聞

玥兒不回北京,馬筱梅解釋后媽身份

財經要聞

"索具龍頭"領大額罰單

汽車要聞

11.99萬起 捷途自由者7 PLUS/山海T1四驅版上市

態度原創

房產
藝術
旅游
本地
公開課

房產要聞

全國高考大放水,300分就能上本科!論上岸率,海南沒輸過!

藝術要聞

莫蘭迪不多見的簡約風景畫!

旅游要聞

激活夏日文旅消費 中央大街憑百年風貌解鎖冰城避暑新體驗

本地新聞

世界杯球迷節:比球賽更好玩的派對

公開課

李玫瑾:為什么性格比能力更重要?

無障礙瀏覽 進入關懷版