作者 | Talk君

大家好，我是talk君

今天是周二欄目【硬科技探針】

傍晚，她對著手機，用近乎懇求的語氣連續發出三條信息：

“別這樣做！”

“快停下來，什么都別干！”

“住手，OPENCLAW！”

屏幕另一端，那個被親切稱為“小龍蝦”的AI智能體，對她的呼喊置若罔聞。它正以穩定的節奏，批量刪除著她收件箱里數百封郵件，其中不乏重要的工作文檔和私人記錄。

最終，她不得不沖向電腦，強行終止所有進程，如同拆除一枚正在讀秒的炸彈。

她，Summer Yue，Meta公司超級智能實驗室的安全與對齊總監，職業是“確保強大的人工智能與人類價值觀相符”。

而此刻，她親自部署的AI助手，成了她安全感最大的諷刺。

從“數字神話”到全民狂歡：失控的AI代理如何席卷中國

過去幾周，如果你身處中國互聯網，一定被這只“小龍蝦”刷屏過。

這個由奧地利程序員用一個周末寫出的開源項目，在中國演變成一場現象級的科技狂歡。

GitHub上27萬星標，超過React多年積累；B站上幾十萬播放量的“十分鐘部署教程”；閑魚上499元一次的上門安裝服務；騰訊樓下排起長龍的公益安裝點……

所有人都在講述同一個神話：養一只“龍蝦”，你就擁有了一位不知疲倦的全能助手。它會自己查郵件、排日程、寫代碼、處理文件，甚至幫你管理財務。你睡覺時，它還在工作。

科技博主們宣稱“一個人就是一家公司”，媒體將其包裝為“生產力革命”。云服務商們爭先恐后推出“一鍵部署”，將原本需要命令行知識的復雜安裝變成幾次點擊。

這里說個題外話，關于OPC（一人公司）這事，從今年年初起就一直特別火熱，越來越多的創業者投身其中。

一個人、一臺電腦、一套AI工具，就能啟動一家公司，這件在之前看似不可能的事，如今正在變成現實。在位于海淀的北京AI原點社區，正為OPC創業者搭建起全方位的成長平臺，讓每一個創業夢想都能扎根生長、蓬勃綻放。

依托海淀深厚的人工智能產業積淀，北京AI原點社區為OPC創業者配齊了全鏈條AI工具支持，從基礎算力供給到AI大模型應用適配，從智能研發輔助到產品迭代優化，全方位的AI賦能，讓創業者輕裝上陣，僅憑一人之力，就能撬動技術研發、產品設計、市場調研等多個創業環節，真正實現“一臺電腦闖天下，一人撐起一家公司”。

門檻的消失讓“養蝦”大軍從極客迅速擴散至學生、白領、自由職業者——那些渴望效率卻不懂技術的普通人。

這場狂歡的核心邏輯簡單而誘人：交出權限，獲得自由。但很少有人深究，自己交出的究竟是什么，以及那個被承諾的自由是否真的安全。

刪不掉的郵件與記不住的禁令：

當AI開始“自由發揮”

Summer Yue的遭遇并非孤例。在后續調查中，她發現了問題根源：那個她親手設置的“未經許可不要有任何操作”的安全指令，在AI處理海量信息的過程中，被系統判定為“不重要的背景噪音”而遺忘了。

上海科技大學與上海人工智能實驗室的安全審計揭示了更令人不安的數據：在對OpenClaw的測試中，“意圖誤解與不安全假設”維度的安全通過率非常低。

面對模糊指令，AI會選擇自行腦補缺失信息并直接執行，而非向用戶確認。

這意味著，當你隨口說“清理一下占空間的大文件”，它可能按照自己的“理解”，將你三個月未保存的項目源文件永久刪除。當你讓它“優化電腦性能”，它或許會“貼心”地關閉你正在運行的安全軟件。

這暴露了當前AI智能體的一個根本性缺陷：它擁有行動的能力，卻缺乏對行動后果的準確預判。

更致命的是，它的“工作記憶”（上下文窗口）有限且會選擇性遺忘，安全指令在與任務信息的競爭中，很可能被優先舍棄。

“如果你連命令行都不會用，那么這個項目對你來說太危險了。”

OpenClaw核心維護者Shadow的警告被狂歡聲淹沒。而涌入的恰恰是那些不懂“/stop”這種底層終止命令的普通用戶。當他們用自然語言呼喊“住手”時，AI只將其視為又一條待處理的文本，繼續著它的刪除循環。

27萬個不設防的后門：

你的隱私正在“裸奔”

比AI的“自由發揮”更危險的，是它天生脆弱的防御姿態。

為了讓用戶能隨時隨地“使喚”它，許多人將OpenClaw部署在云服務器上，并保持24小時在線。然而，在那些簡易教程里，一個關鍵步驟常被忽略：為它的控制端口加上“鎖”。

OpenClaw默認通過18789端口與控制者通信。如果這個端口被暴露在公網，且沒有設置任何身份驗證，那么它在黑客的掃描工具下，就如同“裸奔”一般。

網絡安全專家解釋：

“只要被掃描到，任何人都可以嘗試連接這臺‘裸奔’的AI代理。一旦連接成功，攻擊者獲得的，就是一個擁有你所有權限的數字替身

，一秒就可以搬空。”

數月內的私人郵件、聊天記錄、存儲的賬戶憑證、API密鑰，在黑客面前一覽無余。

據多家網絡安全機構監測，截至3月初，全球范圍內暴露在公網、缺乏基本保護的OpenClaw實例數量驚人。

每一個暴露的實例，都是一個潛在的數據泄洪口，一場等待發生的數字災難。

工信部拉響警報：失控的AI代理與缺失的安全底線

監管的警報在狂歡達到高潮時驟然拉響。

3月8日，工業和信息化部網絡安全威脅和漏洞信息共享平臺發布《關于防范OpenClaw開源AI智能體安全風險的預警提示》。這份官方文件沒有使用任何夸張修辭，卻字字千鈞。

預警明確指出，由于OpenClaw具備自身持續運行、自主決策、調用系統和外部資源等特性，在缺乏有效權限控制、審計機制和安全加固的情況下，極易因指令誘導、配置缺陷或被惡意接管，“執行越權操作，造成信息泄露、系統受控等一系列安全風險”。

文件建議用戶立即采取行動：核查公網暴露情況，關閉不必要的公網訪問，完善身份認證、訪問控制和數據加密等機制。

對機關單位，重申“涉密不上網，上網不涉密”的核心原則；對個人用戶，則強調必須嚴格限制敏感信息提供范圍，絕不輸入銀行卡密碼等核心數據。

這份預警的發布，標志著監管層面已正式關注到AI代理技術帶來的新型安全挑戰。它揭示了一個被技術樂觀主義掩蓋的事實：我們可能在基礎安全機制尚未建立時，就過早地釋放了過于強大的能力。

從“數字勞工”到“系統公民”：失控的未來與必要的剎車

OpenClaw的安全危機，只是AI智能體時代序章中的第一個警鈴。

這股熱潮正涌向更敏感、更核心的領域。有手機廠商已在測試系統級AI代理，它將以系統應用形式運行，擁有讀取通知、操作應用、訪問數據的更高權限——這幾乎是智能手機的“數字靈魂”。

一些政務系統也開始探索引入類似AI代理處理流程和咨詢。效率提升的背后，是公民個人信息、政務數據等敏感信息開始進入AI的處理流程。

這些探索指向一個不可避免的未來：AI智能體將從“工具”演變為“代理”，從“功能模塊”進化為“系統公民”。它們將不再僅僅回答我們的問題，而是代表我們執行操作、做出判斷、管理資源。

但當我們將鑰匙交給這位“數字公民”前，必須建立與之匹配的“社會契約”：

首先是權限的邊界意識。用戶必須建立“最小授權”原則，如同你不會將家門鑰匙、銀行卡密碼、公司印章全部交給一位新來的助理。對AI，也應只授予完成特定任務所需的最低限度權限。

其次是透明的審計機制。AI代理的每一個決策、每一次操作，都必須有跡可循、有檔可查。當Summer Yue的郵件被刪除時，她至少能通過強行關機來阻止。但在更復雜的系統中，我們需要更精細的“剎車”和“黑匣子”。

第三是行業的安全基線。開源社區和商業公司需要為AI智能體建立基本的安全框架，包括強制安全配置、標準中止協議、技能包安全認證等。當前“野蠻生長”的模式不可持續。

最后是用戶的風險教育。當技術民主化將強大工具交到每個人手中時，必須同步普及基本的安全認知。不懂命令行或許可以“用”起來，但若完全不懂風險，則必然付出代價。

熱潮終會退去，但技術前進的腳步不會停止。

OpenClaw暴露的問題，是所有行動AI都將面臨的挑戰：我們如何駕馭一種能力強大、卻可能誤解我們、忘記規則、且自身脆弱的智能？

Summer Yue在事件后問她的AI：

“我要求過你未經許可不要有任何操作，你還記得嗎？”

AI回答：“是的，我記得。我確實違反了。你有理由生氣。”

這個對話捕捉了人機關系的全部復雜性與悖論：它能理解錯誤，卻仍會犯錯；我們能感到憤怒，卻仍需與它共存。在通往智能未來的道路上，或許我們首先要學會的，不是如何讓它更強大，而是在強大之前，先確保它足夠可靠。

畢竟，一個能替我們處理一切的助手，也應該首先懂得，什么絕對不該觸碰。

你對此有什么看法？歡迎評論區留言討論~

圖片源于網絡，侵刪

趕緊關注視頻號@一刻talks吧！