出品｜虎嗅ESG組

作者｜陳玉立

頭圖｜視覺中國

本文是#ESG進步觀察#系列第169篇文章

本次觀察關鍵詞：供應鏈治理

近日，豆包與千問幾乎同時宣布下線智能體功能。

據公開報道，豆包智能體下線后，相關功能存在于獨立產品“貓箱”；而千問處理得更徹底，直接關閉相關功能且不提供遷移路徑。

兩家大廠不僅處置方式類似，時間點也高度一致——都卡在7月15日《人工智能擬人化互動服務管理暫行辦法》正式施行之前，辦法提到需對虛擬戀人、深度角色扮演、情感依附類AI設立強約束。

因此，大廠切掉的并非問答、辦公、搜索、代碼、工作流這類通用AI能力，真正被重新定價的是過去一兩年里快速膨脹的關系型智能體：用戶自建人設、角色扮演、虛擬戀人、情感陪伴、公開分發的智能體廣場。

一句話總結：智能體沒有整體退潮，退潮的是低門檻UGC、情緒依賴和灰色親密互動撐起來的那部分增長。

在新規之后，智能體賽道可能開始分流：任務型智能體繼續發展，關系型智能體進入強合規時代，帶情感陪伴功能的AI“情趣”硬件大概率被堵在門外。

大廠切割“關系型智能體”

在豆包與千問的動作中，值得觀察的地方在于“下線的究竟是什么”。

從平臺處理方式看，豆包并沒有放棄大模型主產品，也沒有放棄AI助手能力，反而選擇把高風險互動功能從主App中剝離，只在獨立產品中存續。這一動作的含義明確：主App要繼續承擔大眾效率工具、搜索入口、AI助手的角色，情感互動、角色扮演、用戶生成智能體這類風險更高的功能，則被放到“隔離區”。

千問的處理則是直接關閉，且不給遷移路徑，說明平臺對這塊業務的判斷更冷。如果一個非核心功能帶來的審核成本、監管壓力、輿論風險超過業務收益，關掉就是最干凈的選擇。

此次下架動作中兩家底層邏輯一致：關系型智能體在大廠主入口里的位置變了。過去它能帶來互動、時長和用戶參與；現在，它開始變成風險資產。

一個值得追問的議題是，為什么關停智能體的是豆包、千問？為什么WorkBuddy這類產品看起來沒有受到同樣沖擊？

答案大概率藏在產品屬性里。

WorkBuddy這類偏辦公、企業協作、工作流的智能體，處理的是任務：寫文檔、做紀要、調流程、跑數據。它的主要風險集中在數據權限、企業信息安全、輸出準確性和流程責任上；而關系型智能體處理的是人和擬人對象之間的關系，用戶完全可以創建一個“AI女友”“AI男友”“病嬌妹妹”“霸總伴侶”，加上平臺再提供廣場、推薦、和分享，這就從工具變成了擬人化內容平臺，風險也就隨之放大。

首先可能會帶來UGC失控。用戶可以低成本創建人設、設定語氣、關系、頭像、開場白，再公開發布。供給越豐富，審核壓力越大。此前上海累計下架1.4萬個違規智能體，就是一個很直接的信號：不加管制的開放智能體生態容易滋生擦邊內容、侵權人設、真人仿冒和低俗互動。

其次是關系依賴。普通問答助手回答完就結束，關系型智能體會持續記憶、主動關心、使用親密稱呼、模擬陪伴關系。用戶投入越深，產品留存越強，付費轉化也越容易。但在未成年人、心理脆弱人群、孤獨老人等場景里，這種黏性很容易越過安全邊界。

最后是平臺分發責任。一個用戶自己創建、自己使用的智能體，風險半徑有限；一旦進入智能體廣場、排行榜、搜索頁和推薦流，平臺就參與了放大。此時再用“用戶自建”解釋責任，就有些“無力”了。

這就是豆包、千問這類大流量入口最敏感的地方，它們做全民AI助手的品牌要求是干凈、可信、普適。但主App里如果混入大量虛擬戀人、曖昧陪伴、侵權角色、擦邊人設，一旦被截圖傳播，損害的會是整個產品的公共信任。

豆包和千問的下架動作本質上都是停止為非核心場景承擔額外風險。兩者都說明，大廠已經開始給關系型智能體重新算賬。

新規把邊界畫到了產品形態上

新規真正有殺傷力的地方，在于它沒有停留在“內容審核”層面，而是把監管邊界延伸到了服務定義和產品形態。

據《人工智能擬人化互動服務管理暫行辦法》第八條指出，生成、提供淫穢色情、親密性模擬交互內容或硬件功能，被明確禁止。這條規則直擊“擬人化關系商業化”的灰色地帶。

過去很多AI陪伴產品會用“情感”“陪護”“孤獨經濟”包裝自己。表面上它們提供傾訴、陪伴、安慰，實際上增長最強的是更曖昧的部分：不限于親密稱呼、戀愛角色、曖昧對話等。用戶越投入，停留越久；關系越強，付費越容易。

關系型智能體把AI從工具變成關系對象，把一次性的使用變成持續性的陪伴。會員、角色權益、高級模型、道具、訂閱，都可以接在這條關系鏈上。

問題也出在這里。

當產品開始利用孤獨、親密需求、情緒脆弱性提高留存和付費，監管關注點就會從“模型有沒有說錯話”轉向“平臺有沒有制造依賴”。如果再疊加未成年人、誘導消費、色情暗示、侵權人設、心理疏導越界，風險等級會迅速上升。

所以，新規劃出的邊界可以概括成一句話：情感陪護可以做，把陪護關系性化不行；擬人化交互可以做，用擬人化關系導向情欲消費不行。

從這一角度看，對AI硬件公司的壓力更大。

很多硬件從業者原本以為，擬人化互動監管主要影響聊天App、智能體平臺、虛擬陪伴軟件。但新規覆蓋的是“擬人化互動服務”，硬件只要搭載語音陪伴、主動關懷、仿人外觀，就可能進入監管視野。

尤其是AI陪護機器人、AI寵物、AI玩具、老人陪伴終端等。這些產品天然會強調陪伴感。為了提高用戶黏性，廠商會設計專屬稱呼、情緒識別、主動問候、記憶偏好、擬人語氣甚至肢體動作。這些設計本身并不必然違規，但邊界會變得非常敏感。

兒童場景涉及未成年人保護、防沉迷、價值觀引導、誘導消費等；老人場景涉及認知能力下降、健康建議誤導、詐騙風險等。只要廠商宣傳自己提供“陪護”“心理疏導”“情緒安撫”，就不能再把自己簡單定義成賣硬件。

更高風險的是“情感陪伴AI+性交互硬件”。

成人硬件行業過去有一個明顯痛點：一次性消費多，持續留存弱，用戶關系淺。AI給它提供了新的想象空間：讓硬件擁有人格、記憶和情緒回應，把工具變成“伴侶”，再通過訂閱、內容、互動腳本實現持續變現。

新規直接堵住了這條路。

一款產品如果同時具備AI情感陪伴、長期人格記憶、情欲互動算法、仿真性結構或模擬性行為機械結構，就很難再被解釋成普通成人用品或普通陪護設備。它的風險不再是模型偶爾越界，而是產品設計目標本身踩線。新規施行后，這類產品在安全評估、上市銷售、渠道合規上都會遭遇實質障礙。

軟件產品出問題，還能下線入口、調整模型、增加過濾、修改提示詞。硬件一旦開模、生產、鋪貨、上市，整改成本極高。產品形態如果已經帶著親密模擬結構，合規風險就被固化在設備上。

所以AI硬件從業者的壓力，來自一個更前置的問題：產品定義能不能經得起審查。

你到底是生活輔助設備，還是虛擬伴侶？是老人照護終端，還是借陪護之名包裝親密互動？是情緒支持工具，還是通過人格化關系推動情欲消費？

這些問題回答不清，產品很難走遠。

智能體開始分流

一個判斷是，智能體行業接下來不會整體降溫，但會明顯分層。

第一類，任務型智能體會繼續加速。

辦公助手、企業知識庫、代碼智能體、客服助手、會議紀要、數據分析助手、流程自動化Agent，這些產品解決的是明確任務。它們的價值可以用效率、成本、準確率、響應速度、流程節省來衡量。

這類產品的合規重點主要在數據安全、權限控制、企業審計、輸出責任。它們不會主動制造親密關系，也不依賴用戶情緒黏性變現。WorkBuddy這類產品能相對平穩，原因就在這里。

它有風險，但風險類型清楚；它要治理的是“組織如何安全使用AI”，不是“用戶是否對一個虛擬人格產生依賴”。

第二類，關系型智能體進入強合規時代。

AI戀人、虛擬男友/女友、情緒陪伴、角色扮演、用戶自建智能體、智能體廣場，并不會因為新規直接消失。陪伴、傾訴、孤獨緩解、養老輔助、心理支持，都是真實需求。AI在這些場景里也有價值。

但過去那套玩法走不通了。

開放UGC、擦邊人設、低成本角色庫、熱門榜分發、親密互動拉留存、會員訂閱收割情緒依賴，這條鏈路會越來越難做。平臺必須補上年齡分級、防沉迷、未成年人保護、內容審核、真人仿冒治理、角色版權審核、風險提示、誘導消費限制、情感依賴邊界管理等。

而這些東西也都會進入成本表。

過去一個小團隊接入模型API，做一套角色模板，加上廣場和分享機制，很快就能跑出一個陪伴產品。合規成本沒有顯性化時，增長故事很好講。一旦審核、投訴、版權、未成年人保護、心理風險干預都變成硬成本，很多產品的商業模型會被重新計算。

關系型智能體仍有機會，但會從“野放式增長”進入“強邊界運營”。留下來的，不會是最會撩撥情緒的團隊，而是能把場景、責任和風險講清楚的團隊。

第三類，“擬人化AI+情欲硬件”會被擠出主流市場。

這類產品的問題最尖銳。聊天產品偶發越界還能補救，硬件產品一旦把仿真結構、親密模擬、情欲算法和AI人格綁定起來，就已經完成了高風險產品閉環。

新規拆掉了很多灰色包裝：你不能一邊宣稱養老陪護、心理疏導、日常陪伴，一邊設計情欲互動算法和性交互硬件；不能一邊享受擬人化關系帶來的高黏性，一邊又把風險藏在“成人自愿使用”的敘事里。

這顯然會帶來一輪行業出清。短期內，平臺會收縮智能體業務，清理敏感角色，降低情感陪伴功能在主App里的權重；AI陪伴產品會強化分級、審核和提示；部分AI硬件項目會推遲上市，重新評估外觀、交互和功能邊界。

長期看，智能體行業會回到更清晰的價值框架里：能提高效率的繼續做，能提供照護的規范做，依賴擦邊和情欲變現的退出。

這也是豆包、千問這次動作給行業的最大信號。

它們并沒有否定AI應用，也沒有否定智能體方向。它們只是用產品調整告訴行業：關系型智能體不能再無差別地塞進主入口，平臺不能繼續把高風險互動當成低成本增長工具。

AI行業進入下一階段后，競爭不只看模型能力、入口流量和交互體驗，還要看合規能力、風控體系和社會信任。

過去，智能體被想象成一個“什么都能扮演、什么關系都能模擬”的萬能入口。新規之后，這一想象需要重寫。所謂“智能體告別野蠻生長”，說到底，是行業開始為產品邊界、用戶脆弱性和商業模式付賬。

本文來自虎嗅，原文鏈接：https://www.huxiu.com/article/4872727.html?f=wyxwapp