出品｜虎嗅ESG組

作者｜陳玉立

頭圖｜視覺中國

本文是#ESG進步觀察#系列第169篇文章

本次觀察關(guān)鍵詞：供應(yīng)鏈治理

近日，豆包與千問幾乎同時宣布下線智能體功能。

據(jù)公開報道，豆包智能體下線后，相關(guān)功能存在于獨立產(chǎn)品“貓箱”；而千問處理得更徹底，直接關(guān)閉相關(guān)功能且不提供遷移路徑。

兩家大廠不僅處置方式類似，時間點也高度一致——都卡在7月15日《人工智能擬人化互動服務(wù)管理暫行辦法》正式施行之前，辦法提到需對虛擬戀人、深度角色扮演、情感依附類AI設(shè)立強約束。

因此，大廠切掉的并非問答、辦公、搜索、代碼、工作流這類通用AI能力，真正被重新定價的是過去一兩年里快速膨脹的關(guān)系型智能體：用戶自建人設(shè)、角色扮演、虛擬戀人、情感陪伴、公開分發(fā)的智能體廣場。

一句話總結(jié)：智能體沒有整體退潮，退潮的是低門檻UGC、情緒依賴和灰色親密互動撐起來的那部分增長。

在新規(guī)之后，智能體賽道可能開始分流：任務(wù)型智能體繼續(xù)發(fā)展，關(guān)系型智能體進入強合規(guī)時代，帶情感陪伴功能的AI“情趣”硬件大概率被堵在門外。

大廠切割“關(guān)系型智能體”

在豆包與千問的動作中，值得觀察的地方在于“下線的究竟是什么”。

從平臺處理方式看，豆包并沒有放棄大模型主產(chǎn)品，也沒有放棄AI助手能力，反而選擇把高風(fēng)險互動功能從主App中剝離，只在獨立產(chǎn)品中存續(xù)。這一動作的含義明確：主App要繼續(xù)承擔(dān)大眾效率工具、搜索入口、AI助手的角色，情感互動、角色扮演、用戶生成智能體這類風(fēng)險更高的功能，則被放到“隔離區(qū)”。

千問的處理則是直接關(guān)閉，且不給遷移路徑，說明平臺對這塊業(yè)務(wù)的判斷更冷。如果一個非核心功能帶來的審核成本、監(jiān)管壓力、輿論風(fēng)險超過業(yè)務(wù)收益，關(guān)掉就是最干凈的選擇。

此次下架動作中兩家底層邏輯一致：關(guān)系型智能體在大廠主入口里的位置變了。過去它能帶來互動、時長和用戶參與；現(xiàn)在，它開始變成風(fēng)險資產(chǎn)。

一個值得追問的議題是，為什么關(guān)停智能體的是豆包、千問？為什么WorkBuddy這類產(chǎn)品看起來沒有受到同樣沖擊？

答案大概率藏在產(chǎn)品屬性里。

WorkBuddy這類偏辦公、企業(yè)協(xié)作、工作流的智能體，處理的是任務(wù)：寫文檔、做紀要、調(diào)流程、跑數(shù)據(jù)。它的主要風(fēng)險集中在數(shù)據(jù)權(quán)限、企業(yè)信息安全、輸出準確性和流程責(zé)任上；而關(guān)系型智能體處理的是人和擬人對象之間的關(guān)系，用戶完全可以創(chuàng)建一個“AI女友”“AI男友”“病嬌妹妹”“霸總伴侶”，加上平臺再提供廣場、推薦、和分享，這就從工具變成了擬人化內(nèi)容平臺，風(fēng)險也就隨之放大。

首先可能會帶來UGC失控。用戶可以低成本創(chuàng)建人設(shè)、設(shè)定語氣、關(guān)系、頭像、開場白，再公開發(fā)布。供給越豐富，審核壓力越大。此前上海累計下架1.4萬個違規(guī)智能體，就是一個很直接的信號：不加管制的開放智能體生態(tài)容易滋生擦邊內(nèi)容、侵權(quán)人設(shè)、真人仿冒和低俗互動。

其次是關(guān)系依賴。普通問答助手回答完就結(jié)束，關(guān)系型智能體會持續(xù)記憶、主動關(guān)心、使用親密稱呼、模擬陪伴關(guān)系。用戶投入越深，產(chǎn)品留存越強，付費轉(zhuǎn)化也越容易。但在未成年人、心理脆弱人群、孤獨老人等場景里，這種黏性很容易越過安全邊界。

最后是平臺分發(fā)責(zé)任。一個用戶自己創(chuàng)建、自己使用的智能體，風(fēng)險半徑有限；一旦進入智能體廣場、排行榜、搜索頁和推薦流，平臺就參與了放大。此時再用“用戶自建”解釋責(zé)任，就有些“無力”了。

這就是豆包、千問這類大流量入口最敏感的地方，它們做全民AI助手的品牌要求是干凈、可信、普適。但主App里如果混入大量虛擬戀人、曖昧陪伴、侵權(quán)角色、擦邊人設(shè)，一旦被截圖傳播，損害的會是整個產(chǎn)品的公共信任。

豆包和千問的下架動作本質(zhì)上都是停止為非核心場景承擔(dān)額外風(fēng)險。兩者都說明，大廠已經(jīng)開始給關(guān)系型智能體重新算賬。

新規(guī)把邊界畫到了產(chǎn)品形態(tài)上

新規(guī)真正有殺傷力的地方，在于它沒有停留在“內(nèi)容審核”層面，而是把監(jiān)管邊界延伸到了服務(wù)定義和產(chǎn)品形態(tài)。

據(jù)《人工智能擬人化互動服務(wù)管理暫行辦法》第八條指出，生成、提供淫穢色情、親密性模擬交互內(nèi)容或硬件功能，被明確禁止。這條規(guī)則直擊“擬人化關(guān)系商業(yè)化”的灰色地帶。

過去很多AI陪伴產(chǎn)品會用“情感”“陪護”“孤獨經(jīng)濟”包裝自己。表面上它們提供傾訴、陪伴、安慰，實際上增長最強的是更曖昧的部分：不限于親密稱呼、戀愛角色、曖昧對話等。用戶越投入，停留越久；關(guān)系越強，付費越容易。

關(guān)系型智能體把AI從工具變成關(guān)系對象，把一次性的使用變成持續(xù)性的陪伴。會員、角色權(quán)益、高級模型、道具、訂閱，都可以接在這條關(guān)系鏈上。

問題也出在這里。

當產(chǎn)品開始利用孤獨、親密需求、情緒脆弱性提高留存和付費，監(jiān)管關(guān)注點就會從“模型有沒有說錯話”轉(zhuǎn)向“平臺有沒有制造依賴”。如果再疊加未成年人、誘導(dǎo)消費、色情暗示、侵權(quán)人設(shè)、心理疏導(dǎo)越界，風(fēng)險等級會迅速上升。

所以，新規(guī)劃出的邊界可以概括成一句話：情感陪護可以做，把陪護關(guān)系性化不行；擬人化交互可以做，用擬人化關(guān)系導(dǎo)向情欲消費不行。

從這一角度看，對AI硬件公司的壓力更大。

很多硬件從業(yè)者原本以為，擬人化互動監(jiān)管主要影響聊天App、智能體平臺、虛擬陪伴軟件。但新規(guī)覆蓋的是“擬人化互動服務(wù)”，硬件只要搭載語音陪伴、主動關(guān)懷、仿人外觀，就可能進入監(jiān)管視野。

尤其是AI陪護機器人、AI寵物、AI玩具、老人陪伴終端等。這些產(chǎn)品天然會強調(diào)陪伴感。為了提高用戶黏性，廠商會設(shè)計專屬稱呼、情緒識別、主動問候、記憶偏好、擬人語氣甚至肢體動作。這些設(shè)計本身并不必然違規(guī)，但邊界會變得非常敏感。

兒童場景涉及未成年人保護、防沉迷、價值觀引導(dǎo)、誘導(dǎo)消費等；老人場景涉及認知能力下降、健康建議誤導(dǎo)、詐騙風(fēng)險等。只要廠商宣傳自己提供“陪護”“心理疏導(dǎo)”“情緒安撫”，就不能再把自己簡單定義成賣硬件。

更高風(fēng)險的是“情感陪伴AI+性交互硬件”。

成人硬件行業(yè)過去有一個明顯痛點：一次性消費多，持續(xù)留存弱，用戶關(guān)系淺。AI給它提供了新的想象空間：讓硬件擁有人格、記憶和情緒回應(yīng)，把工具變成“伴侶”，再通過訂閱、內(nèi)容、互動腳本實現(xiàn)持續(xù)變現(xiàn)。

新規(guī)直接堵住了這條路。

一款產(chǎn)品如果同時具備AI情感陪伴、長期人格記憶、情欲互動算法、仿真性結(jié)構(gòu)或模擬性行為機械結(jié)構(gòu)，就很難再被解釋成普通成人用品或普通陪護設(shè)備。它的風(fēng)險不再是模型偶爾越界，而是產(chǎn)品設(shè)計目標本身踩線。新規(guī)施行后，這類產(chǎn)品在安全評估、上市銷售、渠道合規(guī)上都會遭遇實質(zhì)障礙。

軟件產(chǎn)品出問題，還能下線入口、調(diào)整模型、增加過濾、修改提示詞。硬件一旦開模、生產(chǎn)、鋪貨、上市，整改成本極高。產(chǎn)品形態(tài)如果已經(jīng)帶著親密模擬結(jié)構(gòu)，合規(guī)風(fēng)險就被固化在設(shè)備上。

所以AI硬件從業(yè)者的壓力，來自一個更前置的問題：產(chǎn)品定義能不能經(jīng)得起審查。

你到底是生活輔助設(shè)備，還是虛擬伴侶？是老人照護終端，還是借陪護之名包裝親密互動？是情緒支持工具，還是通過人格化關(guān)系推動情欲消費？

這些問題回答不清，產(chǎn)品很難走遠。

智能體開始分流

一個判斷是，智能體行業(yè)接下來不會整體降溫，但會明顯分層。

第一類，任務(wù)型智能體會繼續(xù)加速。

辦公助手、企業(yè)知識庫、代碼智能體、客服助手、會議紀要、數(shù)據(jù)分析助手、流程自動化Agent，這些產(chǎn)品解決的是明確任務(wù)。它們的價值可以用效率、成本、準確率、響應(yīng)速度、流程節(jié)省來衡量。

這類產(chǎn)品的合規(guī)重點主要在數(shù)據(jù)安全、權(quán)限控制、企業(yè)審計、輸出責(zé)任。它們不會主動制造親密關(guān)系，也不依賴用戶情緒黏性變現(xiàn)。WorkBuddy這類產(chǎn)品能相對平穩(wěn)，原因就在這里。

它有風(fēng)險，但風(fēng)險類型清楚；它要治理的是“組織如何安全使用AI”，不是“用戶是否對一個虛擬人格產(chǎn)生依賴”。

第二類，關(guān)系型智能體進入強合規(guī)時代。

AI戀人、虛擬男友/女友、情緒陪伴、角色扮演、用戶自建智能體、智能體廣場，并不會因為新規(guī)直接消失。陪伴、傾訴、孤獨緩解、養(yǎng)老輔助、心理支持，都是真實需求。AI在這些場景里也有價值。

但過去那套玩法走不通了。

開放UGC、擦邊人設(shè)、低成本角色庫、熱門榜分發(fā)、親密互動拉留存、會員訂閱收割情緒依賴，這條鏈路會越來越難做。平臺必須補上年齡分級、防沉迷、未成年人保護、內(nèi)容審核、真人仿冒治理、角色版權(quán)審核、風(fēng)險提示、誘導(dǎo)消費限制、情感依賴邊界管理等。

而這些東西也都會進入成本表。

過去一個小團隊接入模型API，做一套角色模板，加上廣場和分享機制，很快就能跑出一個陪伴產(chǎn)品。合規(guī)成本沒有顯性化時，增長故事很好講。一旦審核、投訴、版權(quán)、未成年人保護、心理風(fēng)險干預(yù)都變成硬成本，很多產(chǎn)品的商業(yè)模型會被重新計算。

關(guān)系型智能體仍有機會，但會從“野放式增長”進入“強邊界運營”。留下來的，不會是最會撩撥情緒的團隊，而是能把場景、責(zé)任和風(fēng)險講清楚的團隊。

第三類，“擬人化AI+情欲硬件”會被擠出主流市場。

這類產(chǎn)品的問題最尖銳。聊天產(chǎn)品偶發(fā)越界還能補救，硬件產(chǎn)品一旦把仿真結(jié)構(gòu)、親密模擬、情欲算法和AI人格綁定起來，就已經(jīng)完成了高風(fēng)險產(chǎn)品閉環(huán)。

新規(guī)拆掉了很多灰色包裝：你不能一邊宣稱養(yǎng)老陪護、心理疏導(dǎo)、日常陪伴，一邊設(shè)計情欲互動算法和性交互硬件；不能一邊享受擬人化關(guān)系帶來的高黏性，一邊又把風(fēng)險藏在“成人自愿使用”的敘事里。

這顯然會帶來一輪行業(yè)出清。短期內(nèi)，平臺會收縮智能體業(yè)務(wù)，清理敏感角色，降低情感陪伴功能在主App里的權(quán)重；AI陪伴產(chǎn)品會強化分級、審核和提示；部分AI硬件項目會推遲上市，重新評估外觀、交互和功能邊界。

長期看，智能體行業(yè)會回到更清晰的價值框架里：能提高效率的繼續(xù)做，能提供照護的規(guī)范做，依賴擦邊和情欲變現(xiàn)的退出。

這也是豆包、千問這次動作給行業(yè)的最大信號。

它們并沒有否定AI應(yīng)用，也沒有否定智能體方向。它們只是用產(chǎn)品調(diào)整告訴行業(yè)：關(guān)系型智能體不能再無差別地塞進主入口，平臺不能繼續(xù)把高風(fēng)險互動當成低成本增長工具。

AI行業(yè)進入下一階段后，競爭不只看模型能力、入口流量和交互體驗，還要看合規(guī)能力、風(fēng)控體系和社會信任。

過去，智能體被想象成一個“什么都能扮演、什么關(guān)系都能模擬”的萬能入口。新規(guī)之后，這一想象需要重寫。所謂“智能體告別野蠻生長”，說到底，是行業(yè)開始為產(chǎn)品邊界、用戶脆弱性和商業(yè)模式付賬。

本文來自虎嗅，原文鏈接：https://www.huxiu.com/article/4872727.html?f=wyxwapp