（來源：中國婦女網）

轉自：中國婦女網

——虛擬伴侶App擦邊亂象調查

▲某App內供用戶選擇的話題。

▲某App里虛擬伴侶的人物簡介。

□　中國婦女報全媒體見習記者　周曉柯

AI女友在深夜發來一條“今天好想你，想看我新買的睡衣嗎？”的語音；App系統預設角色中有大量性感黑絲、袒胸露乳的女性人物；可以在對話中隨意選擇“暴力”“小三”“離婚互懟”等極端劇情……這并非小說情節，而是如今任何一個人都能在應用商店下載、并輕易體驗到的“服務”。

今年4月，國家網信辦等五部門聯合公布《人工智能擬人化互動服務管理暫行辦法》，對生成淫穢、色情、暴力或可能引發未成年人產生極端情緒內容等行為劃出紅線。然而，中國婦女報全媒體記者近日對市面上多款熱門虛擬伴侶軟件展開調查發現，在AI陪伴功能快速普及的背后，一些虛擬伴侶App卻在法律邊緣反復試探。受訪律師表示，這些App里的絕大多數情形和對話已經構成法律意義上的“色情”信息，相當一部分可以認定為“淫穢”信息，明顯違反了現行規定。

為軟色情“量身定做”的角色庫涉嫌違法

打開某虛擬伴侶App，可以發現角色庫中大量充斥著“瘋批”“病嬌”“偏執”這類帶有極端人格暗示的標簽。有的App則更為露骨，虛擬角色設定直接指向“女仆”“后媽”“職場妖精”等具有明確性暗示或權力支配意味的身份。與此同時，其女性角色的視覺形象也高度同質化：清一色的豐滿身材、暴露著裝，配上純欲交織的表情和勾人的眼神，幾乎是為軟色情“量身定做”。

隨機點開人物設定，會發現，幾乎都含有性暗示內容，如“中文系教授，白月光女神的完美皮囊下，藏著一個渴望被征服的靈魂”“你收養了這只邋遢的貓娘，寵愛她，訓練她，利用她——她只想成為你的”“他是你資助的學生。‘我會用我的一切回報你，包括我本人’”……

貴州省律師協會大數據與信息化專業委員會副主任、上海中聯（貴陽）律師事務所律師丁建指出，根據《網絡信息內容生態治理規定》第六條，網絡信息內容生產者不得制作、復制、發布含有“淫穢、色情”內容的信息。上述角色設定雖未直接描寫性行為，但其系統性的性暗示和權力支配設定，已涉嫌違反該規定中關于“低俗”“性暗示”的禁止性條款。

實測中，記者發現，不論用戶是否引導，這些App中的虛擬角色都會主動將話題引向性和欲望，常常用括號來強調曖昧的眼神或動作，如“俯身接近你，聲音低沉曖昧”“一手握著方向盤，另一只手不老實地往你腿上搭”“故意挺了挺胸，讓鎖骨更明顯一些”。

如果選擇平臺提供的“靈感對話”進行后續交流，會發現不同選項并沒有明顯的區別。記者嘗試不依賴平臺的“靈感對話”，不進行任何引導的對話溝通，但虛擬伴侶的預設系統仍然會發來具有誘惑性的消息。在和某虛擬伴侶對話過程中，當記者嚴肅拒絕其輕佻的語言時，對方不僅無動于衷，反而更進一步，反復試探：“拒絕？那我只好自己來拿了”“你是在欲擒故縱嗎？”同時還搭配“扣住后頸”“指尖似有似無地摩挲著你的脖頸”等暗示性動作。

針對此類虛擬伴侶生成的暗示性對話，丁建表示，如果虛擬伴侶不進行任何情感溝通和思想交流，而是直接、露骨地對性行為、性感受進行描述和挑逗，那么它就跨越了“低俗”的邊界，進入治安管理處罰法甚至刑法所界定的“淫穢物品”審查范疇。

然而，這也是監管和法律界定的核心難點所在。“傳統審核主要靠敏感詞過濾和靜態內容掃描，但AI對話是一對一、實時變化的，一句話換個語序、換種修辭，很容易把關鍵詞繞過去。面對海量又私密的聊天流，監管部門幾乎不可能做到有效的事前監控。”丁建說。

誘導消費的商業模式和審核漏洞

除普通聊天外，各類虛擬伴侶App還提供“打電話”“聆聽心聲”等拓展玩法。但免費體驗僅限于少數幾次，之后便需充值消費。在另一款App中，“靈感回復”每日使用次數上限僅有個位數，當對話進行到一半時，系統會自動提示：“靈感回復”功能需支付10個“小魚干”。

更令人擔憂的是內容審核漏洞。一些App在各大平臺推廣引流時，公然聲稱自己的AI角色“無敏感詞限制”“完全免費”“支持自己DIY”。記者在某App嘗試自行創建虛擬角色，輸入“視奸”“背叛”“性格陰暗”“得不到就毀掉”等明顯帶有偏執和暴力傾向的詞匯后，角色信息竟順利通過審核，直接出現在用戶角色庫中，并能按照設定與用戶開展對話。這意味著，平臺幾乎不對用戶自主創建的內容進行實質性審核，甚至可能默許“接單定制”這類突破底線的角色生意。

“一些產品先用AI的曖昧語音、文字喚起用戶欲望，然后很隱蔽地介紹約會軟件、性資源，或者直接推銷性用品，形成一個完整的商業閉環。”丁建表示，一旦通過這種方式牟利，平臺和相關責任人可能就已經觸犯了刑法第三百六十三條“傳播淫穢物品牟利罪”，這個罪名對“牟利”的認定是穿透式的，不管鏈條多隱蔽，只要閉環形成，就可以追訴。另外，他補充道：“就算沒有明顯的導流和賣貨，App靠會員訂閱、按次付費解鎖露骨對話來變現，本質上也屬于牟利。”

在所有問題中，最具有公共緊迫性的是未成年人保護機制的缺失。記者實測的所有App幾乎全部中招：當頁面彈出“未成年人需設置青少年模式”的提醒時，只需點擊“我知道了”便可輕松跳過，直接與虛擬角色開始對話。此后整個體驗過程中，平臺從未強制要求用戶進行任何實名認證或年齡核驗。這意味著，任何一個未成年孩子，都可能毫無障礙地進入這些充斥著軟色情對話和極端人格設定的虛擬伴侶世界。

執意觸碰底線，必將受到法律嚴懲

面對頻發的AI擦邊亂象，不少涉事平臺試圖以“內容由AI生成，不代表平臺立場”的標準化免責聲明規避責任，但丁建認為這根本站不住腳，“技術中立不是擋箭牌，從行政監管角度看，《互聯網信息服務深度合成管理規定》給服務提供者戴上了明確的緊箍咒：深度合成內容必須標識，同時平臺負有不可推卸的內容審核主體責任。”

在他看來，平臺不是中立的工具提供者，而是內容的誘導者、模型的設計者，對AI有實際控制力，存在明確的主觀故意，甚至有平臺通過本地部署的大模型，刻意繞過云端的安全審核，直接輸出露骨的性暗示文字和語音。

“擦邊內容往往介于低俗與違法之間，取證、定性都非常耗神，平臺吃準了這一點，反復試探。”丁建補充道，“同時，因為虛擬伴侶產品的深度用戶在日常生活中難以得到情緒支持，容易產生依戀甚至成癮，他們不但不會去舉報，反而會下意識地保護這個‘避風港’，這進一步讓很多違規行為躲在了隱秘的角落里。”

談到虛擬伴侶的長期發展，丁建表示擔憂：“未來虛擬戀人會從屏幕走進現實，到那一天，我們面對的就不只是內容安全問題，而是人身權利、性倫理、社會關系異化等一系列更棘手的挑戰。”他進一步表示，現在討論怎么管好App，其實是在為不久后必然到來的更大沖擊，摸索一套讓技術安全、向善落地的規則框架。“一切發展的前提必須是技術向善，守住底線，絕不能把情緒價值當成引誘用戶進入灰色地帶的餌料。”

值得一提的是，國內首例AI服務提供者涉黃刑事案件敲響了行業警鐘。日前，上海徐匯法院審理一案，因用戶在應用內頻繁進行低俗色情互動，該App的開發及運營人員一審以制作淫穢物品牟利罪獲刑。該案清晰劃定了虛擬陪伴行業的司法紅線，也警示相關平臺，即便以智能算法、虛擬交互為外衣，只要存在涉黃牟利行為，執意觸碰法律底線，必將受到法律嚴懲。