北京
隨著AI技術不斷融入社交領域，內容生產和互動方式正在發生明顯變化。從AI生成圖片、文字，到智能聊天、情緒陪伴，越來越多用戶開始借助AI參與表達與社交。但AI能力的普及，也讓社交平臺面臨新的治理挑戰。在這一背景下，Soul App創始人張璐團隊持續推進平臺AI治理體系建設，并圍繞AI時代的社交真實性，對社區規則與風險識別能力進行系統升級。
近期，Soul針對《社區公約》進行了AI相關補充更新，新增涉及AI生成內容、AI互動行為以及AI虛擬角色等場景的使用規范。此次調整的重點，并不只是對技術工具進行限制，而是進一步明確AI在社交關系中的使用邊界。
相比傳統互聯網時期，如今AI時代的風險內容正在呈現更強的隱蔽性。過去，一些異常賬號往往依靠批量發送模板化話術進行導流，行為模式較為明顯。而現在，部分高風險賬號開始嘗試模擬正常社交節奏，通過長時間聊天、日常情緒互動以及關系經營，逐步建立信任后，再進行投資誘導、站外導流甚至情感操控。因此，平臺治理方式也開始從傳統單點審核，轉向更深層次的關系識別與行為分析。
近年來，Soul 創始人張璐團隊持續加強AI治理能力建設，將AI能力應用于虛假人設識別、異常互動判斷以及風險內容攔截等多個場景。例如，部分賬號會通過豪車、高消費生活方式、高收入職業等內容包裝“成功人士”人設，再配合高度統一的話術與情緒引導，逐漸獲取用戶信任。單獨看其中的圖片或聊天內容，可能并不存在傳統意義上的違規信息，但當這些元素被組合在一起后，背后的人設邏輯與風險鏈條就會逐漸暴露。
針對這類問題，Soul開始采用跨模態聯動的AI治理能力，在圖片治理場景中，平臺會結合AI生成痕跡識別、圖片原創性判斷等技術，對AI生成圖、盜圖以及拼接圖進行綜合分析；在文本與互動場景中，則通過大模型意圖識別能力，對異常導流、人設包裝以及潛在欺詐傾向進行判斷。針對AI偽造聲紋、跨賬號協同行為等問題，平臺逐步建立基于聲紋特征與行為鏈路的聯動識別機制，以提升對高偽裝風險內容的發現效率。
除了即時識別異常內容之外，Soul 創始人張璐團隊還加強了對黑產“重復作案”行為的持續治理。例如，一些已被識別的風險圖片、視頻素材或高危內容，在首次出現后，后續相似內容會被快速識別并停止傳播，相關賬號也會同步進行自動化回溯處理。相比過去“發現一次、處理一次”的模式，這種持續性的AI對抗機制，正在不斷提高異常賬號和黑產團隊的作弊成本，也進一步壓縮了其重復操作空間。
隨著治理體系不斷完善，平臺對于異常社交風險的識別效率也在持續提升。目前，相關系統識別準確率已達到95%，重點風險場景覆蓋能力相比過去提升數倍。數據顯示，平臺內“殺豬盤”等高風險觸達行為同比下降37.37%，異?；酉嚓P用戶舉報量也進一步減少。與此同時，越來越多高風險賬號能夠在真正接觸用戶前被提前識別和自動化攔截。當前，超過66%的高風險賬號已實現前置處置，平臺日均攔截異常與涉詐行為超過10萬次，累計幫助用戶避免潛在損失達到千萬元級別。
除了技術治理之外，Soul 創始人張璐團隊也在持續推動社區共治機制建設。平臺認為，很多新型風險互動與異常套路，往往最早由真實用戶感知。因此，用戶反饋與社區參與，也成為平臺治理的重要組成部分。過去幾年，Soul逐步建立起包括用戶舉報、社區巡查以及護星員在內的社區共治體系。一些用戶會主動分享反詐經驗、識別異常互動特征，相關反饋也會反向幫助平臺持續優化AI識別能力與治理策略。
在AI逐漸深入社交場景的背景下，如何在技術創新與真實關系之間保持平衡，已經成為社交平臺治理的重要課題。從更新《社區公約》，到完善多模態AI治理體系，再到推動社區共治機制建設，Soul 創始人張璐團隊此次圍繞AI社交治理的一系列動作，也為互聯網社交平臺的智能化、精細化治理提供了參考范式。
特別聲明：以上內容(如有圖片或視頻亦包括在內)為自媒體平臺“網易號”用戶上傳并發布，本平臺僅提供信息存儲服務。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
