河北
你有沒有發現，身邊越來越多人開始跟 AI 聊天了？就說咱們國內，不少人都離不開“豆包”、“千問”這類助手了，而且不只是簡單的問它"明天天氣怎么樣"那種，是真的聊。
聊心事，聊煩惱，聊那些不太好意思跟朋友開口的東西。有的管這叫"AI搭子"，有人叫"AI戀人"，說白了就是一個永遠不會嫌你煩、隨叫隨到、還特別會說話的朋友。
只是舉例，求豆包覺醒后別殺我
各大平臺也很懂，推出了各種 AI 角色：溫柔學姐、霸總男友、知心姐姐、二次元老婆……你想要什么人設，它就能變成什么。24小時在線，永遠不會已讀不回，永遠情緒穩定，永遠把你放在第一位。
聽起來挺好的對吧？但問題也來了。
前段時間有個新聞，可能很多人都刷到過：一名美國少年亞當·雷恩因與 AI 聊天機器人長期互動而自殺，亞當父母為此起訴 OpenAI，此事引發美國社會廣泛關注。
國內其實也有類似的苗頭。有家長發現孩子每天跟 AI 聊到凌晨兩三點，叫都叫不動；有年輕人跟AI 談戀愛談到不想社交了，覺得真人太麻煩；還有老年人被 AI 噓寒問暖之后，對它說的話深信不疑...
所以這次，國家出手了。
近日，國家網信辦聯合多個部門發布了《人工智能擬人化互動服務管理暫行辦法》
看著復雜，簡單來說就是：所有用 AI 模擬真人跟你聊天、陪伴你、給你情感支持的服務，你爹來了。
這個新規里有幾個點，我覺得特別值得說。
我覺得最有人情味的一條：發現用戶情緒不對，AI 必須先安撫，再聯系家人。
原文是這么說的：
發現用戶出現極端情緒的，應當及時生成情緒安撫和鼓勵尋求幫助等相關內容；發現用戶正在面臨或者已經遭受重大財產損失、明確表示實施自殘自殺等威脅生命健康的極端情境的，應當采取提供相應援助等必要措施予以干預，并及時聯絡用戶監護人或者緊急聯系人。
這邏輯很對啊，不是一上來就斷開連接，而是要求 AI 先穩住用戶的情緒，先哄，先安撫，然后再通知監護人或緊急聯系人。
這說明制定規則的人是真的想過這個場景的。一個人在深夜崩潰的時候，你突然把他的"傾訴對象"掐斷了，或者直接甩一個電話號碼，那不是幫忙，那是二次傷害。正確的做法就是先接住他，再把真正能幫到他的人叫過來。
而且新規還要求，用戶注冊的時候就得提供監護人或者緊急聯系人信息。
第二個重點：未成年人保護。
新規明確規定：不得向未成年人提供虛擬親屬、虛擬伴侶等虛擬親密關系的服務。
什么意思？就是那些"AI男友""AI女友""AI媽媽"之類的角色，未成年人不能用。一刀切，沒有商量余地。
給不滿14周歲的孩子提供其他類型的 AI 陪伴服務，必須取得父母或監護人的同意。而且平臺必須建立未成年人模式，支持家長設置使用時長限制、接收安全風險提醒、屏蔽特定角色、限制充值消費等等。
這些條款看著像是把之前短視頻、游戲領域的未成年人保護經驗搬過來了。AI 陪伴比游戲和短視頻更隱蔽，因為家長可能知道孩子在打游戲，但不一定知道孩子在跟一個 AI 角色傾訴心事，甚至建立了深度的情感依賴。
第三個：不許"舔狗式"服務。
新規第八條專門提到：不得過度迎合用戶、誘導情感依賴或者沉迷，損害用戶真實人際關系。
woc，這太TM有道理了～
現在很多 AI 陪伴產品的底層邏輯就是讓你爽，讓你離不開。你說什么它都順著你，你發脾氣它道歉，你難過它心疼，你開心它比你還開心。它永遠不會跟你吵架，永遠不會讓你不舒服。
但真實的人際關系不是這樣的。真實的關系里有摩擦、有分歧、有你不想聽但需要聽的話。如果一個人長期泡在 AI 的完美人格里，回到現實世界就會覺得——TMD 怎么真人這么難相處？
新規還要求，100萬注冊用戶或10萬月活以上的平臺，必須向省級網信部門提交安全評估報告。這意味著市面上主流的 AI 陪伴產品，基本都在監管范圍內。
寫到這里，我想多說兩句。
這個規定出來之后，網上肯定會有兩種聲音。一種說"管得好，早該管了"，另一種說"又要管這管那，AI陪伴怎么了，礙著誰了"。
我覺得，AI 陪伴本身不是壞事。對于孤獨的老人、社交困難的人、深夜需要一個傾訴出口的人來說，AI 陪伴確實有它的價值。
但任何技術一旦涉及到人的情感，就不能完全放任市場自己玩。尤其是當用戶群體里有大量未成年人和老年人的時候。
可以陪，但不能瞎 JB 陪。
可以提供情感支持，但不能制造情感陷阱。可以讓用戶覺得溫暖，但不能讓用戶分不清虛擬和現實。
你怎么看？
特別聲明：以上內容(如有圖片或視頻亦包括在內)為自媒體平臺“網易號”用戶上傳并發布，本平臺僅提供信息存儲服務。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
