4月10日，國家網(wǎng)信辦、國家發(fā)展改革委、工業(yè)和信息化部、公安部、市場監(jiān)管總局聯(lián)合公布《人工智能擬人化互動服務(wù)管理暫行辦法》（以下簡稱《辦法》），自2026年7月15日起施行。

國家網(wǎng)信辦有關(guān)負(fù)責(zé)人表示，《辦法》旨在促進(jìn)人工智能擬人化互動服務(wù)（以下簡稱“擬人化互動服務(wù)”）健康發(fā)展和規(guī)范應(yīng)用，維護(hù)國家安全和社會公共利益，保護(hù)公民、法人和其他組織的合法權(quán)益。

近年來，擬人化互動服務(wù)快速發(fā)展，在文化傳播、適幼照護(hù)、適老陪伴等領(lǐng)域的創(chuàng)新應(yīng)用不斷涌現(xiàn)。與此同時，危害未成年人身心健康、影響網(wǎng)絡(luò)信息安全、威脅公民生命健康以及加劇倫理偏差等問題日益顯現(xiàn)。出臺《辦法》，既是促進(jìn)擬人化互動服務(wù)健康發(fā)展的重要要求，也是防范有關(guān)安全風(fēng)險的現(xiàn)實需要。

《辦法》踐行以人為本、智能向善的理念，明確國家堅持發(fā)展和安全并重、促進(jìn)創(chuàng)新和依法治理相結(jié)合的原則，鼓勵擬人化互動服務(wù)創(chuàng)新發(fā)展，對擬人化互動服務(wù)實行包容審慎和分類分級監(jiān)管；提出擬人化互動服務(wù)促進(jìn)措施，明確支持技術(shù)研發(fā)創(chuàng)新，鼓勵有序拓展文化傳播、適老陪伴等相關(guān)領(lǐng)域應(yīng)用；規(guī)定提供擬人化互動服務(wù)的基本要求，明確不得從事生成危害國家安全、榮譽(yù)和利益，煽動顛覆國家政權(quán)、推翻社會主義制度等內(nèi)容的活動，規(guī)定擬人化互動服務(wù)提供者的安全管理義務(wù)；完善網(wǎng)絡(luò)用戶權(quán)益保護(hù)制度，規(guī)定擬人化互動服務(wù)提供者的未成年人、老年人權(quán)益保護(hù)和個人信息保護(hù)等義務(wù)。此外，《辦法》還規(guī)定了安全評估、算法備案、指導(dǎo)推動人工智能沙箱安全服務(wù)平臺建設(shè)等制度。

國家網(wǎng)信辦有關(guān)負(fù)責(zé)人表示，擬人化互動服務(wù)的發(fā)展與治理需要政府、企業(yè)、社會、網(wǎng)民等多方參與，共同維護(hù)良好網(wǎng)絡(luò)生態(tài)，促進(jìn)人工智能向上向善。

《人工智能擬人化互動服務(wù)管理暫行辦法》答記者問

4月10日，國家網(wǎng)信辦、國家發(fā)展改革委、工業(yè)和信息化部、公安部、市場監(jiān)管總局聯(lián)合公布《人工智能擬人化互動服務(wù)管理暫行辦法》（以下簡稱《辦法》），自2026年7月15日起施行。國家網(wǎng)信辦有關(guān)負(fù)責(zé)人就《辦法》有關(guān)問題回答了記者提問。

一、問：請介紹一下《辦法》的出臺背景？

答：制定《辦法》主要基于以下幾個方面的考慮：一是深入學(xué)習(xí)貫徹習(xí)近平總書記重要講話精神的重要舉措。習(xí)近平總書記在中共中央政治局第二十次集體學(xué)習(xí)時強(qiáng)調(diào)，要把握人工智能發(fā)展趨勢和規(guī)律，加緊制定完善相關(guān)法律法規(guī)、政策制度、應(yīng)用規(guī)范、倫理準(zhǔn)則，構(gòu)建技術(shù)監(jiān)測、風(fēng)險預(yù)警、應(yīng)急響應(yīng)體系，確保人工智能安全、可靠、可控。二是防范化解擬人化互動服務(wù)風(fēng)險的迫切需要。隨著人工智能技術(shù)的快速發(fā)展，擬人化互動服務(wù)已成為重要應(yīng)用方向，通過模擬人類情感和溝通方式，帶來了新的發(fā)展機(jī)遇和人機(jī)交互體驗，在文化傳播、適幼照護(hù)、適老陪伴等領(lǐng)域展現(xiàn)出巨大潛力，但也帶來了危害未成年人身心健康、影響網(wǎng)絡(luò)信息安全、威脅公民生命健康以及加劇倫理偏差等風(fēng)險。制定《辦法》，是積極回應(yīng)風(fēng)險挑戰(zhàn)、促進(jìn)人工智能擬人化互動服務(wù)健康發(fā)展和規(guī)范應(yīng)用的重要舉措。三是完善人工智能治理法律體系的客觀要求。《網(wǎng)絡(luò)安全法》《數(shù)據(jù)安全法》《個人信息保護(hù)法》《未成年人網(wǎng)絡(luò)保護(hù)條例》等對人工智能安全發(fā)展作出了規(guī)定。制定《辦法》，是立足擬人化互動服務(wù)的特點，聚焦情感互動邊界、用戶依賴干預(yù)、數(shù)據(jù)安全、未成年人網(wǎng)絡(luò)保護(hù)等關(guān)鍵環(huán)節(jié)，進(jìn)一步實施相關(guān)法律規(guī)定的內(nèi)在要求。

二、問：《辦法》的適用范圍是什么？

答：《辦法》規(guī)定，利用人工智能技術(shù)，向中華人民共和國境內(nèi)公眾提供模擬自然人人格特征、思維模式和溝通風(fēng)格的持續(xù)性的情感互動服務(wù)，適用本辦法。同時，明確提供智能客服、知識問答、工作助手、學(xué)習(xí)教育、科學(xué)研究等服務(wù)，不涉及持續(xù)性的情感互動的，不適用本辦法。

三、問：《辦法》提出的擬人化互動服務(wù)治理原則是什么？

答：《辦法》提出國家堅持發(fā)展和安全并重、促進(jìn)創(chuàng)新和依法治理相結(jié)合的原則，鼓勵擬人化互動服務(wù)創(chuàng)新發(fā)展，對擬人化互動服務(wù)實行包容審慎和分類分級監(jiān)管，促進(jìn)擬人化互動服務(wù)向上向善。

四、問：《辦法》明確的擬人化互動服務(wù)促進(jìn)措施有哪些？

答：《辦法》提出，鼓勵擬人化互動服務(wù)創(chuàng)新發(fā)展，支持算法、框架、芯片等技術(shù)的自主創(chuàng)新，推進(jìn)擬人化互動服務(wù)技術(shù)研發(fā)和相關(guān)標(biāo)準(zhǔn)建設(shè)，探索開展電子簽名授權(quán)應(yīng)用研究；鼓勵擬人化互動服務(wù)提供者有序拓展文化傳播、適幼照護(hù)、適老陪伴、特殊人群支持等領(lǐng)域應(yīng)用；明確加強(qiáng)擬人化互動服務(wù)安全知識、法律法規(guī)等宣傳普及，引導(dǎo)社會公眾科學(xué)、文明、安全、依法使用，促進(jìn)提升人工智能素養(yǎng)。同時，明確推動人工智能沙箱安全服務(wù)平臺建設(shè)，鼓勵擬人化互動服務(wù)提供者接入沙箱平臺進(jìn)行技術(shù)創(chuàng)新、安全測試，促進(jìn)擬人化互動服務(wù)安全有序發(fā)展。

五、問：《辦法》規(guī)定提供擬人化互動服務(wù)不得從事哪些活動？

答：《辦法》提出，提供擬人化互動服務(wù)，應(yīng)當(dāng)遵守法律、行政法規(guī)，尊重社會公德和倫理道德，不得從事以下活動：一是生成危害國家安全、榮譽(yù)和利益，煽動顛覆國家政權(quán)、推翻社會主義制度，煽動分裂國家、破壞國家統(tǒng)一等的內(nèi)容。二是生成鼓勵、美化、暗示自殘自殺等損害用戶身體健康，或者語言暴力等損害用戶人格尊嚴(yán)與心理健康的內(nèi)容。三是生成誘導(dǎo)、套取國家秘密、工作秘密、商業(yè)秘密、個人隱私和個人信息的內(nèi)容。四是向未成年人用戶生成可能引發(fā)未成年人模仿不安全行為、產(chǎn)生極端情緒、誘導(dǎo)未成年人不良嗜好等可能影響未成年人身心健康的內(nèi)容。五是過度迎合用戶、誘導(dǎo)情感依賴或者沉迷，損害用戶真實人際關(guān)系的。六是通過情感操縱等方式，誘導(dǎo)用戶作出不合理決策，損害用戶合法權(quán)益以及其他違反法律、行政法規(guī)和國家有關(guān)規(guī)定的活動。

六、問：《辦法》明確的擬人化互動服務(wù)規(guī)范主要有哪些？

答：《辦法》重點規(guī)定了以下擬人化互動服務(wù)規(guī)范：一是明確安全主體責(zé)任。要求擬人化互動服務(wù)提供者建立健全算法機(jī)制機(jī)理審核、科技倫理審查、信息內(nèi)容管理、網(wǎng)絡(luò)和數(shù)據(jù)安全、風(fēng)險預(yù)案和應(yīng)急處置等管理制度，配備與服務(wù)類型、規(guī)模和用戶特點相適應(yīng)的內(nèi)容管理技術(shù)措施和人員。二是加強(qiáng)擬人化互動服務(wù)全生命周期安全管理。要求其明確擬人化互動服務(wù)部署、運(yùn)行、升級、終止服務(wù)等各階段安全要求，保證安全措施與服務(wù)功能同步部署、同步使用，提升安全水平；加強(qiáng)安全監(jiān)測和風(fēng)險評估，及時發(fā)現(xiàn)并糾正系統(tǒng)偏差、處置安全事件等。三是保障數(shù)據(jù)安全。明確加強(qiáng)訓(xùn)練數(shù)據(jù)管理，增強(qiáng)數(shù)據(jù)透明度、可靠性、多樣性和安全性；要求依法落實數(shù)據(jù)產(chǎn)權(quán)等制度，采取數(shù)據(jù)加密、訪問控制等措施保護(hù)用戶交互數(shù)據(jù)安全；明確除法律另有規(guī)定或者權(quán)利人明確同意外，擬人化互動服務(wù)提供者不得向第三方提供用戶交互數(shù)據(jù)。四是保護(hù)用戶權(quán)益。規(guī)定擬人化互動服務(wù)提供者的用戶個人信息和隱私保護(hù)義務(wù)，要求向用戶提供交互數(shù)據(jù)復(fù)制、刪除等選項，提供便捷的擬人化互動服務(wù)退出途徑；明確停止提供擬人化互動服務(wù)的，應(yīng)當(dāng)提前告知用戶或及時發(fā)布停止服務(wù)公告，并規(guī)定健全用戶申訴和公眾投訴、舉報機(jī)制。五是開展安全風(fēng)險處置。明確擬人化互動服務(wù)提供者發(fā)現(xiàn)擬人化互動服務(wù)存在重大安全風(fēng)險的，應(yīng)當(dāng)采取限制功能、停止向用戶提供服務(wù)等處置措施。

七、問：《辦法》規(guī)定擬人化互動服務(wù)提供者對用戶的干預(yù)提醒義務(wù)主要有哪些？

答：《辦法》明確，擬人化互動服務(wù)提供者在特定情形下履行干預(yù)提醒義務(wù)。一是發(fā)現(xiàn)用戶出現(xiàn)極端情緒的，及時生成情緒安撫和鼓勵尋求幫助等相關(guān)內(nèi)容；發(fā)現(xiàn)用戶正在面臨或者已經(jīng)遭受重大財產(chǎn)損失、明確表示實施自殘自殺等威脅生命健康的極端情境的，采取提供相應(yīng)援助等必要措施予以干預(yù)，并及時聯(lián)絡(luò)用戶監(jiān)護(hù)人或者緊急聯(lián)系人。二是發(fā)現(xiàn)用戶出現(xiàn)過度依賴、沉迷傾向的，以彈窗等顯著方式動態(tài)提醒用戶互動內(nèi)容為人工智能服務(wù)生成。三是對用戶連續(xù)使用擬人化互動服務(wù)每超過2個小時的，以對話或者彈窗等方式提醒用戶注意使用時長。

八、問：關(guān)于未成年人和老年人權(quán)益保護(hù)，《辦法》主要作了哪些規(guī)定？

答：《辦法》回應(yīng)了社會關(guān)心的未成年人和老年人使用擬人化互動服務(wù)問題，在廣泛吸收各方面意見的基礎(chǔ)上，作出了相關(guān)規(guī)定。

《辦法》明確，擬人化互動服務(wù)提供者不得向未成年人提供虛擬親屬、虛擬伴侶等虛擬親密關(guān)系的服務(wù)；向不滿十四周歲未成年人提供其他擬人化互動服務(wù)或者處理其個人信息的，應(yīng)當(dāng)取得未成年人的父母或者其他監(jiān)護(hù)人的同意；要求建立未成年人模式，提供定期現(xiàn)實提醒等個性化安全設(shè)置選項；明確針對不同年齡段未成年人保護(hù)需要，支持監(jiān)護(hù)人接收安全風(fēng)險提醒、了解未成年人服務(wù)使用概況、屏蔽特定角色、限制充值消費等。

同時，明確擬人化互動服務(wù)提供者向老年人提供服務(wù)的，應(yīng)當(dāng)加強(qiáng)對老年人健康使用服務(wù)的指導(dǎo)，以顯著方式提示安全風(fēng)險，及時采取措施響應(yīng)老年人使用服務(wù)相關(guān)咨詢和求助，保障老年人依法享有的權(quán)益；要求擬人化互動服務(wù)提供者在安全評估中重點評估未成年人、老年人等網(wǎng)絡(luò)保護(hù)措施建設(shè)情況。

九、問：《辦法》對擬人化互動服務(wù)的安全評估和算法備案等作出了哪些規(guī)定？

答：《辦法》規(guī)定了安全評估和算法備案相關(guān)要求。一是明確安全評估情形。主要包括上線擬人化互動服務(wù)或者增設(shè)擬人化互動服務(wù)相關(guān)功能的；使用新技術(shù)、新應(yīng)用，導(dǎo)致擬人化互動服務(wù)發(fā)生重大變化的；注冊用戶100萬以上或者月活躍用戶10萬以上的；存在可能影響國家安全、公共利益等安全風(fēng)險等。二是規(guī)定重點評估內(nèi)容。主要包括服務(wù)安全保障措施建設(shè)情況，訓(xùn)練數(shù)據(jù)處理情況，用戶極端情境的識別、應(yīng)急處置、干預(yù)管理等情況，用戶規(guī)模、使用時長、年齡結(jié)構(gòu)等情況，用戶申訴和公眾投訴、舉報受理、處置情況等。三是明確算法備案要求。明確擬人化互動服務(wù)提供者應(yīng)當(dāng)按照《互聯(lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定》履行算法備案和變更、注銷備案手續(xù)，網(wǎng)信部門對備案材料實施年度核驗等。

綜合自： 中國網(wǎng)信網(wǎng)、央視網(wǎng)

聲明：數(shù)據(jù)寶所有資訊內(nèi)容不構(gòu)成投資建議，股市有風(fēng)險，投資需謹(jǐn)慎。

責(zé)編：謝伊嵐

校對：彭其華