北京
筑牢AI安全墻
網警護航守萬家
凈網有我 安全同行
人工智能生成合成內容是指利用人工智能技術生成、合成的文本、圖片、音頻、視頻、虛擬場景等信息。
當下生成式AI快速普及，
給創作生活帶來諸多便利，
但AI造謠虛假合成等隱患叢生，
請大家提高防范意識守住法律底線，
依法安全文明使用AI工具，共護清朗網絡。
一、經典案列
網絡安全
2026年2月，上海羅某為吸粉引流，利用AI生成“施工區地面塌陷”的虛假視頻，在短視頻平臺傳播，擾亂公共秩序。
網警通過細節違和、邏輯漏洞識破AI偽造內容，羅某最終被依法行政拘留。
網絡安全
二、識AI風險暗流
網絡安全
01/造假門檻降低
免費AI作圖、視頻生成工具普及，導致虛假內容生產成本降低，且生成的虛假內容傳播速度快、影響范圍廣。
02/虛假內容難辨別
AI換臉、聲音克隆技術等生成的視頻內容相當逼真，導致虛假災情、虛假事故等類型謠言難以分辨，易誤導公眾、帶偏輿論。
03/監新規明確要求AI內容標注來源
服務提供者提供的生成合成服務屬于《互聯網信息服務深度合成管理規定》第十七條第一款情形的，應當按照下列要求對生成合成內容添加顯式標識：
（一）在文本的起始、末尾或者中間適當位置添加文字提示或者通用符號提示等標識，或者在交互場景界面、文字周邊添加顯著的提示標識；
（二）在音頻的起始、末尾或者中間適當位置添加語音提示或者音頻節奏提示等標識，或者在交互場景界面中添加顯著的提示標識；
（三）在圖片的適當位置添加顯著的提示標識；
（四）在視頻起始畫面和視頻播放周邊的適當位置添加顯著的提示標識，可以在視頻末尾和中間適當位置添加顯著的提示標識；
（五）呈現虛擬場景時，在起始畫面的適當位置添加顯著的提示標識，可以在虛擬場景持續服務過程中的適當位置添加顯著的提示標識；
（六）其他生成合成服務場景根據自身應用特點添加顯著的提示標識。
服務提供者提供生成合成內容下載、復制、導出等功能時，應當確保文件中含有滿足要求的顯式標識。
04/自保自律雙重需要
為了促進人工智能健康發展，規范人工智能生成合成內容標識，保護公民、法人和其他組織合法權益，維護社會公共利益，國家互聯網信息辦公室、工業和信息化部、公安部、國家廣播電視總局制定了《人工智能生成合成內容標識辦法》。同時，我們也要學會識別AI造假，既能避免誤導，也能防止自己無意中傳播違法違規內容，守住法律底線。
三、守AI清朗之道
網絡安全
01/練就辨別能力
留意人物五官扭曲、動作僵硬、文字錯亂等AI破綻。
02/規范使用AI工具
用戶使用網絡信息內容傳播服務發布生成合成內容的，應當主動聲明并使用服務提供者提供的標識功能進行標識。
任何組織和個人不得惡意刪除、篡改、偽造、隱匿本辦法規定的生成合成內容標識，不得為他人實施上述惡意行為提供工具或者服務，不得通過不正當標識手段損害他人合法權益。
03/保護個人信息
不隨意在陌生AI平臺上傳照片、原聲視頻，防止被不法分子用于換臉、仿聲。
04/核實多方信息
涉及災害、事故等事件，以官方通報為準，不輕信、不轉發來源不明的AI視頻。
05/及時舉報違規內容
遇到AI謠言等違法違規內容，立即向平臺或網警舉報，共同抵制網絡亂象。
四、護網安 萬家安
網絡安全
愿大家都能明辨虛實、文明用網，
共建安全、有序的數字家園！
素材 | 山東煙臺高新網警
特別聲明：以上內容(如有圖片或視頻亦包括在內)為自媒體平臺“網易號”用戶上傳并發布，本平臺僅提供信息存儲服務。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
