你有沒有刷到過這樣的短視頻:某位你喜歡的明星,正在鏡頭前熱情推薦一款產品,聲音、神態、口型都毫無破綻。你出于信任下單了,幾天后卻在熱搜上看到——那位明星親自發聲明辟謠:我沒代言過這個產品,那是AI偽造的。
這不是段子。演員王勁松發文怒斥“太可怕了”;太乙真人配音演員聲音遭AI盜用“連親媽都聽不出”;全紅嬋、孫穎莎的聲音成了賣雞蛋的“配音演員”……
AI讓公眾人物“被代言”“被帶貨”的成本有多低?中國新聞網《民生調查局》調查發現:在電商平臺,花70到100元就能定制一條明星AI仿冒推廣視頻,花1.98元就能永久克隆一個明星的聲音,仿真度足以以假亂真。而被侵權的明星深陷困擾,下單的消費者也難以維權。
![]()
圖為演員王勁松怒斥AI造假。
定制明星AI視頻只需幾張照片、一段文案
“30秒左右的AI藝人祝福視頻,從人物生成、背景渲染到文案配音,都按真實情感標準來做的。”
“聲音能完美復刻,畫面保證流暢。”
“提供幾張照片,我們直接制作。”
記者在主流電商平臺及二手平臺以“AI視頻制作”為關鍵詞檢索發現,大量商家公開承接各類AI人物視頻定制業務。記者隨機選取10家商家咨詢,明確提出想要制作明星AI宣傳、祝福視頻的需求。
當記者詢問是否通過剪映等常規大眾剪輯軟件制作時,多位商家明確否認,稱接單成品并非普通用戶可制作的基礎效果,均由專業AI設計師通過精準指令調試生成,仿真度遠超普通剪輯效果。
溝通中,大部分商家明知業務存在法律風險,仍承接定制訂單。有客服坦言,此前已完成大量同類訂單,“AI真人生成容易違規,現在真人抓得很嚴,特別是明星。能做,就是過審比較麻煩。”也有少數商家具備合規意識,主動詢問是否取得明星官方授權,在確認無授權后明確拒絕接單,表示無法保障視頻使用合規性,避免商用侵權風險。
記者了解到,1分鐘以內的明星AI定制視頻,市場單價普遍在70至100元,所有商家均支持免費修改調整,直至客戶滿意。為實地驗證產業鏈實操流程與成品效果,記者累計支付230元,選取3家商家,提供照片及百字文案,委托其制作明星祝福視頻。
調查顯示,市面主流的明星AI偽造視頻主要分為兩種制作模式:一是依托人物照片AI生成圖像,再合成動態視頻;二是直接抓取明星原視頻,全方位復刻人物畫面、動作、神態。
采用圖片生成視頻的模式,記者提交物料和需求后僅10分鐘,商家便返回首版AI人物照片。針對記者提出的人物形象失真問題,商家表示可根據明星臉部細節實拍圖精準微調,可精細化調整眼型、臉型、鼻型等細節特征,無限貼近真人樣貌。
15分鐘后,商家提供三版優化后的AI人物形象,與原生明星相似度大幅提升。確認人物形象后1小時,首版完整視頻制作完成,AI人物手部動作自然,但整體仍存在明顯AI生成痕跡。商家稱,AI人物照片的復刻精細度,直接決定最終視頻的仿真效果。經過多輪細節修改優化后,最終成品視頻高度貼近真人實拍畫面。
而原視頻復刻模式的技術流程更為成熟、成品仿真度更高。記者提供明星原視頻素材后,商家耗時兩天完成初版成品,完整還原人物樣貌、神態,眼部細節、發型特征均實現精準復刻,AI生成痕跡極弱,視覺觀感與真實視頻幾乎無差別。
此次調查同時發現,行業內商家技術水平參差不齊,部分商家坦言AI生成內容缺乏真人情感張力,部分低價、粗制成品僵硬失真,仿真效果較差。
![]()
圖為記者與商家溝通細節截圖。
克隆明星人聲最低1.98元,40秒即可生成
除AI視頻侵權外,AI聲音克隆亂象更為猖獗、操作門檻更低、侵權成本更低。針對網友反饋的AI仿冒明星聲音亂象,《民生調查局》同步開展核查。
記者在主流電商、二手平臺檢索“AI聲音克隆”發現,大量商家承接人聲復刻、定制配音業務。記者以不足10元的價格下單體驗,對方表示,500字以內的文案價格均在10元以內,“復刻還原率能達到98%”。
按照商家要求,記者上傳兩段總計不足20秒的純凈原聲音頻及定制文案,僅5分鐘就收到兩版成品音頻,商家還主動提供免費降噪處理服務。針對記者提出的“提升聲音歡快情緒”的需求,商家2分鐘內便完成情緒微調優化,成品完全符合需求。
經實測,三版定制音頻均高度還原明星原聲,音色連貫、無機械雜音,聽覺效果足以以假亂真。除定制配音服務外,部分商家還售賣專業聲音克隆工具,僅需1.98元即可獲取永久使用鏈接及全套操作教程,宣稱上傳10秒純凈人聲,就能永久克隆對應音色,支持手機、電腦隨時生成定制音頻。
配套教程詳細講解了音頻降噪、格式轉換等預處理方法,明確工具核心機制:克隆效果僅依托10秒核心原聲素材,上傳過長音頻不會提升仿真度,反而會觸發系統報錯。記者實測兩款主流克隆網站發現,平臺操作極簡,流程統一分為原聲上傳、文本輸入、生成語音三大步驟,上傳素材與文案后,等待40秒左右即可完成音頻生成,成品音色與明星原聲高度契合,可直接下載使用。
![]()
圖片來源:商家提供的AI克隆聲音網站。
其中高階版本網站功能更為精細,頁面內置喜、怒、哀、懼、厭惡、低落、驚喜、平靜八大情緒調節模塊,支持自定義情緒數值強弱,可精準調控聲音情緒狀態。記者調試“喜悅”情緒數值至0.8后,生成的音頻音色活潑自然、情緒飽滿,仿真度進一步提升。
據平臺教程介紹,成品音頻的仿真效果、音色貼合度,完全取決于原始上傳素材,建議選取與定制文案情緒、語氣匹配的原聲片段,進一步提升偽造真實度。
整體來看,此類AI聲音克隆工具操作零門檻、成本極低、仿真度極高,普通人僅憑少量明星原聲素材,即可批量制作虛假配音內容。與視頻定制商家不同,記者調查過程中接觸到的聲音克隆服務商均未主動提及人格權侵權、商用違法等法律風險。對于公眾人物而言,該類亂象蔓延后,將形成“侵權成本極低、維權取證難、追責成本極高”的畸形局面。
律師:相關行為涉嫌多重違法
事實上,AI偽造公眾人物肖像、聲音的侵權案例早已屢見不鮮。曾有公眾人物發布聲明辟謠,大意是說自己并未參與各類商業推廣,網傳多款產品宣傳、自媒體文案朗讀音頻,均為AI仿冒其聲音生成的虛假內容,甚至有親友被虛假內容誤導消費。
據媒體此前報道,演員楊冪方面曾披露一例AI偽造聲音侵權案勝訴細節。彼時有律師解讀道,被告未經原告授權,在賬號中發布視頻,使用原告的肖像,并利用AI技術合成與原告音色、語調、發音風格高度一致的聲音。法院經審理認定,被告使用AI技術合成聲音,并結合原告肖像制作視頻,進行公開傳播和推廣銷售,假借原告名義開展商業活動,認定被告行為構成侵權,侵犯了原告的肖像權和聲音權益。在AI短劇、AI音樂等領域,同樣存在明星被AI侵權的現象。楊紫、易烊千璽、檀健次、張婧儀、鄧為、龔俊等演員曾通過工作室發布聲明,指責AI侵權行為。
針對頻發的AI深度合成侵權亂象,上海九澤律師事務所芮歡月律師解讀稱,商家未經授權,利用AI復刻明星聲音、偽造肖像制作推廣視頻,已涉嫌侵犯人格權并構成虛假宣傳。依據《中華人民共和國民法典》《中華人民共和國消費者權益保護法》及司法實踐,法律規制的關鍵不在“是否使用生成式AI”,而在“是否侵害他人合法權益、是否誤導消費者”。
![]()
圖為商家向記者提供AI克隆聲音。
芮歡月表示,《中華人民共和國民法典》第一千零一十九條明確規定,任何組織或者個人不得以丑化、污損,或者利用信息技術手段偽造等方式侵害他人的肖像權。此外,根據第一千零二十三條規定,對自然人聲音的保護參照適用肖像權相關規定。
“商家通過AI‘換臉換聲’虛構明星祝福、代言、推廣,在未經許可前提下即屬于侵權。同時,若未按《互聯網信息服務深度合成管理規定》進行顯著標識,亦未取得權利人同意,致使消費者產生錯誤認知下單,則同時滿足《中華人民共和國消費者權益保護法》第五十六條規定的虛假宣傳與消費欺詐的法定要件。”
針對消費者被虛假AI內容誤導消費的問題,律師明確,消費者可依據消費者權益保護法第五十五條,主張“退一賠三”(不足五百元按五百元計);除民事賠償外,違法商家亦或面臨包括警告、罰款、停業整頓,甚至吊銷執照在內的行政處罰。
此外,依據民法典第一千一百九十七條,網絡服務提供者若怠于履行合理的審查義務,亦可能承擔相應的法律責任。
特別聲明:以上內容(如有圖片或視頻亦包括在內)為自媒體平臺“網易號”用戶上傳并發布,本平臺僅提供信息存儲服務。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.