網易首頁 > 網易號 > 正文 申請入駐

暗訪AI仿聲產業鏈:10分鐘克隆你的聲音,一天能騙10萬人

0
分享至



刷短視頻的時候,你有沒有過這種瞬間——

"哎?這聲音怎么這么耳熟?"

畫面里是你關注了三年的知識博主,正熱情地推薦一款理財產品。"我親自考察過,年化收益穩定,大家放心買。"

聲音是真的,話卻是假的。

三個月后,你血本無歸。而那位博主?他壓根兒不知道自己的聲音被"借"去干了什么。

這不是科幻。這就是2024年,正在你眼皮底下發生的事。

2024年6月,北京互聯網法院判了個前所未有的案子。

配音演員殷某發現,自己的聲音被AI化處理后,出現在無數帶貨視頻里。沒經過她同意,沒付一分錢,她的聲音就這么成了別人的"員工",24小時不停歇地推銷各種東西。

法院判了:賠償25萬。

這錢說多不多——殷某的聲音價值遠不止這個數。說少也不少——畢竟這是全國頭一遭,給"聲音權"定了個性。

判決書里寫著:聲音跟指紋、肖像一樣,是你的人格特征。AI想用?先問過人。

這紙判決往水里一丟,圈子里炸開了鍋。

案子判了,但事情沒完。

很快,配音圈傳出一份"三禁"倡議書。500多個配音演員聯名,字字句句都帶著火氣:

第一禁:沒書面授權,誰也別錄我的聲音。管你是劇組、平臺還是什么科技公司,白紙黑字簽字畫押之前,麥克風別想靠近我。

第二禁:我的聲音,不準喂AI。這是吃飯的家伙,不是你訓練模型的飼料。想拿我的聲紋去煉算法?門兒沒有。

第三禁:就算授權了,也不準AI商用。我可以給你錄音,但只能是我本人錄。想克隆個AI版的我去跑量?免談。

三條紅線一劃,像在說:咱們這行,要跟AI劃清界限。

可問題是——火早就燒過界了。

說實話,在調查之前,我以為AI仿聲是那種高門檻的技術活兒——得有大牛工程師、昂貴的服務器、復雜的算法。

兩周后我發現:太天真了。

這行現在門檻低得嚇人,而且已經形成了一條完整產業鏈。我從頭到尾扒了一遍,給你看看里面都是什么門道。

所有黑產的第一步,搞到聲音樣本。

圈子里管這叫"采聲"。最笨的法子,去抖音、B站、喜馬拉雅扒公開內容。游戲解說、有聲書、帶貨直播,全是素材。反正都是公開發出來的,下載下來就能用。

"頭部主播的聲音?我們兩天就能湊夠訓練量。"一個搞技術的小伙子跟我吹,"10分鐘高清音頻,夠煉一個基礎模型了。"

更直接的,買。

在某些灰色交易群里,聲音樣本明碼標價:

  • ? 普通配音演員:50-200元一套
  • ? 有點小名的主播:500-2000元
  • ? 真正的頭部大V:5000起步,得預定

一套樣本通常500到1000句話,喜怒哀樂都有。拿回去往模型里一塞,練出來的聲音足以亂真。

有了素材,下一步是訓練。這里才是讓我震驚的地方——

根本不用懂什么深度學習。

GitHub上一堆開源項目,有的都10萬星了。稍微會點代碼,按著README一步步操作,本地就能跑起來。Macbook Pro就能煉,不是非得買服務器。

"現在更省事了,直接用云平臺。"那小伙子繼續說,"上傳音頻,調幾個滑塊,等幾小時,模型就下好了。一個月會員幾百塊,比正版軟件便宜多了。"

專業的黑產團隊會自己搭服務器,煉得更精細。他們還會針對場景優化:專門用來帶貨的版本、專門用來搞客服詐騙的版本、專門用來冒充熟人的版本——各有各的調校。

練好了聲音,總得賣錢吧?最常見的路子:

短視頻帶貨。

一個AI配音賬號,一天能產上百條視頻。美妝、數碼、食品,啥品類都能做。不用真人出鏡,不用付工資,成本幾乎為零。

"中等規模的工作室,月入幾十萬挺正常的。"一個知情人跟我說,"一個人管幾十個號,全是AI聲音在跑,躺賺。"

更黑的:電信詐騙。

2024年以來,這種案子噌噌往上漲。騙子從你朋友圈找個視頻,提取幾秒鐘語音,克隆出你的聲音。然后給你爸媽打電話:

"媽,我出事了,轉點錢救急,千萬別告訴我爸......"

老人一聽,是自己閨女的聲音,還帶著哭腔,哪想得到是AI?

數據顯示,2024年上半年,全國報的AI聲音詐騙案就超過3000起,涉案金額好幾個億。

這才半年。

光說產業鏈,你可能覺得遙遠。講幾個真實受害者的故事,你就知道這事有多近。

小林干了8年游戲配音,給不少熱門游戲配過角色。聲音有辨識度,玩家群里小有名氣。

2024年初,一個粉絲私信她:"姐,我在抖音聽到你帶貨了?"

小林點開鏈接——確實是自己的聲音,在推銷一款從沒聽說過牌子的美容儀。

"那一瞬間,真的,渾身發冷。"她跟我回憶說。

更氣人的在后頭。那款美容儀后來被曝光是劣質產品,好些用戶投訴用完皮膚過敏。

"我的聲音,成了騙子的幫兇。那些被騙的人,說不定還以為是我在騙他們。"

她找平臺投訴,侵權者換個馬甲繼續干。跟打地鼠似的。

老張做科普,全平臺幾百萬粉絲。聲音沉穩、靠譜,粉絲信他。

2024年5月,他發現有賬號用AI克隆他的聲音,發了一堆假科普。喝尿養生、磁鐵治病、生吃洋蔥抗癌......什么離譜說什么。

"我的聲音,在傳播這種垃圾。"

粉絲來問:張老師,這個是真的嗎?他不知道怎么解釋——說那不是自己?誰信啊。

花了一個月清理假賬號,評論區已經罵聲一片。"騙子""偽科學",看著刺眼。

"建立信任需要幾年,毀掉它只需要幾個AI視頻。"他說這話的時候,挺無奈。

李女士的故事,最讓人心疼。

2024年4月,她接到"女兒"電話。那頭帶著哭腔:"媽,我出事了,要急用錢,千萬別告訴我爸......"

李女士沒多想。女兒在外地讀大學,她平時就擔心。8萬塊,立刻轉了過去。

轉完覺得不對勁,打電話到學校——女兒正在上課呢,啥事沒有。

那通電話,是AI合成的。

騙子從女兒朋友圈的視頻里,提取了幾秒鐘語音。就幾秒鐘,夠克隆聲音了。

李女士報了警,錢大概率追不回來。

"我到現在都不敢相信,"她說,"那真的就是我女兒的聲音。"

首例AI聲音侵權案判了25萬,看著是個勝利。但現實里,維權依然是個泥潭。

取證難。

侵權行為到處都是——不同平臺、不同賬號、服務器可能在境外。要收集證據、固定證據,成本極高。普通人哪有這個時間精力?

損失難算。

聲音值多少錢?沒有定價標準。殷某的案子判了25萬,她覺得自己聲音遠不止這個價,但怎么證明?拿不出具體數字。

平臺責任不清。

短視頻平臺、云服務商,在這些侵權案里算什么角色?該擔多大責任?法律現在沒說明白。平臺通常就一句話:"我們會處理",然后拖。

打地鼠困局。

就算這次維權成功了,侵權者換個賬號繼續干。配音演員們被困在"發現—投訴—再發現—再投訴"的循環里,沒完沒了。

有人跟我說:"現在不是贏不贏的問題,是打不起。一場官司下來,時間、精力、律師費,可能比賠償還多。"

這事不能光靠配音演員自己扛。需要幾方一起出力:

立法者得抓緊。

現有法律框架,跟不上AI發展的速度。聲音權怎么定義?侵權責任怎么劃分?懲罰措施夠不夠狠?這些都需要明確的法律條文。

平臺得上點心。

短視頻平臺、音頻平臺,能不能建個聲音認證系統?讓創作者提前備案自己的聲音,發現仿冒能快點處理。技術上不難,就看愿不愿意做。

技術公司別裝傻。

搞AI聲音的公司,能不能在技術層面加點限制?比如給合成的聲音加數字水印、限制訓練樣本的來源。技術是你們做的,你們最清楚怎么防濫用。

每個人都得警惕。

AI時代,聲音不再是可靠的信任憑證。接到"熟人"電話讓轉賬,多核實一下;看到"名人"帶貨,多留個心眼。

別讓自己的信任,成了騙子的工具。

AI聲音技術本身,其實挺厲害的。能幫到失聲的人重新說話,能給內容創作者省時間,能讓學語言的人有好發音示范。

問題是,現在它被濫用了。

配音演員們站出來維權,不光是保護自己的飯碗和尊嚴。他們在守護一個基本道理——你的聲音,就該是你自己的。

在這個AI越來越猛的時代,我們不需要恐懼技術。但我們需要給技術畫條紅線。

讓它服務于人,而不是讓人成為它的犧牲品。

這是咱們共同的責任。

(文中人物為化名,產業鏈細節已脫敏處理)

特別聲明:以上內容(如有圖片或視頻亦包括在內)為自媒體平臺“網易號”用戶上傳并發布,本平臺僅提供信息存儲服務。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相關推薦
熱點推薦
動力電池下半場,瑞浦蘭鈞如何押注場景、平臺、全球化

動力電池下半場,瑞浦蘭鈞如何押注場景、平臺、全球化

芯流智庫
2026-04-26 11:10:21
1-0!沙特豪門衛冕亞冠冠軍 少打1人后加時賽絕殺 日本球隊3連亞

1-0!沙特豪門衛冕亞冠冠軍 少打1人后加時賽絕殺 日本球隊3連亞

我愛英超
2026-04-26 05:40:51
美日菲南海大規模軍演,解放軍不僅出動遼寧艦,就連四川艦也去了

美日菲南海大規模軍演,解放軍不僅出動遼寧艦,就連四川艦也去了

胖福的小木屋
2026-04-23 23:44:58
隨著38歲梅西多次射門無果+邁阿密國際1-1,美職聯最新積分榜出爐

隨著38歲梅西多次射門無果+邁阿密國際1-1,美職聯最新積分榜出爐

凌空倒鉤
2026-04-26 09:42:06
森林狼3比1掘金:逆境中殺出了多孫穆?!

森林狼3比1掘金:逆境中殺出了多孫穆?!

張佳瑋寫字的地方
2026-04-26 12:02:17
女大學生泰國旅游被高價轉賣緬甸園區,照片流出長這么好看被折磨太慘

女大學生泰國旅游被高價轉賣緬甸園區,照片流出長這么好看被折磨太慘

不二表姐
2026-04-24 22:41:14
35歲離婚,因嗜酒家財散盡,50歲中年又喪女,如今66歲騰格爾如何

35歲離婚,因嗜酒家財散盡,50歲中年又喪女,如今66歲騰格爾如何

白面書誏
2026-04-25 15:13:17
3000萬歐年薪!皇馬巨星要挾高層,不給就轉會,姆巴佩笑了

3000萬歐年薪!皇馬巨星要挾高層,不給就轉會,姆巴佩笑了

祥談體育
2026-04-25 16:59:55
扎心!15年全職太太討生活費,被丈夫辱罵“沒出息”“只會要錢”

扎心!15年全職太太討生活費,被丈夫辱罵“沒出息”“只會要錢”

火山詩話
2026-04-26 07:54:24
巴薩不愿3000萬買斷拉什福德原因曝光!進球逼近首冠,拉師傅正名

巴薩不愿3000萬買斷拉什福德原因曝光!進球逼近首冠,拉師傅正名

羅米的曼聯博客
2026-04-26 10:24:40
比斯利:詹姆斯說我長得嚇人,在我喪親時笑我褲子

比斯利:詹姆斯說我長得嚇人,在我喪親時笑我褲子

體壇周報
2026-04-26 11:49:24
全網尋找鄂WJP928司機!武漢警方:依法不予處罰

全網尋找鄂WJP928司機!武漢警方:依法不予處罰

環球網資訊
2026-04-26 08:19:12
聰明過頭!廣東一男子為兒子備婚房,將房產證落自己名下,引熱議

聰明過頭!廣東一男子為兒子備婚房,將房產證落自己名下,引熱議

火山詩話
2026-04-26 08:58:51
《八千里路云和月》大結局:張云魁犧牲,萬福也死了?玉嬌意難平

《八千里路云和月》大結局:張云魁犧牲,萬福也死了?玉嬌意難平

宇林網絡
2026-04-26 09:28:20
為什么你的電量焦慮出國就消失?

為什么你的電量焦慮出國就消失?

晚風也遺憾
2026-04-24 09:04:51
陳奕迅女兒陳康堤承認與香港網球一哥黃澤林戀愛:是家人介紹的

陳奕迅女兒陳康堤承認與香港網球一哥黃澤林戀愛:是家人介紹的

懂球帝
2026-04-25 16:34:10
兩男子應聘浦發銀行銷售代表,通過3輪面試,做了497元體檢,工資卡都辦好了,銀行卻以學歷不符為由拒絕入職

兩男子應聘浦發銀行銷售代表,通過3輪面試,做了497元體檢,工資卡都辦好了,銀行卻以學歷不符為由拒絕入職

大象新聞
2026-04-24 16:49:09
“明天下雨,面試能改天嗎”:角色定位不清,是成年人最大的災難

“明天下雨,面試能改天嗎”:角色定位不清,是成年人最大的災難

精讀君
2026-04-24 09:00:18
27+10+92.2%!效率逆天!最可怕的是,他連球隊老三都算不上

27+10+92.2%!效率逆天!最可怕的是,他連球隊老三都算不上

阿浪的籃球故事
2026-04-25 16:01:55
醪糟再次被關注!醫生發現:高血脂患者喝醪糟,不用多久4大變化

醪糟再次被關注!醫生發現:高血脂患者喝醪糟,不用多久4大變化

芹姐說生活
2026-04-19 15:52:53
2026-04-26 12:23:00
AI效率筆記
AI效率筆記
專注AI工具測評與效率提升。
398文章數 10關注度
往期回顧 全部

科技要聞

漲價浪潮下,DeepSeek推動AI“價格戰”

頭條要聞

白宮突發槍擊案 250名記者聯名要求將晚宴變維權現場

頭條要聞

白宮突發槍擊案 250名記者聯名要求將晚宴變維權現場

體育要聞

那一刻開始,兩支球隊的命運悄然改變了

娛樂要聞

《八千里路云和月》大結局意難平

財經要聞

DeepSeek V4背后,梁文鋒的轉身

汽車要聞

預售19.38萬元起 哈弗猛龍PLUS七座版亮相

態度原創

教育
藝術
旅游
房產
本地

教育要聞

壓軸出場的題目,很多小朋友都失分了

藝術要聞

鄭麗文訪問清華附中引發熱議,蔣中正信札字跡真實性遭質疑

旅游要聞

臺兒莊古城國潮文化季正式啟動 五一“入夢臺城”拉開帷幕

房產要聞

新一輪教育大爆發來了!海口,開始瘋狂建學校!

本地新聞

云游中國|逛世界風箏都 留學生探秘中國傳統文化

無障礙瀏覽 進入關懷版