從肆虐五年的“假靳東”騙局，到霍啟剛自曝每天處理上千條AI偽造內(nèi)容；

從AI藝人靠著“組裝臉”高調(diào)出道，到各路明星的肖像被隨意盜用牟利。

一個(gè)由AI換臉和聲音克隆形成的灰色圈子，正讓無數(shù)公眾人物淪為受害者。

而這一切，其實(shí)靳東早在多年前就已經(jīng)發(fā)出過提醒。

“假靳東”騙局蔓延五年

想必大部分人對“假靳東”騙局不陌生。

這個(gè)從2020年開始蔓延的騙局，已經(jīng)讓無數(shù)中老年女性深陷其中。

2020年，江西的黃奶奶深信“靳東”在短視頻里向她“全網(wǎng)告白”。

為了這個(gè)素未謀面的“男友”，她剪掉長發(fā)、與丈夫鬧翻。

甚至要一個(gè)人去長春見“東弟弟”。

2022年，上海的張奶奶加入了一個(gè)“靳東”粉絲團(tuán)。

被誘導(dǎo)參與應(yīng)援，短短時(shí)間就被騙走了20萬元。

慶幸的是2023年這個(gè)犯罪團(tuán)伙終于落網(wǎng)。

讓人意外的是，這些騙子全部是女性。

她們專門假冒“靳東”行騙，共騙取30余萬元，主犯最終被判處有期徒刑三年。

來源中國新聞網(wǎng)

這些“假靳東”就是利用了AI換臉和聲音克隆技術(shù)，在短視頻平臺批量制造出以假亂真的視頻。

一口一個(gè)“姐姐”“寶貝”，用甜言蜜語編織情感陷阱。

目標(biāo)就是那些獨(dú)居、缺乏情感陪伴的中老年女性。

案件雖然判了，可AI詐騙并沒有停止。

2024年，一位60多歲的奶奶到銀行堅(jiān)持要貸款200萬元。

聲稱是為了幫“男朋友靳東”拍戲。

直到民警反復(fù)勸說，她才意識到自己被騙了。

來源央視新聞

2024年，2025年，直到2026年兩會期間，靳東一直反復(fù)在提這件事。

他坦言，很多 AI 合成視頻盜用了他的聲音，講述的卻是他從未經(jīng)歷、也從未說過的內(nèi)容。

更無奈的是，他根本沒辦法一條條去澄清，哪些事是真的、哪些事是假的。

一個(gè)當(dāng)紅演員，竟然要被迫去解釋“哪些事我沒做過”。

這荒誕的背后，是AI技術(shù)帶來的亂象。

其實(shí)靳東早在2020年騙局剛曝光時(shí)就提醒過大家要仔細(xì)分辨。

可五年過去，這個(gè)惡俗的小圈子不但沒有消失，反而變本加厲。

霍啟剛發(fā)聲

3月23日，霍啟剛公開發(fā)文，控訴自己遭遇AI侵權(quán)。

而他遇到的情況，比之前靳東的遭遇還要更高級，也更難分辨。

就在不久前，霍啟剛再次發(fā)現(xiàn)大量盜用其個(gè)人形象的AI合成視頻。

這些視頻模仿了他的外貌與聲音，可所表達(dá)的立場與觀點(diǎn)卻與他本人完全無關(guān)。

即便身邊共事多年的同事，也需要反復(fù)辨認(rèn)才能確定并非本人出鏡。

更令人擔(dān)憂的是，這類虛假視頻還被別有用心之人利用，進(jìn)行各類違規(guī)商業(yè)宣傳。

他對此高度警惕，十分害怕普通民眾會因此陷入騙局，造成不必要的財(cái)產(chǎn)損失。

過去半年，隨著AI技術(shù)的普及，這類情況越來越夸張。

霍啟剛透露，他已經(jīng)處理過數(shù)千條相關(guān)偽造內(nèi)容，團(tuán)隊(duì)不得不指派專人全職負(fù)責(zé)此類維權(quán)工作。

幾千條虛假信息，每天都要清理，還要專人時(shí)刻盯著。

這，就是一個(gè)公眾人物面對AI侵權(quán)的真實(shí)日常。

而被AI困擾的靳東與霍啟剛，其實(shí)也只是冰山一角。

明星集體遭殃

2月26日，演員王勁松憤怒發(fā)聲：

“太可怕了，視頻、聲音、口型完全看不出真假，就這么直接盜用，把我AI了。”

但真正讓他憂心忡忡的，是未來可能愈演愈烈的安全隱患。

一句 “連家里人都認(rèn)不出來”，道盡了當(dāng)下AI侵權(quán)的無奈。

如果連最親近的家人都難以辨別真?zhèn)危瞧胀ňW(wǎng)友又該如何防范？

可即便明星們不斷發(fā)聲，AI侵權(quán)的亂象依舊沒有停止。

3月20日，迪麗熱巴勝訴的消息沖上熱搜。

某影視公司在自制短劇中，擅自運(yùn)用AI換臉技術(shù)，將迪麗熱巴的容貌移植到劇中人物身上。

經(jīng)過ai合成的畫面高度逼真，普通人難以分辨。

法院經(jīng)審理后作出判決，該劇制作方已經(jīng)構(gòu)成肖像權(quán)侵權(quán)。

而負(fù)責(zé)播出的平臺方?jīng)]有盡到相應(yīng)的審核與管理義務(wù)，也需要承擔(dān)對應(yīng)的法律責(zé)任。

兩家被告均被要求公開發(fā)布致歉聲明，并賠償相應(yīng)的經(jīng)濟(jì)損失。

而就在同一天，楊紫工作室也發(fā)布嚴(yán)正聲明：怒斥AI換臉亂象。

事實(shí)上，遭到AI侵權(quán)困擾的遠(yuǎn)不止娛樂圈的明星們。

就連不少知名運(yùn)動(dòng)員，也同樣沒能躲過這場亂象。

如果說普通的換臉操作，是直接將明星的樣貌疊加在他人身上。

那么還有一種更為隱蔽的侵權(quán)形式，就是利用AI打造與真人高度相似的虛擬藝人。

AI藝人出道

3月18日，耀客傳媒正式推出兩名AI虛擬藝人林汐顏和秦凌岳。

不僅為兩人開通多個(gè)社交賬號進(jìn)行全面運(yùn)營，還宣布他們將拍戲。

可這兩位看似全新的虛擬藝人，一亮相就撞臉多位明星。

男虛擬人秦凌岳的外形與演員翟子路高度相似；

女虛擬人林汐顏則糅合了趙今麥、邢菲等多位女演員的面部特點(diǎn)。

隨后，央視也專門發(fā)文，點(diǎn)名批評了這種“融臉”行為。

專家表示，只要AI數(shù)字藝人的形象能讓公眾穩(wěn)定聯(lián)想到某個(gè)特定真人。

不管是不是刻意模仿，都有可能涉嫌侵權(quán)。

來源央視新聞

從靳東到霍啟剛，從迪麗熱巴到楊紫，這份被AI侵權(quán)的名單還在不斷變長。

比起這些成年人面對的困擾，還有一個(gè)更脆弱的群體正暴露在更大的風(fēng)險(xiǎn)之下。

靳東呼吁

在今年的兩會發(fā)言中，靳東特別提到了一個(gè)更需要守護(hù)的群體“青少年”。

“如今科技發(fā)展太快了，別說一年半載，有時(shí)候短短一兩個(gè)月就會發(fā)生翻天覆地的變化。”

正因如此，各類安全防護(hù)手段應(yīng)當(dāng)提前布局與落實(shí)。

針對未成年人的保護(hù)工作，更需要推行更為嚴(yán)格與周全的方案。

靳東的擔(dān)憂絕非多余。

連心智成熟的成年人都難以分辨AI真假，更何況是涉世未深的青少年？

他們正處在價(jià)值觀形成的關(guān)鍵階段，如果長期被虛假信息包圍，辨別是非的能力會被慢慢削弱。

那些包裝精致的“AI藝人”、那些精心編造的“偶像告白”。

對青少年的影響，往往比成年人更深、更難逆轉(zhuǎn)。

更讓人警惕的是，這些技術(shù)很可能被用來專門針對青少年設(shè)局。

今天騙的是中老年粉絲，明天，被騙的就可能是追星的少男少女。

結(jié)語

科技是一把雙刃劍。

它帶來了便利，也帶來了傷害。

當(dāng)技術(shù)發(fā)展到“真的像假的，假的反倒猖獗”的程度。

我們能做的，不是因噎廢食，而是給技術(shù)加上護(hù)欄，給應(yīng)用劃出底線。