從肆虐五年的“假靳東”騙局，到霍啟剛自曝每天處理上千條AI偽造內(nèi)容；

從AI藝人靠著“組裝臉”高調(diào)出道，到各路明星的肖像被隨意盜用牟利。

一個由AI換臉和聲音克隆形成的灰色圈子，正讓無數(shù)公眾人物淪為受害者。

而這一切，其實靳東早在多年前就已經(jīng)發(fā)出過提醒。

“假靳東”騙局蔓延五年

想必大部分人對“假靳東”騙局不陌生。

這個從2020年開始蔓延的騙局，已經(jīng)讓無數(shù)中老年女性深陷其中。

2020年，江西的黃奶奶深信“靳東”在短視頻里向她“全網(wǎng)告白”。

為了這個素未謀面的“男友”，她剪掉長發(fā)、與丈夫鬧翻。

甚至要一個人去長春見“東弟弟”。

2022年，上海的張奶奶加入了一個“靳東”粉絲團。

被誘導參與應援，短短時間就被騙走了20萬元。

慶幸的是2023年這個犯罪團伙終于落網(wǎng)。

讓人意外的是，這些騙子全部是女性。

她們專門假冒“靳東”行騙，共騙取30余萬元，主犯最終被判處有期徒刑三年。

來源中國新聞網(wǎng)

這些“假靳東”就是利用了AI換臉和聲音克隆技術，在短視頻平臺批量制造出以假亂真的視頻。

一口一個“姐姐”“寶貝”，用甜言蜜語編織情感陷阱。

目標就是那些獨居、缺乏情感陪伴的中老年女性。

案件雖然判了，可AI詐騙并沒有停止。

2024年，一位60多歲的奶奶到銀行堅持要貸款200萬元。

聲稱是為了幫“男朋友靳東”拍戲。

直到民警反復勸說，她才意識到自己被騙了。

來源央視新聞

2024年，2025年，直到2026年兩會期間，靳東一直反復在提這件事。

他坦言，很多 AI 合成視頻盜用了他的聲音，講述的卻是他從未經(jīng)歷、也從未說過的內(nèi)容。

更無奈的是，他根本沒辦法一條條去澄清，哪些事是真的、哪些事是假的。

一個當紅演員，竟然要被迫去解釋“哪些事我沒做過”。

這荒誕的背后，是AI技術帶來的亂象。

其實靳東早在2020年騙局剛曝光時就提醒過大家要仔細分辨。

可五年過去，這個惡俗的小圈子不但沒有消失，反而變本加厲。

霍啟剛發(fā)聲

3月23日，霍啟剛公開發(fā)文，控訴自己遭遇AI侵權。

而他遇到的情況，比之前靳東的遭遇還要更高級，也更難分辨。

就在不久前，霍啟剛再次發(fā)現(xiàn)大量盜用其個人形象的AI合成視頻。

這些視頻模仿了他的外貌與聲音，可所表達的立場與觀點卻與他本人完全無關。

即便身邊共事多年的同事，也需要反復辨認才能確定并非本人出鏡。

更令人擔憂的是，這類虛假視頻還被別有用心之人利用，進行各類違規(guī)商業(yè)宣傳。

他對此高度警惕，十分害怕普通民眾會因此陷入騙局，造成不必要的財產(chǎn)損失。

過去半年，隨著AI技術的普及，這類情況越來越夸張。

霍啟剛透露，他已經(jīng)處理過數(shù)千條相關偽造內(nèi)容，團隊不得不指派專人全職負責此類維權工作。

幾千條虛假信息，每天都要清理，還要專人時刻盯著。

這，就是一個公眾人物面對AI侵權的真實日常。

而被AI困擾的靳東與霍啟剛，其實也只是冰山一角。

明星集體遭殃

2月26日，演員王勁松憤怒發(fā)聲：

“太可怕了，視頻、聲音、口型完全看不出真假，就這么直接盜用，把我AI了。”

但真正讓他憂心忡忡的，是未來可能愈演愈烈的安全隱患。

一句 “連家里人都認不出來”，道盡了當下AI侵權的無奈。

如果連最親近的家人都難以辨別真?zhèn)危瞧胀ňW(wǎng)友又該如何防范？

可即便明星們不斷發(fā)聲，AI侵權的亂象依舊沒有停止。

3月20日，迪麗熱巴勝訴的消息沖上熱搜。

某影視公司在自制短劇中，擅自運用AI換臉技術，將迪麗熱巴的容貌移植到劇中人物身上。

經(jīng)過ai合成的畫面高度逼真，普通人難以分辨。

法院經(jīng)審理后作出判決，該劇制作方已經(jīng)構成肖像權侵權。

而負責播出的平臺方?jīng)]有盡到相應的審核與管理義務，也需要承擔對應的法律責任。

兩家被告均被要求公開發(fā)布致歉聲明，并賠償相應的經(jīng)濟損失。

而就在同一天，楊紫工作室也發(fā)布嚴正聲明：怒斥AI換臉亂象。

事實上，遭到AI侵權困擾的遠不止娛樂圈的明星們。

就連不少知名運動員，也同樣沒能躲過這場亂象。

如果說普通的換臉操作，是直接將明星的樣貌疊加在他人身上。

那么還有一種更為隱蔽的侵權形式，就是利用AI打造與真人高度相似的虛擬藝人。

AI藝人出道

3月18日，耀客傳媒正式推出兩名AI虛擬藝人林汐顏和秦凌岳。

不僅為兩人開通多個社交賬號進行全面運營，還宣布他們將拍戲。

可這兩位看似全新的虛擬藝人，一亮相就撞臉多位明星。

男虛擬人秦凌岳的外形與演員翟子路高度相似；

女虛擬人林汐顏則糅合了趙今麥、邢菲等多位女演員的面部特點。

隨后，央視也專門發(fā)文，點名批評了這種“融臉”行為。

專家表示，只要AI數(shù)字藝人的形象能讓公眾穩(wěn)定聯(lián)想到某個特定真人。

不管是不是刻意模仿，都有可能涉嫌侵權。

來源央視新聞

從靳東到霍啟剛，從迪麗熱巴到楊紫，這份被AI侵權的名單還在不斷變長。

比起這些成年人面對的困擾，還有一個更脆弱的群體正暴露在更大的風險之下。

靳東呼吁

在今年的兩會發(fā)言中，靳東特別提到了一個更需要守護的群體“青少年”。

“如今科技發(fā)展太快了，別說一年半載，有時候短短一兩個月就會發(fā)生翻天覆地的變化。”

正因如此，各類安全防護手段應當提前布局與落實。

針對未成年人的保護工作，更需要推行更為嚴格與周全的方案。

靳東的擔憂絕非多余。

連心智成熟的成年人都難以分辨AI真假，更何況是涉世未深的青少年？

他們正處在價值觀形成的關鍵階段，如果長期被虛假信息包圍，辨別是非的能力會被慢慢削弱。

那些包裝精致的“AI藝人”、那些精心編造的“偶像告白”。

對青少年的影響，往往比成年人更深、更難逆轉(zhuǎn)。

更讓人警惕的是，這些技術很可能被用來專門針對青少年設局。

今天騙的是中老年粉絲，明天，被騙的就可能是追星的少男少女。

結語

科技是一把雙刃劍。

它帶來了便利，也帶來了傷害。

當技術發(fā)展到“真的像假的，假的反倒猖獗”的程度。

我們能做的，不是因噎廢食，而是給技術加上護欄，給應用劃出底線。