![]()
人工智能技術(shù)迅速發(fā)展,隨之而來是AI換臉技術(shù)濫用問題的日益突出,此前有多位名人肖像頻遭盜用,成為主要受害群體。
談及如何應(yīng)對AI虛假換臉,全國政協(xié)委員、香港著名演員甄子丹4日下午對記者表示,“詐騙必須要報警,我們是法律的國家,各種違法的東西我們都可以去投訴報警。”
另據(jù)瀟湘晨報,全國政協(xié)委員靳東4日也回應(yīng)了AI換臉亂象,他表示AI換臉技術(shù)不只是用在短劇,很多人也因為AI換臉遭遇網(wǎng)絡(luò)詐騙。靳東稱AI正從多方面影響影視創(chuàng)作,自己也正在學(xué)習(xí)AI,不論未來AI對行業(yè)產(chǎn)生何種效果,都得主動去學(xué)習(xí),去掌握。
01
多位名人被AI假冒
Hot
利用AI假冒名人來帶貨等現(xiàn)象已屢見不鮮。
今年2月26日,演員王勁松曾發(fā)文稱自己的形象被AI盜用生成視頻:太可怕了,視頻。聲音,口型完全看不出來真假。
![]()
隨后,他在評論區(qū)曬出投訴截圖并表示相關(guān)視頻已刪除。
![]()
2025年6月,北京市海淀區(qū)市場監(jiān)管局查處了某公司利用AI技術(shù)冒用央視知名主持人名義和形象的虛假廣告案。
通報稱,有消費者舉報,北京某公司通過視頻賬號宣傳所銷售的“深海多烯魚油”能夠治療多種疾病,涉嫌虛假宣傳。在宣傳的直播中還出現(xiàn)了央視主持人李梓萌的形象。
調(diào)查結(jié)果顯示,該公司銷售的深海多烯魚油產(chǎn)品實際執(zhí)行標(biāo)準為糖果,屬于普通食品,不具備疾病治療功能。另一方面,經(jīng)鑒定,視頻中的主持人形象完全是利用AI技術(shù)偽造生成。該公司違反了《中華人民共和國廣告法》相關(guān)規(guī)定,已接受行政處罰。
![]()
演員溫崢嶸也曾自曝深受其害。溫崢嶸在去年4月就發(fā)現(xiàn)自己被AI盜播,同一時段現(xiàn)身多個直播間帶貨不同產(chǎn)品,本尊上前質(zhì)問竟被秒拉黑,直言“很難證明我是我”。
此后她多次在直播中強調(diào)“自己不是AI”,賬號主頁也標(biāo)注“除了本賬號直播其他賬號均為假冒”,并呼吁粉絲甄別真?zhèn)巍⒓皶r投訴舉報假冒內(nèi)容。
![]()
去年4月,演員張馨予發(fā)布微博稱,發(fā)現(xiàn)有品牌用AI復(fù)制聲音的方式,未經(jīng)授權(quán)剪輯投放減肥廣告,偽造出她為某款減肥產(chǎn)品代言的假象。
同年8月,還有博主利用AI克隆奧運冠軍全紅嬋的聲音推銷土雞蛋。孫穎莎、王楚欽同樣遭遇了聲音被“克隆”后直播帶貨的境況。
![]()
![]()
還有商家偽造劉濤、張柏芝、舒淇等多位明星的AI形象,站臺某品牌面膜,制造“眾星捧場”的虛假營銷場面。
02
利用AI換臉等假冒公眾人物牟利
一批賬號被處置
Hot
就在春節(jié)假期前夕,網(wǎng)信部門曾集中通報一批網(wǎng)絡(luò)賬號被處置的消息。
通報中提到:微信賬號“浮萍9419”、微博賬號“乘風(fēng)已歸來”、快手賬號“東東情感”等,以AI換臉、聲音克隆等方式,假冒運動員、演員、主持人、企業(yè)家等公眾人物,發(fā)布不實言論,借此吸粉引流,或未經(jīng)授權(quán),售賣AI生成的公眾人物“送祝福”“拜年”等視頻,從中不當(dāng)牟利。相關(guān)賬號已被依法依約處置。
3月2日,微信珊瑚安全發(fā)布公告:近期,微信平臺發(fā)現(xiàn)部分違規(guī)賬號利用AI技術(shù)仿冒名人,通過偽造其形象、聲音進行違規(guī)引流或虛假宣傳。此類行為不僅嚴重侵害當(dāng)事人合法權(quán)益,也易誤導(dǎo)和欺騙廣大用戶。為進一步維護網(wǎng)絡(luò)空間秩序,保護用戶與公眾人物合法權(quán)益,平臺結(jié)合用戶舉報、日常巡查及技術(shù)識別,已第一時間對相關(guān)違規(guī)內(nèi)容及賬號進行從嚴處置。近期,微信平臺累計處置此類仿冒違規(guī)內(nèi)容1.3萬余條,處置違規(guī)賬號1200余個。典型案例如下:
![]()
AI視頻可能觸犯哪些法條?
![]()
北京市康達律師事務(wù)所合伙人羅娟表示,濫用AI換臉、聲音克隆主要涉及《民法典》第一千零一十八條(肖像權(quán)保護)、第一千零二十四條(名譽權(quán)保護)。未經(jīng)同意商用他人肖像、聲音,直接侵犯肖像權(quán);若生成內(nèi)容虛假誤導(dǎo)(如虛假代言、不當(dāng)言論),會損害他人名譽權(quán)。
03
全國人大代表談“AI換臉”
怎么才能管控?
Hot
AI換臉技術(shù)現(xiàn)在越來越厲害,帶來的風(fēng)險和問題也不少。怎么管好它?幾位人大代表給出了自己的建議。
01
從技術(shù)源頭抓起
一位搞大數(shù)據(jù)的企業(yè)家代表(黃勇)提出,要管好AI換臉,關(guān)鍵得從技術(shù)源頭下手。
他建議國家趕緊出臺相關(guān)法規(guī),強制要求所有圖像、視頻都必須帶上時間、地點這類“時空標(biāo)識”。特別是人臉數(shù)據(jù),不能隨便亂采亂用。同時,所有AI換臉工具都得內(nèi)置這種標(biāo)識碼,再用區(qū)塊鏈技術(shù)把信息存下來,這樣一旦出了問題,就能查到源頭,誰干的壞事也跑不掉。
02
法律規(guī)則要更細致
另一位律師代表(李世亮)覺得,雖然現(xiàn)有法律對保護個人信息、肖像權(quán)等有規(guī)定,但在實際打官司時,經(jīng)常遇到“同案不同判”、證據(jù)難認定、責(zé)任分不清等問題。
所以他呼吁最高人民法院盡快出個詳細的司法解釋,結(jié)合具體案例,把AI換臉侵權(quán)的標(biāo)準、平臺該負什么責(zé)、精神損害怎么賠償?shù)榷贾v清楚,讓法律用起來更順手。
03
平臺要方便用戶維權(quán)
還有一位來自企業(yè)的代表(丁雪梅)發(fā)現(xiàn),普通人遇到AI換臉侵權(quán),維權(quán)特別難。
她建議各大網(wǎng)絡(luò)平臺開通“一鍵投訴”功能,專門受理那些用AI換臉造謠、損害別人名譽和肖像的行為。這樣老百姓投訴有門,處理起來也快,權(quán)益才能得到保障。
04
大家一起來管
最后,代表們都強調(diào),治理AI換臉不是哪一家的事,得靠全社會一起努力。法院要多公布典型案例,給行業(yè)立規(guī)矩;立法和司法要跟上技術(shù)發(fā)展,及時補上漏洞;技術(shù)企業(yè)要自覺,守住底線,管好數(shù)據(jù)和內(nèi)容;網(wǎng)信、公安等部門也要加強監(jiān)管,嚴厲打擊用AI換臉干的壞事,經(jīng)常清理那些非法的工具和平臺。
簡單來說,就是技術(shù)上要打標(biāo)記、法律上要定細則、平臺上要開通道、全社會要一起管,這樣才能讓AI換臉技術(shù)在帶來樂趣的同時,不成為傷人的工具。
你有試過AI換臉嗎?
歡迎在評論區(qū)留言討論一下
![]()
編輯:Selex
圖文來源:南方日報、河南日報
如有侵權(quán),請聯(lián)系刪除
廣東最生活出品,轉(zhuǎn)載請聯(lián)系
商務(wù)聯(lián)系:13826064787(微信同號)
特別聲明:以上內(nèi)容(如有圖片或視頻亦包括在內(nèi))為自媒體平臺“網(wǎng)易號”用戶上傳并發(fā)布,本平臺僅提供信息存儲服務(wù)。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.