北京
最近香港一個公司職員，參加總部CFO（首席財務官）舉辦的多人視頻會議，然后按照會議上領導的要求轉賬了2億港元，誰知道轉賬完后向總部查詢才知道上當了：視頻會議中所有人全是假的，都是AI換臉的。
很多人不知道這種案件是怎么發生的，其實原理并不復雜，詐騙 人員 肯定是團伙作案，做了很 久的布局，比方說冒 充職 員 或者其他方式 偷 偷錄制 這個公司相關人員 的視頻和 聲音，然后使 用 AI軟件 生成對 應樣本，然后黑入 視頻會議系統并 開啟人物AI換臉 即可。
如果你使用過抖音出品的剪映，可以體驗類似的功能，數字人+模仿音色。前者是一個制作好的人物視頻樣本，模仿音色功能可以在幾秒鐘內模仿出你的音色，然后你打一段文字，就可以讓數字人按照你的音色朗讀朗讀指定的文字，數字人朗讀的時候口型都能對得上。抖音為了防止這種AI技術被濫用，是做了限制的，比如只能用系統內置的數字人，模仿音色必須要錄制者念一段文字才能模仿。
目前市面上一些稍微復雜的開源AI軟件，可以模仿任何人的音色，制作任何人的數字人樣本，這就給了一些別有用心的人可乘之機，將其用在非法用途上。隨著技術的日漸成熟，這些功能遲早會平民化，人人都能制造出AI換臉+模仿音色功能，讓你很難分辨出視頻的真假。利用AI造假欺詐、勒索的案件可能會持續一段時間。
AI換臉，一般是換領導等上級的臉，以上令下實現目的。 如何對抗AI模仿？
1、利用技術的漏洞。
目前的AI技術其實還不算成熟，它依靠海量數據的動作進行推理，所以，你只要對方做一個少見的動作，AI學習的數據里沒有這個動作，就容易 露出馬腳 。
比如有技術專家說可以讓對方在視 頻前 手捏 臉和 鼻子，看視頻中對方的臉或鼻子 是否 會變形。但這只 能短期應對，AI 訓練遲早會在對抗中演化完善。
還有類似的辦法是讓對方的手掌在臉前面快速揮動，看臉是否會變，這其實也是考驗AI換臉主機的性能，實時換臉非常耗費算力，突然在臉前加入其他元素，會加大計算難度，造成換臉延遲。
但這兩種辦法都有一些不方便的地方，首先技術可能會補上漏洞，其次有時候你要求對方去做一些動作很奇怪。
2、古老的虎符原理
虎符是一種實物化的暗號：春秋戰國時期，曾流行過虎符，一只身體刻有文字的老虎模型分為兩半，君候一半，出征在外的將軍一半，使者帶著君候那一半去找將軍完美合在一起，就代表著將軍可以開戰或其他指示。
因此視頻會 議雙方，如 果發 生重大決策，可以使 用雙方事先約定過 的暗號 ， 對上了暗號 另一方 才可執行。這個暗號可以是虎符那樣少見的 實物視頻互相 驗證。
也可以是一段口令，比如你 說“ 天王蓋地虎 ”，對方 必須 回答“洋蔥炒豆腐 ”才算對上口令，回答錯誤立刻結束會議 。這種方式雖然很古老，但是很管用。
如果是親朋好友，可以提問對方一件雙方都知道，但外人不知道的事件，來確認是否是對方。
3、主動驗證
香港的職員如何發現受騙，是因為他時候向總部打電話查詢驗證的。
如果在發生重大決策前，當場就打電話或許可以避免。畢竟固定電信和移動通信運營商線路是很難被入侵的，直接撥打對方電話也是比較可靠的驗證方式。
一定要反撥對方的號碼，因為你接的電話可能受到偽基站或者VOIP設備影響，但你反撥回去一般不會出錯，打過去說剛才不小心電話掛了，然后再確認消息。
不盲從、看世界，從現在開始
珍愛老桃，順手“在看”
特別聲明：以上內容(如有圖片或視頻亦包括在內)為自媒體平臺“網易號”用戶上傳并發布，本平臺僅提供信息存儲服務。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
