*本文為《半月談內部版》2026年第6期內容

視頻里“孫子”哭訴惹禍急需賠錢，電話那頭“好友”的聲音如常，連咳嗽習慣都一模一樣……你敢相信這竟是AI生成的“數字替身”嗎？

隨著AI技術的快速發展，一些不法分子的詐騙手段也在不斷升級，從盜圖、偷聲到合成文書、“數字人”，讓人防不勝防。黑灰產正在從“堆資源、拼人力”的傳統模式，轉向更隱蔽、更低成本、更接近真實用戶行為的“類真人化、智能化”階段。

從盜圖、偷聲到“數字人”

AI詐騙不斷升級

今年3月，家住西部某市83歲的陳婆婆接到“兒子”的電話，稱遭遇意外，需現金“疏通關系”，并讓陳婆婆在約定地點將3萬元交給前來取款的人。當陳婆婆正要將錢交給兩名形跡可疑的年輕人時，被路過的基層干部發現并報警，兩名詐騙分子慌忙駕車逃離。后經查發現，陳婆婆接到的電話系不法分子使用AI合成聲音打來的。

湖北省黃石市黃石港區人民法院去年底也審結了一起類似的AI詐騙案件。一位老人接到“孫子”打來的電話，“孫子”哭訴在學校與同學發生沖突并失手傷人，需賠償4萬元“私了”，對方家長要上門取錢。前來取款的詐騙分子吳某為讓老人深信不疑，還接通了“孫子”的電話，讓老人確認……同一天，相同的騙局還在另外兩位老人身上上演。吳某在“上線”的遙控指揮下，騙取3位老人共計6萬元。法院審理發現，不法分子使用的AI擬聲技術能高度還原人聲音色，并可實時對話交互，這成為詐騙得逞的關鍵。

半月談記者采訪了解到，近些年AI技術持續迭代，不法分子利用AI技術進行詐騙的手段也在升級，從此前單一的盜圖、換臉、偷聲進行欺詐，到現在可以多模態生成以假亂真的文書證件、動態視頻以及能交互的“數字人”，給群眾甄別違法犯罪增加了難度。

上海一消費者利用AI軟件篡改他人的醫院就診記錄，偽造自己因食用某烤肉店食物而“吃壞肚子”的病歷和發票，以此向商家索賠并威脅向監管部門投訴，商家為息事寧人，最終轉賬賠付；福建某企業負責人郭先生在視頻通話中目睹“好友”面容并親聞其聲，10分鐘內被騙轉賬430萬元，事后發現對方竟是AI合成的“數字替身”；犯罪嫌疑人利用某支付平臺漏洞，利用AI技術將他人照片合成視頻進行人臉識別驗證，從而盜刷他人醫保卡……

此類新型AI詐騙在全國各地屢見不鮮。國內一家專注于黑灰產情報和反欺詐技術的機構發布的《2025年互聯網黑灰產趨勢年度總結》顯示，生成式AI與智能體技術的爆發，不僅為產業創新帶來了機遇，也為黑灰產提供了低門檻、高效率的自動化工具。

新技術為何成了新騙術？

AI技術的快速迭代讓使用AI的要求與成本大幅降低，加上監管制度尚不完善、平臺責任落實不到位、公眾防范意識薄弱等，讓不法分子找到了可乘之機。

《2025年互聯網黑灰產趨勢年度總結》指出，傳統網絡黑灰產依賴昂貴的硬件，并對編程等技能有較高要求，而AI智能體賦能后，不法分子無需硬件以及編程等技能，通過語言指令就能一鍵式操作，且視覺效果從“僵硬”走向“毛孔級真實”，讓攻擊成本呈指數級下降。

一些網絡黑灰產團伙在暗網和一些論壇獲取AI工具，價格從幾元到數百元不等，并通過社交平臺、公共視頻等渠道獲取人臉或語音數據，成本幾乎為零。外交學院信息化辦公室主任王大印表示，造假成本低，但通過詐騙、流量變現可獲得暴利，形成了AI詐騙的經濟驅動力。

在AI詐騙技術升級的同時，相應的攔截和識別技術仍滯后。專注于人工智能安全與治理的“安遠AI”安全治理主管方亮認為，造假技術的進步也推動著檢測技術的發展，但目前造假技術的迭代速度往往更快。從事數字筆跡AI識別技術的重慶親筆簽數字科技有限公司聯席總裁賀英輝表示，人臉、指紋、聲音等單一生物特征認證方式，正面臨AI深度偽造的威脅，已無法滿足高安全場景需求，數字身份基礎設施亟待升級加固。

給技術戴上“緊箍”

近年來，相關部門先后出臺了《生成式人工智能服務管理暫行辦法》《人工智能生成合成內容標識辦法》等，推動AI技術合規發展。業內人士認為，對于用AI換臉實施詐騙或誹謗的定性、平臺應承擔的審查責任邊界等問題，現有法律法規還需進一步明確和細化，壓實互聯網平臺對AI造假內容的識別和監管責任，建立AI詐騙的國際執法協作機制。實施“風險分級治理”：對醫療診斷、司法證據等 “高風險” 場景，設定嚴格的技術標準、透明度與監管要求；對普通娛樂、創作等 “有限風險” 場景，則以顯著標識和用戶知情管理為主。王大印認為，在現有法律框架內，可明確對利用AI實施詐騙、誹謗、侵犯肖像權等行為的加重處罰情節，提高違法成本。

相關執法部門可開展專項執法行動，完善舉報投訴機制，嚴懲實施AI詐騙的關鍵主體。對組織研發AI詐騙技術、工具者，策劃實施詐騙的組織者，以及累犯、慣犯，堅持依法從嚴懲處。

王大印認為，技術上的可追溯是實現法律上可問責的前提，需要強制推行數字水印等可追溯技術。賀英輝介紹，與人臉、指紋等靜態生物特征不同，數字筆跡包含筆畫、筆序、筆壓、筆速等上百項動態生物特征數據，這些筆跡數據具有極強的個人唯一性，AI也難以模仿，可有效避免AI盜圖進行認證造假。

受訪民警提示，如遇親友、領導、客服等線上要求轉賬，務必當面二次核實，絕不輕信單一渠道信息。視頻通話可讓對方做眨眼、擋臉等動作辨別AI換臉，留意語音有無機械感、有無自然呼吸停頓。及時安裝國家反詐中心App，一旦被騙，立即報警并留存聊天、轉賬等全部證據。

半月談記者：周凱 鄭世昌

原標題：《“孫子”成了數字人，視頻里哭碎心》