技術從未如此深刻地介入欺詐與反欺詐的博弈,當詐騙遇上“AI”工具,法律該如何維護我們的權益?近日,段和段律師事務所合伙人吳堅律師做客律新社時表示,AI帶來的不是簡單的工具升級,而是犯罪邏輯的重塑:技術迭代壓縮了防御反應時間,深度偽造瓦解了信任根基,工業化生產則讓欺詐得以規模化蔓延。
吳堅表示,AI技術始終是一把雙刃劍。深度偽造等AI技術使欺詐行為更趨隱蔽,但虛擬資產交易等環節仍留有可追溯痕跡,這恰恰說明技術問題終究需要技術手段來應對。
當前證據規則與資產追蹤方法面臨的核心挑戰在于,人工智能的應用邊界尚未清晰,使用方式缺乏統一規范,運行過程中的風險控制機制仍不健全。更值得關注的是,人工智能倫理道德規范的缺失——若缺乏法律與道德的雙重約束,深度偽造內容的甄別、溯源及責任認定將愈加困難,進而對傳統證據規則和資產追蹤體系構成系統性沖擊。
他認為,技術問題終究需要技術回應,而法律人的職責,是在擁抱工具的同時守住邊界:用AI提升效率,以專業完成最后的校驗。
AI技術最可能從哪些維度影響欺詐犯罪的模式與規模?吳堅表示,AI技術或從三個維度重塑欺詐犯罪,其影響是結構性的。首先是,技術迭代極快。通用人工智能(AGI)的應用正以“月”為單位加速。這意味著欺詐手段的更新周期被極度壓縮,防御方將面臨持續且快速演進的技術挑戰。其次欺騙性發生質變。基于深度偽造的詐騙可實時生成與親友完全一致的音視頻,徹底顛覆了基于身份、聲音的傳統信任驗證機制,使得識別與防范變得極為困難。再有,犯罪趨于工業化。
談及應對AI欺詐,法律服務機構如何提前革新自身的服務模式或工具等問題。吳堅表示,應對AI驅動的欺詐,法律服務須前置性地升級模式與工具。鼓勵律師,特別是年輕一代,應主動將AI深度融入工作流程,使其成為類似法律檢索的高效日常助手。但關鍵在于設立清晰邊界與風險控制機制。AI目前仍可能生成誤導性信息,因此所有產出必須經過律師基于專業知識的“雙重核查”,確保結果準確可靠。技術應服務并增強于專業判斷,而絕不能替代人的最終責任。(供稿人:王輝)
特別聲明:以上內容(如有圖片或視頻亦包括在內)為自媒體平臺“網易號”用戶上傳并發布,本平臺僅提供信息存儲服務。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.