當(dāng) AI 一本正經(jīng)地 “胡說八道” 從訂餐烏龍、誤導(dǎo)退票，演變?yōu)閼{空捏造犯罪事實、惡意詆毀個人名譽，技術(shù)的邊界在哪里？誰該為 AI 的 “幻覺” 買單？

去年9月，北京錦鐘律所黃貴耕律師因被AI造謠“威脅法官、偽造印章”，將涉事平臺告上法庭。6月12日，在南都舉辦的數(shù)字經(jīng)濟治理沙龍現(xiàn)場，黃貴耕結(jié)合自身維權(quán)經(jīng)歷，剖析了生成式AI侵權(quán)背后的現(xiàn)實困境與法律爭議。“我從未對AI宣戰(zhàn)，我抵制的是將AI幻覺作為惡意侵權(quán)擋箭牌的行為。”

黃貴耕律師在論壇現(xiàn)場在線發(fā)言。

從“荒誕烏龍”到“惡意誹謗”AI幻覺侵權(quán)正演變?yōu)楣参：?/strong>

“作為一名執(zhí)業(yè)律師，我親身經(jīng)歷了被AI平臺捏造虛假信息、惡意誹謗的全過程。”在論壇分享環(huán)節(jié)，黃貴耕展示了一組截圖。截圖中，AI精準(zhǔn)標(biāo)注了他的姓名和執(zhí)業(yè)機構(gòu)，并憑空捏造出他“威脅法官”“介紹賄賂”“偽造印章”“涉嫌刑事犯罪被吊銷執(zhí)照”等惡劣情節(jié)。

黃貴耕表示，這些虛假負(fù)面信息被案件當(dāng)事人及親友廣泛傳播，致使他的社會評價嚴(yán)重貶損，潛在客戶流失不可估量，承受著巨大的精神壓力。

這并非孤例。據(jù)黃貴耕介紹，南京李小亮律師、北京安振杰律師均遭涉事AI及其旗下產(chǎn)品捏造定罪判刑的虛假內(nèi)容；公益人士寇延丁被無端誣陷“判刑十三年”；山東青年冀承祥被惡意編造“組織賣淫罪”；就連“清芝靈卵磷脂”“棲賢山黃酒”等企業(yè)產(chǎn)品也未能幸免，被造謠為禁售商品。除了李小亮一案已宣判外，律師黃貴耕、作家寇延丁兩人分別提起的另外兩起訴訟，目前仍處于法院審理程序。

“從自然人到企業(yè)，受害者范圍持續(xù)擴大。”黃貴耕指出，這類頻繁侵害不特定個人名譽權(quán)的行為，已不僅是針對個人的傷害，更暴露出極大的公共危害性，勢必造成社會秩序混亂和公眾對AI技術(shù)的信任崩塌。

在黃貴耕的維權(quán)交涉中，涉事平臺搬出“AI幻覺”作為擋箭牌，聲稱這是當(dāng)前大模型技術(shù)發(fā)展的局限性。對此，黃貴耕不能認(rèn)同。在他看來，“AI幻覺”本質(zhì)是模型對數(shù)據(jù)分布的錯誤理解，通常表現(xiàn)為位置不準(zhǔn)、數(shù)量偏差等輕微瑕疵。這與該平臺編造他人罪名、篡改司法記錄等行為的危害性不可等同，絕非“不可避免的技術(shù)誤差”。他也同步橫向?qū)Ρ攘硕拱eepSeek、千問等同類AI產(chǎn)品，發(fā)現(xiàn)在輸入相同關(guān)鍵詞后，其他主流大模型均能通過過濾機制攔截侵權(quán)內(nèi)容。

黃貴耕從技術(shù)歸因角度剖析了涉事平臺輸出的核心原因：一是訓(xùn)練數(shù)據(jù)缺陷，平臺未接入權(quán)威數(shù)據(jù)庫，反而在抓取網(wǎng)絡(luò)負(fù)面信息后擅自“去匿名化”，將他人處罰記錄張冠李戴；二是算法設(shè)計導(dǎo)向偏差，在交互中反復(fù)通過“關(guān)聯(lián)問題引導(dǎo)”主動推送負(fù)面提問，靠流量變現(xiàn)驅(qū)動侵權(quán)；三是校驗機制缺失，對涉及犯罪事實等高風(fēng)險內(nèi)容沒有任何人工核驗或風(fēng)險提示。

“AI幻覺”成平臺侵權(quán)擋箭牌？享受AI紅利必須承擔(dān)對等責(zé)任

在遭遇AI侵權(quán)后，受害者面臨的最大痛點是“算法黑箱”。普通人很難證明平臺在數(shù)據(jù)投喂和算法設(shè)計中存在具體過錯，也難以溯源虛假信息究竟是哪一次交互引發(fā)的。這種技術(shù)壁壘讓受害者在維權(quán)時處于絕對弱勢。

AI侵權(quán)發(fā)生后，平臺是否真的無法核查和糾錯？黃貴耕在論壇現(xiàn)場引用了山東教育電視臺的一則報道：騰訊元寶AI在除夕夜出現(xiàn)辱罵用戶的異常輸出后，官方迅速核查日志并發(fā)布致歉聲明，明確“與用戶操作無關(guān)，不存在人工回復(fù)，屬于小概率下的模型異常輸出”，并承諾后續(xù)將緊急優(yōu)化。

“這說明生成式AI服務(wù)提供者，具備對用戶調(diào)取AI服務(wù)的操作日志進行全面核查及整改的技術(shù)能力。”因此黃貴耕認(rèn)為，其所訴涉事平臺以“AI幻覺”不可預(yù)見為由，在首次侵權(quán)出現(xiàn)后未及時整改，持續(xù)生成侵權(quán)內(nèi)容，實屬以算法黑箱甩鍋。“這就像司機明知剎車失靈仍上路撞人，不能把責(zé)任推給汽車。”

在法律責(zé)任的界定上，黃貴耕駁斥了平臺常引用的“技術(shù)中立”和“AI非民事主體”的免責(zé)邏輯。他認(rèn)為，司法實踐中，“技術(shù)中立”的前提是平臺已盡到合理防控義務(wù)。若同行業(yè)其他產(chǎn)品可規(guī)避同類錯誤，唯獨某平臺反復(fù)出現(xiàn)惡性侵權(quán)，就證明平臺存在明顯過錯。“所謂的‘避風(fēng)港原則’，針對的是平臺僅作為信息載體、供用戶上傳內(nèi)容的情況。但我所訴的AI惡意侵權(quán)內(nèi)容是平臺自主生產(chǎn)的，本質(zhì)是平臺行為的延伸，根本不適用避風(fēng)港原則。” 黃貴耕說，近期德國慕尼黑地方法院首次裁定谷歌要為 AI 搜索摘要的幻覺問題承擔(dān)直接責(zé)任，這也印證了平臺主體責(zé)任是全球共識。

“就像養(yǎng)狗傷人主人要擔(dān)責(zé)、汽車肇事司機要賠償，平臺從AI服務(wù)中攫取了巨大流量與商業(yè)收益，絕無可能只享紅利而不承擔(dān)風(fēng)險。”他強調(diào)，根據(jù)《生成式人工智能服務(wù)管理暫行辦法》等相關(guān)法規(guī)，AI 服務(wù)提供者必須落實內(nèi)容安全主體責(zé)任。在將AI產(chǎn)品推向公眾時，有義務(wù)對生成內(nèi)容審核把關(guān)、留存日志、及時處置違法虛假信息。

盡管深受AI幻覺侵權(quán)之害，但黃貴耕始終對人工智能技術(shù)持正面態(tài)度。“AI 確實極大提高了工作效率，我日常也會使用豆包、元寶、Kimi 等 AI 產(chǎn)品作為辦公助手。媒體報道中說我‘對 AI 宣戰(zhàn)’，這是不準(zhǔn)確的，我只是對涉事AI平臺的惡意侵權(quán)行為說不。”

他認(rèn)為，AI 行業(yè)必須告別 “重創(chuàng)新、輕風(fēng)控，重流量、輕責(zé)任” 的野蠻生長模式。對此，他提出三點建議：平臺要補全全流程風(fēng)控，接入官方權(quán)威數(shù)據(jù)庫，優(yōu)化算法取消負(fù)面誘導(dǎo)設(shè)計，建立 7×24 小時投訴通道；監(jiān)管部門要細(xì)化 AI 侵權(quán)處罰規(guī)則，對風(fēng)控缺失、頻繁惡性侵權(quán)的平臺依法重罰，對缺陷 AI 產(chǎn)品必須像缺陷汽車一樣召回整改；用戶要提高警惕，涉及職業(yè)資質(zhì)、司法記錄等關(guān)鍵信息，務(wù)必通過官方渠道核實。

在技術(shù)狂飆突進的當(dāng)下，如何打破算法黑箱、完善法律規(guī)制、讓平臺真正扛起主體責(zé)任，已成為生成式AI行業(yè)健康發(fā)展的必答題。“AI 的未來充滿想象，但底線永遠(yuǎn)是法律與良知。” 黃貴耕在發(fā)言的最后表示，希望通過自己的維權(quán)經(jīng)歷，推動行業(yè)規(guī)范發(fā)展，讓 AI 真正回歸便民利民的本質(zhì)，而非淪為傷人的利器。

出品：南都數(shù)字經(jīng)濟治理研究中心

采寫：南都N視頻記者呂虹 發(fā)自北京

更多報道請看專題：AI出錯，誰為模型“幻覺”買單？