上海
最近，兩起和AI出現幻覺有關的案件，出現了完全不同的判決結果。一個是AI承諾答錯賠10萬元，但法院認定平臺無需擔責。百度AI卻因為捏造律師被判刑的信息，卻被法院認定構成名譽侵權。同樣是AI生成錯誤內容，為什么法院態度差別這么大？關鍵就在于：一旦涉及名譽權，平臺的注意義務會明顯提高。
案例一：該案為杭州互聯網法院AI幻覺第一案，用戶向AI查詢高校報考信息，用戶發現AI生成不準確信息后，對AI應用進行了糾正和指責，AI應用仍堅稱信息準確性，并稱，若內容有誤將向用戶提供10萬元賠償。后用戶將從該校官網查詢到的招生信息提供給AI，此時AI承認其生成了錯誤信息，并建議用戶到杭州互聯網法院起訴索賠。用戶遂起訴要求平臺賠償9999元。法院認為AI不具備獨立法律人格，它隨口生成的承諾沒有法律效力，平臺無需為此擔責。
案例二：南京律師李某在百度搜索自己的名字和職務時，百度AI回復顯示他因爆炸罪被判刑三年，還配上了他穿律師袍的照片。因此事子虛烏有，李小亮起訴百度，法院終審認定百度構成名譽侵權，判令賠禮道歉。該案AI出現錯誤的原因可能是，有與律師同名的李某，確實因為爆炸罪被判刑，且能在網上查到判決書，所以AI張冠李戴了。
這兩個案件的關鍵區別在于，前者只是AI和用戶之間的對話，不能遵守承諾是合同違約，后者則涉及對名譽權的實際損害。根據《民法典》和《生成式人工智能服務管理暫行辦法》的規定，對于普通的AI生成內容，平臺只要履行顯著標識、違法內容過濾、備案與安全評估等義務，法院通常會認定其適用避風港原則，接到通知后刪除爭議內容即可。
但在涉及名譽侵權時，平臺必須承擔起更高的實質性審查標準。名譽侵權后果比較嚴重，捏造的內容是足以降低他人社會評價的虛假事實。生成式AI的效率遠超傳統平臺，傳統場景是張三編個虛假信息造謠李四，而AI則會系統性、規模化自動造謠：以近乎真實的語氣24小時自動生成、批量輸出、多版本改寫。所以平臺很難再完全以技術中立抗辯免責。
所以涉及名譽侵權時，AI平臺的角色就從被動的服務提供者，向主動的內容發布者傾斜，需要承擔更強的事前審核義務。具體來說，這種特殊注意義務體現在幾個方面：
首先，是更高標準的事實核查與風險防控。當用戶輸入高度指向性的描述，如具體姓名和職業時，平臺不能對AI可能生成的失實的貶損性內容坐視不管。法院在百度案判決中指出，平臺應當預見到此類查詢的高風險性，并設置更嚴格的提示詞過濾與輸出檢測機制。此外，平臺也應考慮在涉及人格權評價時，通過更醒目的方式提示用戶相關內容可能存在事實錯誤。
其次，是更高效的干預與阻斷機制。名譽侵權具有持續傷害的特性。如果平臺在接到投訴后，僅僅刪除了某一次生成的侵權記錄，但用戶使用相同或類似提示詞仍能生成相同侵權內容，那么法院很可能認定平臺未盡到必要的注意義務。百度案中，法院發現一審時已經消失的律師被判刑的幻覺內容，二審時又回來了。這意味著，平臺需要建立更主動的干預機制，而不能再僅僅依賴被動的通知刪除流程。
第三，是對真假混合內容的更高識別義務。有些侵權內容并非完全虛假，而是將事實夸大或扭曲，例如將公司正常的業務調整渲染為資金鏈斷裂，或將學術爭議升級為學術不端。這類半真半假的信息往往更具迷惑性和傳播力。平臺需要投入更多技術資源，提升對這類幻覺內容的識別能力。
最后，是對特定高風險群體的特別保護。公眾人物、律師、醫生等職業人士的社會評價與其職業發展緊密相連，一旦受損，后果更為嚴重。因此，平臺在面對涉及這些群體的查詢時，理應設置更高級別的審核與警示規則。
生成內容中的名譽侵權問題實際承載著大眾對于AI服務商的信任，一旦信任出現瑕疵，商業和法律風險都非常大。傳統的依賴算法或技術局限性的避風港機制應對名譽侵權的AI幻覺比較被動，平臺需要探索建立合規重心前移的新的全鏈條機制，包括：內部高危詞庫，對相關結果進行事前審核。在生成階段，應完善實時監測機制，對高風險輸出及時攔截。一旦發生侵權，則應建立快速投訴和人工復核機制，并對類似內容同步限制。唯有如此，才能在技術創新與法律責任之間找到平衡點。
本文作者：游云庭，知識產權律師。Email: yytbest@gmail.com，本文僅代表作者觀點。
特別聲明：以上內容(如有圖片或視頻亦包括在內)為自媒體平臺“網易號”用戶上傳并發布，本平臺僅提供信息存儲服務。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
