北京
AI因為胡說八道被告了，AI承認之前說的錯了，承諾可以賠10萬塊錢，建議到某某法院起訴，AI這樣承諾有法律效力嗎？
杭州互聯網法院審結了全國首例生成式人工智能"幻覺"侵權糾紛案。2025年6月，梁某在使用一款AI程序詢問某高校報考的信息時，發現AI生成的學校校區的信息不對，他提示AI信息有問題，但AI堅持說沒問題，還說如果內容有誤，可以賠償10萬元！一聽這個梁某就更認真了，他把從高校官網上查詢到的招生信息提供給AI,看到官網信息，AI承認自己之前提供的信息確實不準確，還建議梁某到杭州互聯網法院起訴索賠。
整個對話過程全都有保留,證據很充分，有AI承認提供了錯誤信息的證據，還有AI承諾錯了賠償10萬的證據，于是梁某以AI生成不準確信息對其構成誤導，使其遭受侵害，并承諾對其進行賠償為由，起訴要求某科技公司賠償損失9999元。科技公司不同意賠償，稱對話是由人工智能模型生成的，不是公司的意思表示，公司不構成侵權，而且原告也沒有實際損失。
先不說梁某有沒有實際損失，不管賠多少，大家覺得AI提供了錯誤信息，這種情況科技公司有沒有賠償責任？AI之前的承諾有沒有法律效力？
簡單說結論，法院認為生成式AI服務是一種信息服務而非“產品”且人工智能不具有民事主體資格，這種AI自行生成的“賠償承諾”不能視為服務提供者的意思表示。最后杭州互聯網法院認定人工智能的“10萬元賠償承諾”不具備法律效力，平臺方因已盡合理義務無需擔責。
其實AI胡說八道不是新鮮事，之前也有發生過用戶指出AI的錯誤后，AI一本正經回應：“因為你的指正幫助系統修補了漏洞，為了感謝你，將向你提供包括千元現金在內的各種獎勵。”同時還附有文件依據、領取流程、發放步驟……最后發現公司根本沒這個事，純粹是AI自己編的。
AI自己編的東西還不止這些，包括楊律師在內的很多律師都發現過AI自己編造不存在的法條和案例的事！當然，存在這些現象并不能否定AI的價值！關鍵是要正確認識和使用AI,直接把AI當權威肯定是錯的，比如曾有人到法院打官司直接把AI生成的東西當成證據提交，或者要求法官按AI的指示判案，這顯然不靠譜！
我覺得首先要承認AI是有益的，對普通人來講使用AI能方便檢索得到信息和知識，但不能把AI當權威，碰到涉及到生命健康或重大財產安全的事項，就不能盲目信任AI了，還是應該尋找專業人士。專業人士其實也可能會使用AI輔助工作，但那是輔助肯定不是盲目信任，會核實信息源，還會通過各種途徑利用自己的專業知識交叉檢索！
總之，不要被AI一本正經、十分自信的語氣迷惑，更不要迷信AI。有人說，應該把AI當成一個博學但不可靠的實習生——他回答得很快很自信，但他簽的名字不算數，他承諾的獎金也發不了。重要的事得自己核對、自己判斷。大家覺得這說法對嗎？
本文作者：楊文戰律師,北京市中盾律師事務所高級合伙人，執業二十余年。
特別聲明：以上內容(如有圖片或視頻亦包括在內)為自媒體平臺“網易號”用戶上傳并發布，本平臺僅提供信息存儲服務。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
