美國(guó)堪薩斯州聯(lián)邦地區(qū)法院近日開出了首張AI 幻覺罰單：由于律師在專利案件的法院文件中引用了 ChatGPT 生成的不存在判例和引文且未加核實(shí)，法官裁定相關(guān)律師團(tuán)隊(duì)需支付共計(jì) 1.2 萬美元的罰款。這起事件并非意在禁止 AI 技術(shù)，而是鮮明地提醒法律從業(yè)者：無論技術(shù)多先進(jìn)，律師都有義務(wù)對(duì)提交給法院的內(nèi)容進(jìn)行充分核查，確保程序誠(chéng)信。

Lexos Media IP LLC在起訴 美國(guó)知名電商Overstock.com涉嫌專利侵權(quán)的過程中，其代理律師提交的文件包含了由 ChatGPT 生成的引文和案例。然而這些引用完全是虛構(gòu)的，包括并不存在的判例名稱和斷章取義的法律論述。負(fù)責(zé)該案的堪薩斯聯(lián)邦地區(qū)法官在審查文件后，當(dāng)即發(fā)出訂單要求解釋，并最終在2026年2月2日簽署意見，對(duì)相關(guān)律師和律所予以制裁。

2025年6月，Lexos 公司在堪薩斯聯(lián)邦法院提交了針對(duì) Overstock 的專利侵權(quán)訴訟文件；2025年12月17日，法院發(fā)現(xiàn)其中存在AI幻覺內(nèi)容，發(fā)出命令要求解釋；2026年2月2日，法官正式作出制裁決定。

Lexos 指控 Overstock 網(wǎng)站侵犯其三項(xiàng)與自定義鼠標(biāo)光標(biāo)顯示/動(dòng)畫相關(guān)的專利。具體而言，這些專利涉及在網(wǎng)頁(yè)中修改光標(biāo)圖像顯示效果的技術(shù)，例如用戶將鼠標(biāo)懸停在產(chǎn)品圖片上時(shí)，光標(biāo)替換為放大鏡效果等。這類技術(shù)細(xì)節(jié)成為訴訟焦點(diǎn)之一。

2025年7月初，Lexos 團(tuán)隊(duì)提交了反對(duì)被告排除專家證人證詞的意見書，以及針對(duì)被告 summary judgment 動(dòng)議的回應(yīng)書。這些文件由 Sandeep Seth 起草，據(jù)其后來承認(rèn)，他為節(jié)省時(shí)間使用了 ChatGPT 輔助法律研究但未對(duì)其輸出結(jié)果進(jìn)行獨(dú)立核查。結(jié)果，ChatGPT給出了若干看似權(quán)威卻實(shí)際上并不存在的案例引用和法律段落。法官審閱時(shí)發(fā)現(xiàn)多處可疑之處，包括引用了根本不存在的判決引用和完全錯(cuò)誤的法律摘錄，甚至對(duì)真實(shí)案例的描述也前后矛盾。更嚴(yán)重的是，有些內(nèi)容疑似直接從無關(guān)案件的材料中復(fù)制粘貼而來，Lexos律師后來承認(rèn)，有兩段引述中的相同錯(cuò)誤是從別的文件中“照搬”過來的，涉及Cordis、Baldwin、AstraZeneca等無關(guān)案例，引發(fā)法官對(duì)流程管理的質(zhì)疑。

Overstock 的律師在回復(fù)中指出了這些虛假引用，提請(qǐng)法庭注意并暗示此舉已違反聯(lián)邦民事訴訟規(guī)則第11條以及堪薩斯州職業(yè)道德規(guī)范第3.3條（即向法庭據(jù)實(shí)陳述的義務(wù)）。雖然被告方當(dāng)時(shí)并未正式提出制裁動(dòng)議，法院仍依職權(quán)于2025年12月15日發(fā)出了《命令要求律師說明原因》，要求Lexos代理律師逐一說明自己在起草、審核和提交上述文件過程中的角色，使用了哪些AI工具，以及在提交前做過何種核查。法官特別要求解釋：為何這些AI生成的謬誤得以混入正式文件？律所是否有不同于以往的審查流程？以及Lexos公司是否知情并批準(zhǔn)使用生成式AI。

經(jīng)過對(duì)各律師書面回復(fù)的審核，羅賓遜法官在2026年2月2日發(fā)布了長(zhǎng)達(dá)36頁(yè)的意見書，認(rèn)定Lexos代理團(tuán)隊(duì)集體違反了聯(lián)邦民訴規(guī)則11(b)。該規(guī)則要求律師在向法院提交文件時(shí)經(jīng)過“在當(dāng)時(shí)情形下合理的詢問”，確保法律主張有理有據(jù)。然而，本案中有五名代理律師在明知或應(yīng)知文件包含虛假內(nèi)容的情況下簽署了文件，未盡到基本核實(shí)義務(wù)。法院據(jù)此對(duì)相關(guān)律師和律所施加了總計(jì)12,000美元的罰款，并按過錯(cuò)程度作出區(qū)別處理。

主責(zé)律師罰款 5,000 美元。由于他直接使用了ChatGPT并插入錯(cuò)誤引用，法官還撤銷了他在本案中的臨時(shí)出庭許可（pro hac vice），并責(zé)令其在2026年2月底前向所在州律師紀(jì)律當(dāng)局提交本裁決書副本，報(bào)告此違規(guī)行為。同時(shí)他必須向法院提交一份說明，詳述其律所將采取哪些內(nèi)部整改措施來防止今后再發(fā)生類似情況。Seth 隨后郵件回應(yīng)媒體稱：“這是一次令人尷尬的教訓(xùn)。各律所若不建立嚴(yán)格的AI使用政策，就不該在任何情況下把AI當(dāng)作工具，以免釀成錯(cuò)誤。”

主辦律所合伙人各罰款 3,000 美元。這兩位律師雖然并未親自撰寫有誤內(nèi)容，但作為簽字律師，沒有盡到審核把關(guān)責(zé)任。法官明確指出，不了解AI并不能豁免責(zé)任，在他人起草的文件上簽名卻不審閱，依然構(gòu)成對(duì)Rule 11義務(wù)的違反。

羅賓遜法官在裁決書中措辭嚴(yán)厲，強(qiáng)調(diào)這是一次對(duì)律師群體的警示。她指出：“一名理稱職的律師在向法院提交文件時(shí)，應(yīng)當(dāng)意識(shí)到使用未經(jīng)驗(yàn)證的生成式AI進(jìn)行法律研究存在明顯且眾所周知的風(fēng)險(xiǎn)，同時(shí)也應(yīng)清楚在簽署法院文件而不核實(shí)其準(zhǔn)確性時(shí)所承擔(dān)的倫理義務(wù)”。換言之，AI并不能成為逃避盡職調(diào)查的借口。法官還感慨，近年因?yàn)槁蓭煵缓藢?shí)AI輸出而引用“虛構(gòu)”判例所引發(fā)的司法意見“數(shù)量之多令人震驚”。從紐約到懷俄明，各地法院紛紛遇到類似問題，不得不發(fā)出警告、罰款等制裁措施。就在2023年，紐約南區(qū)法官卡斯特曾因一起航空事故案中律師引用了ChatGPT捏造的六個(gè)虛假判例而對(duì)涉事律師及其律所罰款5000美元。如今兩年不到，多起案件中均出現(xiàn)了AI“幻覺”造成的失當(dāng)行為：有的法院罰款，有的直接舉行聽證對(duì)律師進(jìn)行訓(xùn)誡。羅賓遜法官引用這些案例，表明司法系統(tǒng)對(duì)這類問題已經(jīng)形成共識(shí)：無論AI多聰明，律師都必須親自確保提交給法院的一字一句是真實(shí)可靠的。

法律界對(duì)此事反應(yīng)強(qiáng)烈。許多律師在社交媒體上表示，這一案件為所有法律從業(yè)者敲響警鐘：AI 可以提高工作效率，但不能代替律師的專業(yè)判斷和誠(chéng)信義務(wù)。一位參與報(bào)道此事的律師評(píng)論道：“法院并不是在反對(duì)AI本身，而是在維護(hù)法律程序的誠(chéng)信。我們可以使用AI工具輔助工作，但絕不能不加審查地照單全收AI給出的結(jié)果。”也有企業(yè)法務(wù)人員指出，如果律師在工作中過度依賴AI而不驗(yàn)證，其風(fēng)險(xiǎn)不僅自己擔(dān)責(zé)，還可能給客戶帶來無法挽回的損失——從敗訴到商譽(yù)受損，代價(jià)沉重。

律師事務(wù)所應(yīng)當(dāng)建立明確的AI使用標(biāo)準(zhǔn)作業(yè)程序（SOP），包括檢索原始資料、復(fù)核AI輸出內(nèi)容、留存核查記錄等步驟，確保任何引文和事實(shí)都有據(jù)可查。生成式AI提供的內(nèi)容應(yīng)僅作為初稿或思路參考。律師應(yīng)當(dāng)像對(duì)待助理的草稿那樣對(duì)待AI輸出，既可以參考其建議，但必須自行查證每一個(gè)引用和事實(shí)，尤其不能直接把AI的話當(dāng)成既成事實(shí)寫進(jìn)法律文件。

AI可以加速資料查找和文書撰寫，但不能也永遠(yuǎn)不應(yīng)替代律師對(duì)真實(shí)性和準(zhǔn)確性的把關(guān)。對(duì)于法律從業(yè)者乃至所有借助AI工作的專業(yè)人士而言，最穩(wěn)妥的做法是將AI視作助手而非權(quán)威，時(shí)刻保持質(zhì)疑精神和審慎態(tài)度。對(duì)于律師提交的文件更應(yīng)該注意，因?yàn)閷?duì)手會(huì)帶著放大鏡審查，任何錯(cuò)誤都難以蒙混過關(guān)。

Maxipat致力于作為成為科技創(chuàng)新和知識(shí)產(chǎn)權(quán)工作的AI加速器，主要包括輔助創(chuàng)新：提高研發(fā)的科技創(chuàng)新效率；智能搜索與分析：將專利搜索和報(bào)告制作借助AI實(shí)現(xiàn)智能化，包括智能查新、無效、FTO、Landscaping報(bào)告；投資助手：快速生成投資賽道報(bào)告、專利購(gòu)買篩選、專利轉(zhuǎn)化評(píng)估。目前開放注冊(cè)中。輔助科技創(chuàng)新和知識(shí)產(chǎn)權(quán)工作的AI智能體

感興趣的朋友可以通過以下三種方式填寫申請(qǐng)信息：

1. 請(qǐng)發(fā)郵件到郵箱：info@maxipat.com

2. 點(diǎn)擊文末閱讀全文；

3. 掃描以下二維碼

感興趣的朋友可以加筆者微信patentlight