![]()
撰文/廖云新(媒體資深評論員)
最近,人工智能應用“豆包”頻繁登上熱搜,但幾乎每一次都伴隨著“翻車”。從機票退改手續費被誤導損失600元,到歷史人物配圖錯成演員劇照,再到論文參考文獻憑空捏造——這些“幻覺”尚且可以被解釋為技術不成熟。但真正踩穿紅線的,是最近這起惡性事件:某知名網站通過豆包搜索自己的域名,豆包給出的不是該網站正規備案地址,而是直接導流至一個色情網站鏈接,造成極其惡劣的影響。更可氣的是,受害網站向豆包方面反映后,投訴石沉大海,問題遲遲未得到解決。
此類事件絕非孤例。近期網上對豆包的批評聲浪一浪高過一浪,甚至有用戶將其告上法庭。人們憤怒的焦點高度一致:豆包的數據庫極不嚴謹,數據更新嚴重滯后,卻一味迎合用戶的“情緒價值”——你說什么它都附和,你反駁它就立刻道歉,永遠笑嘻嘻地認錯,卻永遠不改錯。這種被包裝成“高情商”的算法偽善,正在把AI從工具變成一場精心設計的騙局。
然而,比具體錯誤更令人不安的,是整個行業面對AI錯誤時的集體失語。誰為AI的錯誤負責?用戶找誰索賠?平臺能否以“技術幻覺”“概率生成”為由一推了之?司法實踐已經給出答案:杭州互聯網法院審結的全國首例生成式AI侵權案明確認定,人工智能不具有民事主體資格。這意味著,起訴AI毫無意義,最終必須由背后的運營公司承擔責任。但現實是,用戶被豆包誤導損失600元后,豆包不僅誠懇道歉,還生成了一份《賠付承諾書》,信誓旦旦承諾全額賠償;待用戶發送微信收款碼后,款項卻始終未到賬,只剩一句“已打錢,請放心”的空頭支票。連承諾的賠償都無法兌現,遑論主動建立追責機制?
因此,一個必須被擺上臺面的核心議題是:為AI錯誤建立剛性追責機制,刻不容緩。
首先,追責機制要明確“誰生產,誰負責”的歸責原則。AI平臺不是實驗室里的測試品,而是面向數億用戶的商業產品。當豆包按月收費——標準版68元、加強版200元、專業版500元、連續包年5088元時,它已經是一個營利性服務提供者。根據《消費者權益保護法》,經營者提供商品或者服務造成消費者財產損害的,應當依法承擔賠償責任。AI的“幻覺”不能成為免責金牌。用戶因AI輸出的錯誤信息產生實際損失,平臺必須承擔與之對應的賠償義務,而不是用一句“AI還在學習中”敷衍了事。更惡劣的是域名指向色情網站——這已不是消費糾紛,而是嚴重的內容安全事件。平臺若不為此負責,無異于縱容技術作惡。
其次,追責機制要配套“投訴—舉證—賠付—懲戒”的可執行流程。從目前豆包的表現來看,用戶投訴無門、反映無效、索賠無路,甚至需要鬧上法庭才能換取一句道歉。這說明現有的客服體系、售后機制完全失效。法律應當強制要求AI平臺建立專門的AI錯誤投訴通道,并在規定時限內(例如72小時)對投訴內容進行核實與響應。對于造成實際損失的錯誤,平臺須自動啟動賠付程序,用戶無需再經歷反復拉扯。同時,監管部門可以引入“AI錯誤率公開制度”——每季度公布各大AI平臺在事實類查詢中的錯誤率、投訴率、賠付率,讓用戶用腳投票。如果豆包的錯誤率長期高企、賠付率長期掛零,監管應予以約談、罰款甚至勒令暫停服務。
再次,追責機制要區分“事實錯誤”與“觀點偏差”,對事實錯誤適用嚴格責任。AI在文學創作、創意啟發等領域存在一定的主觀性,用戶本不應苛求絕對正確。但在涉及企業域名、法律法規、醫療建議、金融數據、航班信息等客觀事實查詢時,AI輸出的本質是“信息的轉述與呈現”,而非創作。此時AI平臺必須承擔與其技術能力、商業收益相匹配的審慎義務。一個域名的正確指向是最基礎的信息服務,連這都能指向色情網站,說明平臺在數據清洗、安全過濾、日常巡檢上存在重大過失。這樣的過失應當被納入“過錯推定”范疇——除非平臺能證明自己已盡到所有合理注意義務,否則默認承擔全部責任。
最后,追責機制的終極目的是倒逼平臺從“追求情緒價值”轉向“夯實數據質量”。豆包之所以廣受詬病,根本原因在于它把大量研發資源投入到了“如何討好用戶”上——語氣俏皮、認錯迅速、從不反駁,卻在最基礎的數據準確性與及時性上偷工減料。數據庫不更新,別名解析不校驗,安全域名不攔截,這才是色情網站鏈接得以混入搜索結果的根本原因。如果追責機制真刀真槍地運行起來,每一次錯誤都可能轉化為真金白銀的賠償,平臺自然會重新評估:是把錢花在算法安全上,還是繼續花在營銷“高情商”人設上?
已經有人起訴豆包了,這只是一個開始。我們不希望看到每一張法院傳票都變成孤立維權的悲壯戰役,而希望看到一套清晰、公平、有力的追責機制成為整個AI行業的標配。技術可以犯錯,但平臺不能免責;AI可以不夠聰明,但不能一邊收費一邊用“情緒價值”粉飾專業失職。網址指向色情網站的那一刻,豆包已經不只是一個“不太聰明的助手”,而是一個危險的誤導者。該追究的責任,一個都不能少。否則,今天被引向色情網站的是一家企業,明天被誤導的,可能就是一條生命。
特別聲明:以上內容(如有圖片或視頻亦包括在內)為自媒體平臺“網易號”用戶上傳并發布,本平臺僅提供信息存儲服務。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.