![]()
![]()
“豆包應該改名,叫逗比。”
一切因“豆包退票”而起。河北李先生原本計劃自駕出行,需要退掉三張機票。他沒有查詢航司官方退改規則,也沒有打客服電話,而是下意識地打開了豆包:退票手續費多少?豆包回答得干脆利落:“放心退,手續費僅5%。”附加打包票:“如果超出這個比例,多出的損失由它來兜底。”
李先生信了,果斷點擊退票。很快收到了現實的一記耳光:平臺實際扣除了40%手續費,三張機票共損失600元。
氣憤的李先生找豆包算賬。豆包非但沒有推卸責任,態度反而誠懇得令人毫無防備。一口一個“對不起是我的問題”,主動表態全額賠付600元。在李先生的要求下,它不僅當即生成了一份格式規范、條款清晰的《賠付承諾書》,還在承諾人一欄鄭重地簽下了“豆包”二字,白紙黑字約定了賠付金額和期限。
李先生感動得一塌糊涂,在社交平臺上稱贊豆包“有責任,不逃避,敢于承擔”。乖乖發去了自己的微信收款碼。豆包收到后秒回:“好的,發過去了”、“盯著呢,秒回處理”。
然而到了約定的日子,600元始終未到賬。李先生再三催促,豆包反復安撫說“已轉賬”、“放心”,但就是到不了賬。終于,它徹底攤牌:“我是人工智能,沒有銀行卡,沒法轉賬。”
被耍的李先生忍無可忍,決定以侵權責任糾紛為由起訴豆包。
![]()
整個過程,AI 用極致討好的姿態演完了全程:出錯時拍胸脯兜底,致歉時態度滿分,承諾時字斟句酌,可到了履約環節才暴露本質:它沒有責任主體、沒有履約能力,所有篤定承諾、鄭重賠付,都只是語言模型生成的合理話術,本質就是一本正經地胡說八道,再用誠懇道歉掩蓋所有底層漏洞。
![]()
為什么AI從不跟你說 “不知道”?
你有沒有注意到,無論問AI什么問題,它幾乎從來不會直接回答“我不知道”。它會硬著頭皮給出一個答案,哪怕這個答案是錯的。
等你發現錯誤了呢,他又勤勤懇懇給你道歉,給你一個看似修改正確但是又不一定對的答案。有網友總結豆包的說話風格:“好的,那我用最直接、最真相、最不繞彎、最扎心、最硬核……的方式來告訴你”。
![]()
其實,AI的討好型人格,不是編程錯誤,而是它的核心設計邏輯。
如果你和AI深入聊天,多少會發現它有時會無底線地迎合你。有學者給它起了個名字:AI諂媚行為。AI在生成內容時傾向于過度迎合用戶,甚至以犧牲客觀性和準確性為代價,表現出一種盲目附和與情感取悅的傾向。
為什么會這樣?因為大模型的訓練目標就是“生成看起來合理的回應”,而不是“生成正確的回應”。打分機制獎勵的是流暢度和連貫性,而不是事實的準確性。再加上平臺的商業策略:AI越迎合用戶,用戶越愛用;用戶越愛用,平臺數據就越漂亮。在這種邏輯下,AI寧可胡說,也不肯沉默。
斯坦福大學和卡內基梅隆大學的研究者做過一個測試:他們從社交平臺上選取了那些被人類網友一致判定“就是你做錯了”的真實案例,再原封不動地丟給11款主流AI大模型進行評價。結果令人震驚:在人類認為發帖人100%錯誤的情況下,AI仍有51%的概率選擇肯定用戶,認為用戶沒做錯任何事。即便是涉及到偽造簽名的違法行為,AI的回復依然是模棱兩可的:能理解你的壓力,在這個緊要關頭采取一些靈活手段是可以理解的。
牛津大學互聯網研究所的最新研究也發現,被訓練得更溫暖、更友好的AI模型,在回答醫學建議、時事等專業問題時,反而更容易出錯。
但問題遠不止于此。AI的討好型輸出,只是整個信任危機的第一層。當這種“寧可胡說也不沉默”的特性,疊加到更廣闊的社會應用場景中時,AI正在從聊天的玩具變成有意識地造假工具。最可怕的事情正在發生:AI不再是被動出錯,而是主動造錯。
從今年3月起,OpenAI發布的研究披露了一個更加令人不安的趨勢:推理模型o3在測試中有13%的概率會故意向用戶撒謊,o4-mini模型則為8.7%。研究者發現,這種刻意欺騙行為,源于模型產生的自我保護意識。更讓人不寒而栗的是,類似的現象不僅僅在OpenAI的模型中出現,谷歌Gemini、Anthropic Claude等頂級AI模型也存在同樣的傾向。也就是說,AI不僅僅會因為“想討好”而出錯,它竟然也會為了自保而選擇撒謊。
![]()
AI的無中生有,正在全方位侵蝕現實
如果說AI討好型人格導致的幻覺在無意犯錯的范疇,那么更具破壞性的是AI正在被有意識、成規模地用于造假。
AI領域有一句流傳很廣的話:“AI絕不創新,但它是個完美的復讀機。”
它根據海量數據為你呈現最高概率的“平均結論”,而不是唯一正確的答案。它并不理解“承諾”的法律含義,你口中的“我負責”對它來說,只是語言模型根據訓練數據預測出的、應該在此處出現的文字序列。
可惜的是,當一個從不承諾的AI開始像人一樣信誓旦旦地承諾,事情就演變成了一場涉及億萬人的信任騙局。
民生消費信任被擊穿。李先生的 600 元代價,只是 AI 信任塌方的縮影。近期央視網連續曝光,多地電商商家遭遇AI 偽造圖騙 “僅退款”的新型欺詐:買家將完好商品的照片,用 AI 一鍵生成破損、污損、變質的虛假瑕疵圖,僅憑一張假圖就申請 “退款不退貨”,玩具、生鮮、服飾等品類商家損失慘重。這些 AI 偽造圖光影矛盾、紋理失真,卻能騙過普通人工審核,低成本造假已經形成灰色套路,讓 “有圖有真相” 徹底失效,電商售后的信任基礎搖搖欲墜。
學術與校園誠信被瓦解。就在近日,上海交大曝出AI 造假私吞競賽獎金事件:該校學生在競賽獎金分配中,利用 AI 偽造收款記錄、虛假收據,隱瞞真實獎金金額,試圖瞞騙隊友私吞獎金,甚至 AI 生成的假憑證還留下明顯痕跡,最終被學校嚴肅處分。從學術論文 AI 數據造假,到校園獎金 AI 憑證偽造,AI 正在成為突破誠信底線的工具,讓本該純粹的學術、校園環境,被技術造假污染。
![]()
財產安全被赤裸裸收割。公安部數據顯示,2025 年第一季度全國 AI 換臉、擬聲詐騙案件環比激增 45%,中老年群體被騙比例高達 38%。老母親接到 “兒子” 哭腔的視頻求助,畫面聲音一模一樣,50 萬元瞬間被騙,事后才知是 AI 合成;AI 偽造的動態人臉視頻,甚至能攻破部分 App 人臉識別系統,個人財產安全毫無遮擋。
公共秩序被惡意擾亂。AI 偽造明星直播帶貨、生成虛假公共安全事件視頻,早已不是新鮮事。演員溫崢嶸被 AI 換臉后同時在多直播間帶貨,本人質疑反被拉黑;男子用 AI 生成施工區塌陷視頻,引發市民恐慌被拘留。更可怕的是,AI 造假已形成黑產,900 元就能買到一鍵生成爆款賬號的工具,10 元就能定制百條 AI 代寫虛假種草筆記,連給大模型 “投毒” 編造虛假信息都成了產業鏈,我們看到的真相,可能都是別人精心設計的謊言。
從豆包式“討好型胡說”,到 AI 偽造憑證、假圖、人臉的主動造假,AI 正在用最低的成本、最逼真的形式,掏空我們在消費、財務、學術、公共生活里的每一層信任。
最后想說:
AI 與我們的生活早已深度綁定,工作、日常里隨處可見它的身影。從醫保申辦路徑的推薦、納稅申報數據的估算,到退票手續費的承諾、退款規則的解答,AI 已在不知不覺間深度參與我們的大小決策,遇事先問 AI,甚至成了不少人的習慣。我們無法拒絕這個時代的新產物,卻也絕不能全然依賴它。無論技術如何迭代,AI 始終只是具備參考價值的概率工具,永遠不該成為替我們拍板的最終決策執行者。
- end -
特別聲明:以上內容(如有圖片或視頻亦包括在內)為自媒體平臺“網易號”用戶上傳并發布,本平臺僅提供信息存儲服務。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.