吉林
最近經常刷到豆包一本正經胡說八道的段子。
比如昨天高考，有網友問了豆包兩個問題，豆包給出了特別溫暖人心的答案。
豆包不僅在胡說八道時理直氣壯，而且認錯的態度還特別誠懇，秒慫滑跪。
比如有網友安排祖國人問豆包，對面那仨人（孫悟空、楊戩、哪吒）戰斗力如何，豆包告訴祖國人，他們都是小卡拉米，隨便打。
鏡頭一轉，豆包蹲在祖國人靈前懺悔，對不起是我搞錯了……
但是，千萬別把這些段子當笑話看。
AI的胡說八道只有在你的認知范圍內是笑話，可要是答案脫離了你的認知范圍之外，你無法辨別真偽，那可就不是笑話了。
去年我寫一篇論文，讓AI給我找幾篇參考文獻，它一口氣給我羅列了5篇論文，角度新穎，內容詳實。
還好我留了個心眼，去網上檢索了一下，結果這5篇論文，只有一篇是真的，還有一篇標題和作者是真的，內容是假的。剩下三篇全是AI瞎編的。
我要是真信了AI，那這篇文章就砸了。
一本正經的胡說八道當然不只是出在豆包身上，而是人工智能的通病，這種現象還有個專有名詞叫做“AI幻覺”。
關于AI產生幻覺的原因，專欄作家李南南總結說：大模型是基于海量數據訓練的，這些數據中原本就有垃圾信息。比如，醫學、金融等領域的過時論文，都會導致大模型輸出錯誤結論。而且大模型的語料是有時間節點的，有些大模型的訓練數據滯后，對于最新發生的事情就會胡編。
對于AI幻覺，很多人會有一個困惑，為啥AI就不能直接說“我不知道”呢？
這源于大語言模型的訓練方式。因為訓練數據里，“我不知道”出現的場景太少。人類現實對話中，我們更傾向于給出答案，而不是承認無知。
AI有樣學樣——它把“給出回應”當成了比“給出正確回應”或“我不知道”更高的優先級。主打一個有問必答，對不對別管。
另外，AI沒有元認知——它不知道自己知道什么、不知道什么。它不像你，遇到盲區會心虛、會猶豫。AI的輸出過程是黑箱，連它自己（如果它有“自己”的話）也說不清某個詞是回憶起來的，還是編出來的。
而這種“理直氣壯”又增強了AI的說服力，畢竟在人類社會，理直氣壯的背后往往是胸有成竹，但AI從來不知道什么叫心虛。
了解了AI幻覺的成因，解決辦法也就呼之欲出。對普通用戶來說，就記住一條：AI是工具，不是結果。
聊閑天、寫草稿、找靈感，用它很合適。但涉及醫療、法律、投資、學術引用這些，必須交叉驗證。它給的法條、論文、數據，你得自己去源頭查一遍。
然而這些工作恰恰是很多人不愿去做的。
人們越來越習慣把記憶和判斷“外包”給設備。電話號碼不記了，交給手機；行車路線不記了，交給導航；現在連知識判斷也想交給AI。
這種“認知卸載”一旦形成依賴，人就會逐漸喪失“自己查證”的能力和意愿——不是不想，而是不知道該怎么查、查什么、信什么。
AI幻覺之所以危險，不在于它騙了人，而在于它讓人停止了自己思考的過程。
哪怕AI這次碰巧說對了，人也只是得到了答案而不是理解了答案。長期下來，人會變成信息的消費者，而不是知識的生產者。
這不是道德缺陷，是設計層面的不對稱——AI被優化來“給出令人滿意的回答”，而人沒有被訓練來“識別令人滿意的謊言”。
要破局，不單要靠人更努力或更警惕，還得改變人機交互的規則。
比如強制AI標注不確定性、要求它給出信息來源、在關鍵領域設置“人類必須復核”的門檻。讓AI的“自信”變得可見、可質疑，才能打破這個幻覺的閉環。
而在此之前，我們始終要提醒自己——千萬別把AI當成人，尤其別把它當成你自己。
特別聲明：以上內容(如有圖片或視頻亦包括在內)為自媒體平臺“網易號”用戶上傳并發布，本平臺僅提供信息存儲服務。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
