河北
5月19日消息，近日，# 沖上熱搜引發(fā)熱議。
有網(wǎng)友在社交平臺發(fā)帖稱借助豆包預約線下餐廳，拿到 AI 生成的占座、取號及預約成功界面后前往門店就餐，結(jié)果卻被商家告知預約無效，當場碰壁。
現(xiàn)場有涉事店員直言：你找豆包預約的，那就去找豆包處理。對此，其中一家涉事餐廳工作人員回應，目前只能建議在小程序預約。
據(jù)悉，豆包官方客服表示，平臺暫時不可以用豆包預約餐廳，建議自行聯(lián)系餐廳，由于客戶和豆包的對話屬于隱私，所以豆包并不能聯(lián)系第三方轉(zhuǎn)告。
此事引來眾多網(wǎng)友調(diào)侃，有網(wǎng)友直言AI最大問題并非答錯問題，而是盲目自認全能；還有網(wǎng)友戲稱建議豆包新增 “精神支持預約” 功能，只做推薦不實際操作。
實際上，此次預約翻車事件，也直指當下主流 AI大模型普遍存在的AI幻覺問題，也就是AI常出現(xiàn)一本正經(jīng)編造不實信息的情況。
這類問題并非AI刻意造假，而是統(tǒng)計類語言模型與生俱來的技術短板。
據(jù)了解，大語言模型依靠海量文本數(shù)據(jù)訓練而成，依靠上下文邏輯預測生成文字，核心追求語句通順連貫，并不具備自主辨別事實真?zhèn)巍⒑藢嵳鎸嵭畔⒌哪芰Α?/strong>
模型所有知識均源自訓練素材，一旦數(shù)據(jù)源存在錯誤內(nèi)容、片面觀點或是不實信息，AI就會將這類內(nèi)容整理成看似嚴謹準確的答案對外輸出，最終出現(xiàn)看似真實合理，實則完全脫離現(xiàn)實的虛假結(jié)果，這也是AI幻覺難以徹底根治的原因。
特別聲明：以上內(nèi)容(如有圖片或視頻亦包括在內(nèi))為自媒體平臺“網(wǎng)易號”用戶上傳并發(fā)布，本平臺僅提供信息存儲服務。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
