近日,V2EX社區(qū)一ID為“Curtion”的用戶發(fā)帖吐槽稱,自己的收款二維碼被字節(jié)跳動(dòng)旗下AI助手豆包拿去,用作其他用戶購買保險(xiǎn)的付款二維碼。其他用戶支付完成后,未查詢到保單,找到“Curtion”,才發(fā)現(xiàn)豆包“代購”保險(xiǎn)鬧出了烏龍。
![]()
據(jù)了解,一用戶通過豆包咨詢購買保險(xiǎn),豆包不僅生成了一份看似正規(guī)的訂單,還提供了一個(gè)付款二維碼。該用戶信以為真,掃碼支付了1620元。然而,付款后用戶始終無法查詢到保單。面對(duì)質(zhì)疑,豆包解釋稱“保單需至次日零點(diǎn)后方可查看”,試圖自圓其說。
![]()
最終,付款用戶通過收款商家入口聯(lián)系到“Curtion”,“Curtion”則表示,對(duì)該筆保險(xiǎn)交易毫不知情。據(jù)“Curtion”推測(cè),豆包展示的二維碼很可能源于自己早年公開發(fā)布在開源庫或博客的收款二維碼。該二維碼被豆包的訓(xùn)練語料庫收錄,從而在“代購”保險(xiǎn)交互中產(chǎn)生幻覺,誘導(dǎo)其他用戶付費(fèi)。
![]()
值得注意的是,近期豆包不止出現(xiàn)上述爭(zhēng)議。4月10日,據(jù)鞭牛士報(bào)道,有用戶吐槽,豆包記錄會(huì)議時(shí)突然插入廣告。據(jù)悉,該用戶使用豆包記錄會(huì)議時(shí)提及“畫冊(cè)”,結(jié)果豆包突然中斷記錄,推送了一則視覺傳媒公司的廣告,并且介紹了該公司的設(shè)計(jì)能力、報(bào)價(jià)等信息。
![]()
正如“Curtion”所言,“這個(gè)案例告訴我們國(guó)內(nèi)很多人根本就不知道AI的邊界在哪里, AI存在幻覺也不清楚, 連AI實(shí)際接入了哪些業(yè)務(wù)也不清楚, 甚至真的相信AI給出的建議和方案。”現(xiàn)階段AI技術(shù)還存在諸多不足,大家使用豆包時(shí),需警惕出現(xiàn)幻覺。
特別聲明:以上內(nèi)容(如有圖片或視頻亦包括在內(nèi))為自媒體平臺(tái)“網(wǎng)易號(hào)”用戶上傳并發(fā)布,本平臺(tái)僅提供信息存儲(chǔ)服務(wù)。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.