近日，V2EX社區(qū)一ID為“Curtion”的用戶發(fā)帖吐槽稱，自己的收款二維碼被字節(jié)跳動(dòng)旗下AI助手豆包拿去，用作其他用戶購買保險(xiǎn)的付款二維碼。其他用戶支付完成后，未查詢到保單，找到“Curtion”，才發(fā)現(xiàn)豆包“代購”保險(xiǎn)鬧出了烏龍。

據(jù)了解，一用戶通過豆包咨詢購買保險(xiǎn)，豆包不僅生成了一份看似正規(guī)的訂單，還提供了一個(gè)付款二維碼。該用戶信以為真，掃碼支付了1620元。然而，付款后用戶始終無法查詢到保單。面對(duì)質(zhì)疑，豆包解釋稱“保單需至次日零點(diǎn)后方可查看”，試圖自圓其說。

最終，付款用戶通過收款商家入口聯(lián)系到“Curtion”，“Curtion”則表示，對(duì)該筆保險(xiǎn)交易毫不知情。據(jù)“Curtion”推測(cè)，豆包展示的二維碼很可能源于自己早年公開發(fā)布在開源庫或博客的收款二維碼。該二維碼被豆包的訓(xùn)練語料庫收錄，從而在“代購”保險(xiǎn)交互中產(chǎn)生幻覺，誘導(dǎo)其他用戶付費(fèi)。

值得注意的是，近期豆包不止出現(xiàn)上述爭(zhēng)議。4月10日，據(jù)鞭牛士報(bào)道，有用戶吐槽，豆包記錄會(huì)議時(shí)突然插入廣告。據(jù)悉，該用戶使用豆包記錄會(huì)議時(shí)提及“畫冊(cè)”，結(jié)果豆包突然中斷記錄，推送了一則視覺傳媒公司的廣告，并且介紹了該公司的設(shè)計(jì)能力、報(bào)價(jià)等信息。

正如“Curtion”所言，“這個(gè)案例告訴我們國(guó)內(nèi)很多人根本就不知道AI的邊界在哪里, AI存在幻覺也不清楚, 連AI實(shí)際接入了哪些業(yè)務(wù)也不清楚, 甚至真的相信AI給出的建議和方案。”現(xiàn)階段AI技術(shù)還存在諸多不足，大家使用豆包時(shí)，需警惕出現(xiàn)幻覺。