快科技4月15日消息，近日，一起由AI大模型引發(fā)的烏龍付款事件在網(wǎng)絡(luò)上引發(fā)關(guān)注。

有網(wǎng)友在某技術(shù)交流社區(qū)發(fā)帖爆料，自己從未從事過保險(xiǎn)業(yè)務(wù)，卻收到一位陌生人的消息，對方稱在他這里購買了保險(xiǎn)并轉(zhuǎn)賬1618元，但始終查詢不到保單記錄，這讓發(fā)帖人一頭霧水。

隨著事件細(xì)節(jié)逐步曝光，這起烏龍的來龍去脈也逐漸清晰。

據(jù)悉，事發(fā)時(shí)，當(dāng)事人（買保險(xiǎn)的用戶）通過AI客戶端咨詢并購買保險(xiǎn)，AI根據(jù)其需求，不僅提供了具體的保險(xiǎn)鏈接，還生成了一張支付寶收款二維碼，并明確提示當(dāng)事人，掃碼付款即可完成投保。

當(dāng)事人沒有多想，按照AI的提示掃碼支付了1618元保費(fèi)，但付款后，他遲遲未能查詢到相關(guān)保單信息。

于是，當(dāng)事人再次咨詢該AI客戶端，得到的回復(fù)卻是需等到當(dāng)日24點(diǎn)后才能出單，暫時(shí)無法查看保單屬于正常情況，這讓當(dāng)事人暫時(shí)放下了疑慮。

直到遲遲未等到保單，當(dāng)事人才意識到不對勁，通過收款二維碼對應(yīng)的商家入口，聯(lián)系到了收款賬戶的主人——也就是發(fā)帖的網(wǎng)友，告知對方自己已經(jīng)報(bào)警，并希望對方能盡快退還這筆1618元的保費(fèi)。

對于自己的收款碼為何會被當(dāng)成保險(xiǎn)付款碼，發(fā)帖人給出了推測：他表示，自己此前曾在開源代碼庫、個(gè)人博客等公開平臺上發(fā)布過自己的收款二維碼，懷疑是AI客戶端的語料庫抓取到了這些公開信息，誤將其當(dāng)作保險(xiǎn)官方收款碼推送給了買保險(xiǎn)的當(dāng)事人。

針對這起烏龍事件，涉事AI平臺的負(fù)責(zé)人作出回應(yīng)。負(fù)責(zé)人表示，經(jīng)平臺核實(shí)，該案例是由于用戶與AI進(jìn)行多輪對話后，模型出現(xiàn)幻覺，錯(cuò)誤調(diào)用了網(wǎng)上公開的個(gè)人收款信息，才導(dǎo)致了這一烏龍的發(fā)生。

平臺同時(shí)透露，該案例中的問題已第一時(shí)間修復(fù)。目前，當(dāng)用戶詢問個(gè)人付款地址、付款二維碼時(shí)，模型不會再給出個(gè)人公開信息的二維碼。

在此提醒廣大網(wǎng)友：通過AI辦理金融、保險(xiǎn)等涉及資金交易的業(yè)務(wù)時(shí)，務(wù)必提高警惕，仔細(xì)核實(shí)收款方的身份，切勿直接按照AI提示的二維碼或賬戶轉(zhuǎn)賬，避免造成財(cái)產(chǎn)損失。