廣東
來源：整理自外媒
英國《金融時報》5月16日信息，安永加拿大已撤回一項關于忠誠度獎勵計劃的研究報告，該報告中包含明顯的AI“幻覺”內容和虛假引用腳注。這是專業(yè)服務公司在使用新技術過程中出現(xiàn)問題的最新案例。
該研究曾被EY加拿大的咨詢團隊用于宣傳其網(wǎng)絡安全業(yè)務。然而，在線研究人員發(fā)現(xiàn)，報告中使用了虛構數(shù)據(jù)、錯誤歸屬的引用，并提及一份并不存在的麥肯錫報告。
報告標題為《攻擊點：揭露忠誠度系統(tǒng)中的網(wǎng)絡威脅和欺詐》（《Points of Attack: Uncovering Cyber Threats and Fraud in Loyalty Systems》）。
在研究小組GPTZero于周四晚間發(fā)現(xiàn)問題后，EY加拿大已將該報告從官方網(wǎng)站移除。并“正在審查導致該文章發(fā)布的情況”，并補充稱該研究與任何客戶工作無關。安永還強調，其“加拿大分部高度重視發(fā)布內容的準確性，并在組織范圍內承諾負責任使用AI”。
調查發(fā)現(xiàn)，27個引用中有16個是虛假的。我們收到的郵件中寫道：“雖然這份報告署名為三名員工，其中包括兩名合伙人和一名高級經(jīng)理，但它實際上是由錯誤歸因、不準確的統(tǒng)計數(shù)據(jù)和人工智能生成的文本拼湊而成。例如，報告中引用的福布斯、麥肯錫、Gartner、TechCrunch和WIRED等研究機構的鏈接要么是失效的，要么根本就不存在。”
GPTZero研究人員在博客中寫道：“在線發(fā)布報告本質上是向互聯(lián)網(wǎng)知識庫注入數(shù)據(jù)。當報告包含虛假信息時，可能誤導未來的研究者，尤其是當報告由知名咨詢公司發(fā)布并托管在高流量網(wǎng)站上。”
AI生成的“幻覺”內容已成為專業(yè)服務行業(yè)的持續(xù)問題。
去年十月，德勤（Deloitte）澳大利亞分公司受澳大利亞聯(lián)邦政府委托，制作一份價值44萬澳元的福利審查報告，但報告中被發(fā)現(xiàn)存在多個錯誤，包括虛構的引用和不準確的信息，這些問題被歸因于AI生成的幻覺。
去年11月，，加拿大政府委托德勤撰寫的一份醫(yī)療保健報告耗資近 160 萬加元（113 萬美元），其中可能包含人工智能生成的錯誤。
盡管都已解決，但是這些令人尷尬的事件凸顯了使用人工智能技術給咨詢公司帶來的危險，尤其是“幻覺”的危險。
在一文中，曾表示咨詢公司未來的一個重點就在于品牌宣傳"AI可信化"：
案例包裝：強調“AI+老師傅”組合，例如：“某項目用智能工具7天完成傳統(tǒng)團隊1個月的工作量，但最終建議由20年經(jīng)驗的合伙人親自把關”。
行業(yè)標簽：主打“垂直領域專家”，例如“專注快消行業(yè)AI轉型，模型庫含100+區(qū)域經(jīng)銷商實戰(zhàn)案例”。
風險對沖：對外承諾“所有AI結論均經(jīng)過人工復核”，規(guī)避客戶對數(shù)據(jù)可靠性的質疑。
盡管AI存在幻覺風險，但是咨詢大廠，卻仍然加大在這方面的投入，并向客戶推廣AI實施服務。
特別聲明：以上內容(如有圖片或視頻亦包括在內)為自媒體平臺“網(wǎng)易號”用戶上傳并發(fā)布，本平臺僅提供信息存儲服務。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
