![]()
導讀:人工智能興起后,咨詢報告=AI生成 * X。
X=人類審核的程度。
而這埋藏著巨大的雷:客戶出事——發現咨詢報告有幻覺——找咨詢公司算帳——可能監管還要罰款。
特別是一些白皮書報告,是面向公眾發布的,責任更加重大,正如GPTZero研究人員在博客中寫道:
在線發布報告本質上是向互聯網知識庫注入數據。當報告包含虛假信息時,可能誤導未來的研究者,尤其是當報告由知名咨詢公司發布并托管在高流量網站上。
事件一:德勤澳大利亞“福利審查報告”
英國《金融時報》10月6日報道,德勤(Deloitte)澳大利亞分公司受澳大利亞聯邦政府委托,制作一份價值44萬澳元的福利審查報告,但報告中被發現存在多個錯誤,包括虛構的引用和不準確的信息,這些問題被歸因于AI生成的幻覺。
![]()
報告的更新版本中,德勤承認更新后的版本通過引用、參考文獻和一份法律訴訟摘要糾正了錯誤。
德勤澳大利亞表示:“此事已直接與客戶解決。”
事件二:德勤加拿大“人力資源計劃報告”
加拿大《The Independent》2025年11月22日報道,由全球咨詢公司德勤撰寫,并由紐芬蘭和拉布拉多省衛生和社區服務部于 5 月發布的《紐芬蘭和拉布拉多省衛生人力資源計劃》中至少包含四個不存在或似乎不存在的引用。
![]()
事件三:安永加拿大“忠誠度獎勵計劃研究報告”
英國《金融時報》5月16日信息,安永加拿大已撤回一項關于忠誠度獎勵計劃的研究報告。
報告標題為《攻擊點:揭露忠誠度系統中的網絡威脅和欺詐》(《Points of Attack: Uncovering Cyber Threats and Fraud in Loyalty Systems》)。
該報告中包含明顯的AI“幻覺”內容和虛假引用腳注。這是專業服務公司在使用新技術過程中出現問題的最新案例。
![]()
該研究曾被EY加拿大的咨詢團隊用于宣傳其網絡安全業務。然而,在線研究人員發現,報告中使用了虛構數據、錯誤歸屬的引用,并提及一份并不存在的麥肯錫報告。
在研究小組GPTZero于周四晚間發現問題后,EY加拿大已將該報告從官方網站移除。
調查發現,27個引用中有16個是虛假的。我們收到的郵件中寫道:“雖然這份報告署名為三名員工,其中包括兩名合伙人和一名高級經理,但它實際上是由錯誤歸因、不準確的統計數據和人工智能生成的文本拼湊而成。例如,報告中引用的福布斯、麥肯錫、Gartner、TechCrunch和WIRED等研究機構的鏈接要么是失效的,要么根本就不存在。”
事件四:畢馬威“全面體驗報告”
The Register報道,研究機構GPTZero聲稱,對四大會計師事務所 2025 年 10 月發布的報告《全面體驗:在智能人工智能時代重新定義卓越》進行法證審查后發現,該報告的 45 個引用中只有 5 個正確指向了引用的來源;其余的引用要么是歪曲事實、具有誤導性,要么是部分捏造,要么是過于模糊而無法核實。
據《金融時報》報道,瑞銀集團、英國國家醫療服務體系、瑞士聯邦鐵路和倫敦交通局均表示,畢馬威報告中關于其人工智能應用的說法要么不實,要么具有誤導性。
![]()
GPTZero 將這種現象稱為“氛圍引用”(vibe citing")——相當于氛圍編碼(vibe coding) 的引用——在這種現象中,生成式人工智能似乎會將真實來源的碎片拼接在一起,編造標題,或者以其他方式生成看起來很可信的參考文獻,直到有人真正點擊它們。
據《金融時報》報道,畢馬威會計師事務所已從其部分網站上刪除了該報告,同時正在調查該報告是如何泄露出去的。
畢馬威的一位發言人告訴《The Register》:
“畢馬威國際非常重視已發布內容的準確性和完整性。該報告已被撤下,我們正在調查其發布情況。我們要求所有員工遵守我們關于負責任地使用人工智能的準則,包括人工監督以驗證內容并核實獨立來源。”
結尾
“以事實為基”,是咨詢業的基石。
但是正被生成式AI的“系統性質造”所侵蝕。這不僅可能導致客戶基于錯誤信息做出重大決策而蒙受損失,更危險的是,這些由頂級機構發布并被廣泛引用的“污染報告”,會向互聯網知識庫注入大量看似可信的虛假數據,形成難以清除的“信息毒素”,長此以往將從根本上破壞公眾對專業權威的信任。
面對這一困境,破局之道在于從流程與生態兩個層面重建“信任護欄”。
對內,咨詢公司必須建立比以往更嚴格的“人工審核冗余”機制,將AI工具嚴格定位為輔助角色,對關鍵數據、引用和案例實施多輪獨立交叉驗證,并明確標注AI使用范圍。對外,則需推動行業形成“AI幻覺溯源”的問責與糾錯機制 ,當錯誤發生時,不僅要迅速撤回、公開說明,更應主動“消毒”被污染的信息源,以透明化的補救行動來遏制“二次幻覺”的擴散,這將是未來專業服務業重塑公信力的必修課。
![]()
特別聲明:以上內容(如有圖片或視頻亦包括在內)為自媒體平臺“網易號”用戶上傳并發布,本平臺僅提供信息存儲服務。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.