6月5日，“不要相信豆包識別的野生蘑菇”沖上熱搜，我感到十分驚訝。因為一個月前，我誤判了豆包的誤判。

上月初傳出豆包開啟C端收費時，小編約我寫一篇，還為我收集了相關的素材。其中就包括豆包誤識別毒蘑菇的信息，我的第一反應是這種人命關天的事可開不得玩笑，大廠要上收費的成熟產品不可能如此兒戲。然而，我錯了。誤識別確實發生了，而且挺嚴重。

誤識別事件發生在4月初，當事人陳先生采摘了一些野生白蘑菇。為了鑒別該蘑菇是否有毒，陳先生咨詢了豆包。豆包的識別為雞腿菇，陳先生就拿去煲湯了，引發急性肝衰竭，送醫救治。

“不要相信豆包識別的野生蘑菇”沖上熱搜后，抖音副總裁李亮公開回應了此事。顯然，這起誤判事件肯定是真的。而且，很可能遠不止一起。熱搜中有網友稱“去年我幫忙識別的蘑菇中毒案例就有十多起是豆包誤導而誤食的毒蘑菇，毒倒近30人”。

我先疊個甲，本文不討論毒蘑菇識別的科學知識，熱心科普“野生蘑菇風險高，不要采食”的朋友請出門左轉。

在我看來，“毒AI”比毒蘑菇更可怕。

01

看了李亮的回復，我再次感到震驚。

一是震驚于抖音官方的正式回復來得那么遲。事發后兩個月才給出官方的警示信息，沒上熱搜就當沒發生是吧？

二是震驚這篇很長、很正式的回復，通篇沒有一點“道歉”的意思。非但沒有道歉，而且十分委屈。

李總回應稱，給該用戶的回復中明確提示：“極容易和劇毒的大青褶傘混淆，誤食會引發嚴重的胃腸炎癥狀”，“如果這幾朵蘑菇是野外采摘的，強烈建議不要食用”，并表示“野生蘑菇的辨別風險極高，僅憑圖片無法100%排除有毒相似種的可能”。乍一看，是挺委屈啊。豆包苦口婆心說半天，風險警示是做足了。陳先生就不聽，可不得活該中毒嗎？

然而，這堆風險警示，都是給出“雞腿菇”的識別結論后的馬后炮。

明確的結論給出后，再補大段的“免責聲明”、風險警示，這是分不清主次緩急，還是預留概不負責的法律后門？

02

聲明最后部分，李總還不忘諄諄教導用戶，“AI目前還在發展階段，豆包也在不斷提升識別準確性，涉及類似人身安全的問題，建議AI的回答僅供參考，請務必多方咨詢求證，以免造成傷害。”

如果這是第三方評論的觀點，淡化、洗地、卸責三件套也就罷了。可是，這是出于抖音高管的正式回復，就讓人摸不著頭腦了。您是出品方，發聲明就是為問題產品給用戶個說法，而不是教育用戶怎樣使用AI工具。“請務必多方咨詢求證，以免造成傷害”，原來毒蘑菇中毒不是因為豆包誤識別，而是因為用戶沒到處打聽？錯不在我，也不能這么直白地說出來啊。

豆包誤識別毒蘑菇，就沒有“造成傷害”的責任嗎？AI發展階段識別準確性不足，可不是推卸責任的理由。月活3.5億的豆包，無論是什么階段，都應該是一款成熟產品。成熟產品的安全性不是高標準嚴要求的上限，而是市場化應用的底線。如果“發展不成熟”可以成為安全事故的理由，那還請發展成熟了再拿出來推廣使用。

當然，再成熟的IT產品也不可能盡善盡美，總要給點容錯率。問題是，什么可以錯，什么不可以錯？

把喇叭花誤識別為牡丹花、林黛玉誤識別為魯智深，都可以“識別準確度不高”的一笑置之。可是，毒蘑菇識別人命關天，“識別準確度不高”，誰能笑得出來？這樣的“技術解釋”，誰能接受？

AI的安全風險在技術上是不可能完全消除的，這是事實。但是該打的補丁還是要打的。應對高風險問題，大模型行業是有成熟的應對方式的。最慎重也是最安全的是拒答。還處于發展階段的AI大模型承認不懂不敢瞎說，不丟人。退而求其次，也是先充分警示風險后再給參考結論，而且要明確提示“僅供參考”。

這兩種處理方式，已經是業內通行的做法，很多主流大模型都是這樣處理用戶高風險提問的。

比如面對高風險的醫學問題時，OPenAI會先用一串免責聲明“疊甲”，把“謹慎參考”的警示表達足了，再給出參考結論。江湖人稱“疊甲流”。這種做法被認為比較“雞賊”，因為免責聲明疊甲的風險警示是自身免責的“以我為主”，多少有點動機不純的花花腸子。但是客觀上也的確起到了風險警示前置的提示作用，“雞賊”但不過分。

Anthropic在處理同類問題時，更傾向于拒絕回答。就是我不瞎說你別瞎問的硬扛。犧牲了使用的流暢性，用戶會有些許不快，但是安全感拉滿，是真對用戶負責。就像直男談戀愛，沒有甜言蜜語，只有默默守護。

兩種處理方式，兩種風格。OPenAI像是個老練的高情商律師，而Anthropic更像是理工直男工程師。豆包的風險警示“后置”算什么風格呢？先承諾后甩鍋的渣男風？

03

其實，國內很多大模型，包括豆包，是很擅長拒答硬扛用戶的，而且拒答的頻率很高。只不過那點嚴防死守的安全意識全都用在了屏蔽“敏感詞”的銅墻鐵壁上了，算是好鋼用在了刀刃上嗎？我們的大模型識別蘑菇有沒有毒的準確度可能不行，識別思想純潔和肉身安全孰輕孰重，卻是很精準的。所以，毒蘑菇事件事發兩個月后，才迎來了姍姍來遲的官方回應。此事不急，事緩則圓，圓不過去也沒關系。

遲到的正式回應不道歉、不承擔責任、不解決問題，風輕云淡、處變不驚。自家公司產品出的事，官方聲明的腔調比看熱鬧不嫌事大的吃瓜群眾更淡定從容。堂堂正正的錯不在我，威儀凜然，確實是霸道總裁本裁。

賤命一條，誤識別就誤識別了，中毒就中毒吧，多大點事？草民以身試毒，還能為提高國產大模型的識別準確性做出貢獻，與有榮焉，當銘感五內。

用這樣俯視蒼生、漠視人命的心態搞出來的AI大模型，毒性比毒蘑菇要大得多。3.5億月活用戶以身試毒，真讓人捏把汗。不過，換個角度看，人命成本低，也算是獨特的人工智能技術發展優勢吧。