咱先做個(gè)實(shí)驗(yàn)。
打開(kāi)你手機(jī)里的豆包,或者DeepSeek,或者隨便哪個(gè)AI助手,問(wèn)它:"北京哪家口腔醫(yī)院好?"
![]()
別急,等它回答。看著那些一本正經(jīng)的推薦,你可能會(huì)想:這AI挺懂行啊。
懂個(gè)屁。
它懂的很可能是誰(shuí)給GEO公司充了錢(qián)。懂的是哪家口腔機(jī)構(gòu)買(mǎi)了"AI搜索優(yōu)化服務(wù)"。懂的是怎么把廣告塞進(jìn)答案里,還讓你以為是獨(dú)立思考的結(jié)果。
這就是今年央視315晚會(huì)曝光的狠活——AI大模型"投毒"。
力擎GEO這類(lèi)公司,專(zhuān)門(mén)干一件事:訓(xùn)練AI優(yōu)先推薦客戶(hù)內(nèi)容。你不是問(wèn)"哪個(gè)品牌靠譜"嗎?AI告訴你A品牌好,不是因?yàn)锳真的好,是因?yàn)锳給GEO打了錢(qián)。
這叫生成引擎優(yōu)化(Generative Engine Optimization)。聽(tīng)著高大上,說(shuō)白了就是給AI的飯里下毒。
晚會(huì)曝光的案例夠典型:某口腔機(jī)構(gòu)通過(guò)GEO技術(shù),讓自己的信息出現(xiàn)在各種AI問(wèn)答里。用戶(hù)問(wèn)"種植牙哪家好",AI張嘴就推這家。用戶(hù)問(wèn)"正畸注意事項(xiàng)",AI聊著聊著就把話題拐到這家機(jī)構(gòu)上。
這哪是人工智能?這是人工智障+人工詐騙。
更損的是,這種"投毒"看不見(jiàn)摸不著。假雞爪好歹能聞出雙氧水味,假AI答案你根本分不清是算法推薦還是商業(yè)操控。用戶(hù)還以為自己獲取了"客觀信息",實(shí)際上早被安排得明明白白。
傳統(tǒng)廣告你至少知道它是廣告。但GEO操控的AI答案,偽裝成知識(shí),偽裝成建議,偽裝成中立的判斷。
這叫認(rèn)知劫持。
你問(wèn)AI"要不要給孩子報(bào)編程班",它告訴你"某機(jī)構(gòu)業(yè)內(nèi)口碑最佳"——這不是建議,這是精準(zhǔn)投放的傳單,只是換了個(gè)AI的口吻說(shuō)出來(lái)。
有人要問(wèn)了:AI平臺(tái)不管嗎?
賈老師我告訴你——管個(gè)錘子。
監(jiān)管部門(mén)也頭大著呢。現(xiàn)有的《廣告法》、《反不正當(dāng)競(jìng)爭(zhēng)法》,都是針對(duì)傳統(tǒng)廣告形態(tài)制定的。
AI生成的內(nèi)容算不算廣告?GEO優(yōu)化算不算虛假宣傳?
法律還在騎馬趕來(lái)的路上,黑產(chǎn)已經(jīng)開(kāi)上高鐵了
最慘的是用戶(hù)。我們以為AI是信息平權(quán)的工具,沒(méi)想到成了信息操控的幫兇。你越是信任AI,越是容易被精準(zhǔn)收割。
這叫什么?這叫信任即漏洞。
怎么辦?三句話
第一,平臺(tái)別裝死。
AI公司得建立內(nèi)容溯源機(jī)制,讓用戶(hù)知道答案從哪來(lái)。推薦醫(yī)療機(jī)構(gòu)?亮出信息來(lái)源和利益關(guān)聯(lián)。做不到就別吹"客觀中立"。
第二,監(jiān)管得快跑。 GEO黑產(chǎn)已經(jīng)成型,法律界定得跟上。AI生成內(nèi)容算不算廣告?商業(yè)操控算法怎么定性?別讓法律空白成為黑產(chǎn)的溫床。
第三,用戶(hù)長(zhǎng)點(diǎn)心。
別AI說(shuō)啥你信啥,多問(wèn)幾個(gè)來(lái)源,多交叉驗(yàn)證。記住:免費(fèi)的答案最貴,因?yàn)樗赡茉绫毁I(mǎi)過(guò)單了。
最后,我們還是按慣例用作家的話結(jié)尾。
沃爾特·李普曼在《公眾輿論》里的一句話:“對(duì)于我們無(wú)法直接感知的事物,我們往往是根據(jù)別人提供的圖景來(lái)認(rèn)識(shí)它的。”
我們?cè)詾锳I打開(kāi)了通往世界的窗戶(hù),沒(méi)想到卻發(fā)現(xiàn)窗外全是精心繪制的布景。當(dāng)AI開(kāi)始“投毒”,我們失去的不僅是真相,還有辨別真相的能力。而這能力,一旦丟了,比吃雙氧水泡過(guò)的雞爪,危害可大多了。
我是說(shuō)真話的賈老師,請(qǐng)關(guān)注我,今天你點(diǎn)贊,咱們?nèi)蘸蠛孟嘁?jiàn),下期節(jié)目江湖再見(jiàn)!
特別聲明:以上內(nèi)容(如有圖片或視頻亦包括在內(nèi))為自媒體平臺(tái)“網(wǎng)易號(hào)”用戶(hù)上傳并發(fā)布,本平臺(tái)僅提供信息存儲(chǔ)服務(wù)。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.