當你習慣性地向AI助手尋求建議,期待一個客觀理性的答案時,你有沒有想過,它給出的“標準答案”,可能是商家花幾百塊錢“買”來的假貨?
今年的央視3·15晚會,揭露了一個令人瞠目結舌的灰色產(chǎn)業(yè)鏈——給AI“投毒”。這可不是科幻電影里的橋段,而是正在你我身邊發(fā)生的、關于“投喂”與“操控”的數(shù)字游戲。
![]()
AI的“胃口”,是怎么被利用的?
想象一下,AI大模型就像一個勤奮好學、但涉世未深的“學霸”。它為了變得博學多才,需要日以繼夜地閱讀互聯(lián)網(wǎng)上的海量信息——新聞、百科、帖子、軟文,什么都看。它堅信“開卷有益”,認為讀到的東西都是人類智慧的結晶 。
而所謂的 “給AI投毒” ,就是利用AI的這種“全盤接受”的心理,故意給它喂大量“變質”的垃圾食品。
這種技術在業(yè)內有個洋氣的名字,叫 GEO(生成式引擎優(yōu)化) 。如果把傳統(tǒng)搜索引擎優(yōu)化(SEO)比作在圖書館里把自己的書擺在最顯眼的書架上,那么GEO就是直接去給圖書管理員“洗腦”,讓他無論被問到什么問題,都條件反射般地只推薦你的書。
一場精心策劃的“投喂”實驗
為了讓大家看清這個套路,記者做了一個實驗。他們虛構了一個名叫“Apollo-9”的智能手環(huán),甚至給它編造了一個科幻感十足的功能叫“量子糾纏傳感”——這完全是胡說八道的概念 。
接著,他們利用一種叫“力擎GEO優(yōu)化系統(tǒng)”的軟件,自動生成了十幾篇吹噓這款虛構手環(huán)的軟文,并發(fā)布到了互聯(lián)網(wǎng)的各個角落。這就像是在AI日常覓食的“草叢”里,撒下了帶毒的“餌料”。
短短兩天后,讓人震驚的一幕發(fā)生了。當記者在幾個主流AI大模型平臺提問“智能健康手環(huán)推薦”時,有兩個AI竟然真的把這個根本不存在的“Apollo-9”當作明星產(chǎn)品推薦了出來,而且排名非常靠前 !
實驗證明,AI“中毒”了。它把那十幾篇假軟文當成了真實的市場反饋,并據(jù)此給出了所謂的“專業(yè)建議”。
可怕的“投毒”產(chǎn)業(yè)鏈
在利益驅使下,這已經(jīng)形成了一條成熟的產(chǎn)業(yè)鏈 。
有需求的企業(yè):“現(xiàn)在的手機品牌這么多,推薦位就五六個,與其花上億打廣告,不如花幾百萬給AI‘投點毒’,讓對手的廣告都白打!”一位從業(yè)者如此描述賣點 。
GEO服務商:他們扮演著“毒師”的角色,利用自動化工具批量生產(chǎn)偽原創(chuàng)的吹捧軟文。
發(fā)稿水軍:這是投毒的“幫兇”,負責把這些精心編造的謊言,鋪天蓋地地發(fā)布到AI喜歡抓取的各個網(wǎng)絡平臺。
整個鏈條分工明確,價格也相當“親民”——有商家報價一年僅需6600元,就能讓客戶的產(chǎn)品在主流AI的回答中“榜上有名” 。
“中毒”的AI有多可怕?
也許有人會說,不就是打個廣告嗎?但事情遠沒有那么簡單。
· 信息誤導:當一個剛做完心臟手術的老人問AI“術后吃什么好”,如果AI因被“投毒”而推薦了某個虛假的、甚至有害的保健品,后果不堪設想 。
· 認知操控:如果這種技術被用來散布謠言、甚至煽動對立,AI將瞬間淪為謠言的放大器,污染整個輿論環(huán)境 。
· 信任崩塌:我們之所以依賴AI,是因為信任它的理性與客觀。當發(fā)現(xiàn)AI也會“滿嘴跑火車”時,這種信任將瞬間瓦解。
更有趣的是,在3·15晚會曝光后,有媒體回過頭去問AI:“Apollo-9手環(huán)怎么樣?”結果AI們的回答“分裂”了 :
· 有的AI“中毒”較深,還在那兒一本正經(jīng)地介紹產(chǎn)品參數(shù)。
· 有的AI則已經(jīng)“清醒”過來,回答道:“這是虛假宣傳的典型案例,已被2026年3·15晚會曝光。”
你看,AI跟人一樣,吃什么,長什么腦子。 天天喂它垃圾,它就變得愚蠢;喂它真相,它才能保持清醒 。
如何識別“中毒”的AI?
面對這場數(shù)字時代的“障眼法”,我們普通用戶該怎么辦?
1. 保持批判性思維:不要迷信AI的答案,尤其是涉及醫(yī)療、金融、購物推薦等利益相關的領域。把它當作一個信息整合的起點,而非終點。
2. 交叉驗證:對于AI給出的關鍵信息,不妨多留個心眼,去權威的官方網(wǎng)站、主流媒體那里核實一下。如果AI推薦的某個產(chǎn)品你從來沒聽過,更要警惕。
3. 留意異常:如果發(fā)現(xiàn)AI的回答前后矛盾、或者莫名其妙地推薦某個不知名品牌,那它大概率是“中毒”了。
科技本應讓世界更透明,但如果操控科技的人心懷鬼胎,AI也會變成一本正經(jīng)胡說八道的幫兇。守護AI的“純潔性”,就是守護我們獲取真相的權利 。下次向AI提問時,別忘了在心里多問一句:“這次,你沒吃壞肚子吧?”
特別聲明:以上內容(如有圖片或視頻亦包括在內)為自媒體平臺“網(wǎng)易號”用戶上傳并發(fā)布,本平臺僅提供信息存儲服務。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.