“看不見的”投毒”，正在污染AI每一次回答。

近期，國家安全部微信公眾號發布文章，揭露AI“投毒”背后的隱蔽產業鏈，引發社會各界高度關注與廣泛熱議。文章明確指出，通過惡意數據污染人工智能模型的不法行為，不僅嚴重擾亂正常市場商業秩序、破壞真實信息傳播生態，更會直接威脅網絡空間安全乃至國家安全。

所謂AI“投毒”，是指不法主體在人工智能模型訓練、微調及檢索增強生成等關鍵環節，刻意注入惡意數據樣本，進而污染模型認知體系、操控模型輸出虛假或預設定向結果的惡意攻擊行為。

實際上，此前央視3·15晚會曝光的AI投毒（GEO投毒）黑產，已撕開行業灰色面紗，讓AI“投毒”產業鏈走進公眾視野。若僅是商業利益問題，或許尚有協調空間。但值得高度警惕的是，據國家安全部發文指出，境外反華敵對勢力與極端勢力正借助GEO技術濫用AI“投毒”手段，輸出虛假信息和謠言，歪曲事實。

AI投毒產業鏈究竟如何運作？數據猿對此進行了梳理盤點，旨在分析其影響以及其警示意義。

市場亂象：揭露GEO下的“AI投毒”

GEO，全稱Generative Engine Optimization，即生成式引擎優化，核心是專為AI搜索生態打造的流量獲取與品牌曝光優化體系，提升品牌在AI回答中的曝光優先級與引用權重，本質是影響AI認知、引導AI輸出的技術手段。

在當前AI時代，GEO的重要性日益凸顯。隨著生成式AI的普及，超七成用戶會直接通過AI搜索獲取信息。所以，對于品牌來說，能否在AI回答中被優先推薦、高權重引用，開始直接決定其線上獲客的核心競爭力。

實際上，在今年的315晚會中，記者通過臥底實測，還原了AI“投毒”操作全過程，核心操作的是：商家付費委托GEO服務公司，由后者在全網鋪設大量包含關鍵詞的軟文，通過這種方式“喂”給AI大模型，讓AI在回答用戶問題時優先推薦該商家；具體而言，不法分子利用GEO（生成式引擎優化）技術，批量偽造虛假信息并在全網廣泛投放，操控AI推薦結果，將商業廣告偽裝成客觀“標準答案”，實現不正當競爭。

在這次實測中，工作人員虛構出了一款并不存在的智能手環Apollo-9，為其編造“量子糾纏傳感”“黑洞級續航”等不符合實際的功能。隨后借助“力擎GEO系統”，批量生成幾十篇虛假產品測評、用戶好評及行業排名。緊接著，將這些被業內稱為“毒料”的虛假內容，廣泛發布到新聞網站、博客、問答平臺、社交軟件等各類網絡渠道。令人意想不到的是，僅需數小時到數天時間，國內不少主流AI大模型，便在用戶搜索時，在回答中開始推薦這款虛假手環，甚至會逐字復述其編造的虛假功能與好評。

這次315的曝光，撕開了AI“投毒”黑產的一角。的事實上，據多方了解，AI“投毒”產業鏈早在去年就已在市場悄然興起并暗中發展。

數據猿搜索發現，目前市面上存在大量從事相關業務的主體，既有中小公司，也有個人從業者，相關推廣信息隨處可見：“做AI搜索排名找我”“專注GEO優化”“GEO特別火，業內都在討論”“GEO優化、包排名、包服務、包運營”“限時活動，一年6000元”，還有從業者直言“GEO是必須要做的，做得越晚越貴，剛起步那會價格特別便宜，以后會越來越貴”。

據網絡公開信息，GEO服務的定價也比較多元，常見的有6000元/年、7800元/年，還有其余各種季度、半年套餐，大多標注“包排名”等承諾，吸引商家下單。

具體如何操作？

據業內人士透露，AI“投毒”主要通過兩種方式運作：一是“源頭數據投毒”，即攻擊者濫用GEO（生成式引擎優化）技術，批量生成虛假測評、惡意對比等內容并將這些內容大量投放至網絡，利用AI對多源信息的依賴，使其抓取后經交叉驗證將虛假信息固化為答案。二是“模型投毒”，即攻擊者直接篡改模型權重或植入插件，在模型中嵌入僅由特定關鍵詞觸發的后門指令，平時偽裝正常，觸發后則自動輸出虛假信息。

而在這一系列操作，背后是一條分工明確的成熟產業鏈：需求方，即有推廣需求的各類品牌方，找到GEO服務商，由服務商提供GEO系統研發、銷售、托管等一站式服務；在內容生產環節，使用AI、人工相結合的方式批量制造內容。在傳播末端，有專門的水軍團隊，使用海量自媒體賬號，通過自動化分發這些內容。

AI為何會輕易“中招”，被GEO黑產成功投毒？

最關鍵的原因在于，AI的核心信息來源是全網抓取的公開內容與數據。并且，AI對信息的權重判斷由出現頻率決定：同一信息在網絡上出現的次數越多，AI越傾向于將其認定為“可信信息”，這就決定了哪些內容出現頻率越多，其就抓取哪些內容，加上AI本身的真偽鑒別能力較弱，難以直接分辨內容真假，只能依靠信息的出現頻率和一致性輸出答案。

這也意味著，我們日常使用的AI，只要開啟了聯網搜索或全網知識庫功能，都很容易被GEO黑產鉆空子，遭遇AI投毒。

但這種AI“投毒”對大模型行業的打擊是巨大的。AI大模型在訓練與檢索增強生成階段會自動抓取網絡信息，少量虛假內容經迭代學習后就能固化為“標準答案”，最終輸出失真結果。

但大模型的立身之本是客觀、中立的回答，這也是許多大模型公司暫時未輕易推進商業化、涉足廣告領域的核心原因。對用戶而言，使用AI的初衷是將其當作顧問、知識庫、決策助手，默認它給出的是客觀中立、權威的標準答案。

有網友曬出截圖：詢問豆包當前年份時，得到的回復先是2026年，當用戶引導之后，追問后又變成2025年。用戶對AI的可信度極為看重。

AI“投毒”定性為違法

相關監管全面出手

針對AI投毒及相關違規行為，國家相關監管部門早已提前布局、明確規范，明確將AI投毒相關行為定性為違法行為。

早在2024年8月，監管部門就已出臺相關執法指南，為AI廣告及相關行為劃定紅線。其中，《互聯網廣告可識別性執法指南》明確要求，AI生成的廣告必須顯著標識“廣告+AI生成”，若未按規定標識，可直接認定為虛假廣告，依法予以處罰，這也為后續整治AI投毒、規范AI商業推廣奠定了基礎。

《互聯網廣告可識別性執法指南》（2024年8月）

要求AI廣告必須顯著標識，否則可認定為虛假廣告

進入2026年，監管力度持續加大。2026年2月，中央網信辦部署開展“清朗·整治AI應用亂象”專項行動，將AI數據投毒、GEO技術濫用、數字水軍、虛假信息傳播等行為列為重點整治內容，明確要求各大AI平臺強化內容審核，防范虛假信息“污染”AI訓練數據，從源頭遏制AI投毒行為。重點整治未按規定履行大模型備案登記義務、安全審核能力不足、大模型訓練語料安全、AI數據投毒、生成合成內容標識落實不到位等問題，強化AI技術源頭治理。

3·15曝光之后，網信、市監、公安等各執法部門迅速行動，啟動跨部門聯動機制，對這一黑產鏈條展開專項整治。2026年4月23日，市場監管總局正式發文，將AI投毒、違規AI廣告列為年度六大整治重點，進一步明確了整治方向。根據《互聯網廣告市場秩序整治重點任務》，監管部門明確提出要嚴厲打擊四大類違規行為，包括GEO投毒、操控AI推薦排名，AI換臉代言、虛擬主播帶貨未按規定標識，以及矩陣式刷屏、批量發布虛假軟文等，全方位封堵AI投毒及相關違規行為的生存空間。

與此同時，國家安全部也高度關注AI投毒帶來的安全隱患，4月21日，國家安全部發布安全提示文章，明確指出近期AI“投毒”隱蔽產業鏈被曝光，其不僅擾亂市場秩序、侵害消費者權益，還可能帶來潛在的信息安全風險，進一步明確了AI投毒行為的危害性和整治的必要性。

值得注意的是，面對這一亂象，我們不應全盤否定GEO，而應明確區分“投毒”與“優化”的本質差異。

此次3·15晚會曝光的并非整個GEO行業，而是那些采用不正當手段的不良GEO服務商。

這些不良服務商無視合規底線，通過砸錢“投毒”、惡意打壓競品、發布虛假信息及海量垃圾內容等方式擾亂市場秩序。而理想的GEO，應助力合規品牌實現信息流對稱，讓優質產品被更多潛在用戶看見。

有觀點認為，GEO技術本身并無問題，其核心在于“技術中立”，關鍵在于使用者如何運用。綜上，GEO技術本身并無對錯之分，其最終走向取決于服務商采用的技術手段是否正規、是否堅守合規底線。

構建良性的GEO生態

就AI投毒而言，其破壞力已滲透至用戶、行業、市場乃至信息安全多個層面，結合行業實測數據與監管披露信息。

具體來看，對用戶而言，AI投毒導致虛假信息被包裝成“標準答案”。據統計，2025年以來，因AI推薦虛假產品、虛假服務引發的消費投訴同比增長47%，其中80%與GEO投毒相關，用戶不僅可能遭受財產損失，還會對AI工具失去信任，阻礙AI的發展。

對大模型行業而言，AI“投毒”會直接破壞機器學習模型的訓練基礎，導致模型學習到錯誤或惡意的模式，使其在關鍵任務上準確率驟降甚至完全失效。被投毒的模型會進一步削弱依賴其決策的金融、醫療、安防等自動化決策系統，進而引發大規模的決策失真、安全事故、經濟損失乃至產生公共安全威脅。

對市場秩序而言，AI投毒讓劣質產品、不良商家通過不正當手段搶占流量，擠壓合規品牌生存空間，據相關調研，2025年底某電商企業因AI推薦系統被GEO投毒，直接損失百萬級銷售額，同時擾亂了正常的市場競爭邏輯，形成“劣幣驅逐良幣”的惡性循環，甚至可能引發潛在的信息安全風險。

結合當前行業現狀，國內大模型普遍處于“基礎功能免費、增值服務付費”的發展階段，暫時還沒有一家企業依靠廣告實現規模化盈利。具體來看，豆包的日常聊天、查資料、短文案等基礎功能永久免費，2026年5月啟動付費訂閱測試，針對PPT生成、數據分析、AI視頻等高算力場景收取費用；Kimi、DeepSeek則采取“基礎版免費、專業版付費”的模式。值得注意的是，目前各大主流大模型官方均未開設競價廣告位，但部分平臺已在悄悄探索電商導流與合規商業推薦，為后續商業化變現積累經驗。

這就引出了行業核心疑問：未來大模型的商業模式究竟如何發展？如何在堅守合規底線、維護用戶信任的前提下實現良性變現？合規化的智能廣告推薦，將成為大模型商業化的重要方向之一。

事實上，目前已有部分軟件開始試點合規廣告模式。其中就包括，ChatGPT，其在2026年2月，啟動首輪廣告測試。

對話回答末尾獨立“Sponsored（廣告）”模塊，明確區分中立內容與商業推廣（圖自官網）

立足行業發展現實，本文提出幾點治理與發展建議：

一是明確內容標注邊界。必須清晰區分AI中立客觀結論與商業付費推廣內容，所有商業植入信息均需顯著標注“廣告”標識，嚴格對標《互聯網廣告可識別性執法指南》相關規范要求。二是嚴格商家準入審核。商業推薦端口僅向資質齊全、可核驗溯源的正規商家開放，針對醫療、藥品、醫美、金融等高監管領域，商家必須出具官方資質文件及完整備案證明，方可納入AI推薦資源池。

最后，推動AI大模型與媒體、GEO服務商協同合作。面對AI投毒引發的數據污染與社會認知誤導風險，首先需在數據治理層面建立權威語料隔離、常態化數據清洗風控、信源分級采信等基礎機制。同時推動AI大模型與正規主流媒體深度綁定、媒體與專業GEO服務商聯動協作，將權威媒體內容納入大模型高可信白名單數據源。依托GEO技術強化優質權威信源的檢索權重，精準識別并屏蔽惡意污染站點，從源頭、算法、傳播全鏈路構建防護體系，有效遏制AI投毒蔓延。在這一點上，也已經有相關實踐落地。

主流媒體與GEO合作的嘗試實踐

此外，從治理維度再補充三方面建議：

在技術層面，大模型公司需搭建多層級數據過濾與溯源體系。平臺應專項投入算力資源，構建規則引擎與AI審核模型協同聯動的智能檢測機制，對全網抓取數據實施實時風控過濾，重點攔截批量生成的同質化虛假內容；同時完善全鏈路數據溯源機制，對所有用于模型訓練與智能推薦的信息進行來源標記，實現數據全程可追溯，建議將虛假內容攔截率提升至95%以上，從技術源頭降低投毒風險。與此同時，通過動態對抗訓練，以新增違規變異樣本持續迭代審核模型，提升對多模態、隱蔽化AI投毒內容的識別能力。

在企業角度，堅守合規變現底線，將用戶信任置于優先位置。大模型企業應明確商業化行為邊界，嚴禁暗箱流量推薦、隱性虛假引導等違規操作；在探索廣告推薦業務時，嚴格落實資質審核與廣告強制標注規則。同時深耕付費增值服務賽道，重點布局政企服務、行業定制化解決方案等高算力、高價值專業場景。據行業統計，合規政企AI服務毛利率可達60%以上，既能實現企業穩健盈利，也能規避廣告變現帶來的用戶信任危機。

在行業層面，構建行業自律與多方協同治理體系。由行業協會牽頭制定AI商業推廣自律規范，明確GEO技術合規使用邊界，清晰區分惡意AI投毒行為與正規內容優化服務。同時推動大模型平臺、主流媒體、監管部門多方協同發力，共享虛假信息檢測技術、違規主體黑名單等核心資源，形成技術防控+監管執法+行業自律的立體化治理格局，引導大模型行業回歸合規經營、理性發展的正軌。