北京
4月21日，“國家安全部”微信公眾號發布提示：
近期，AI“投毒”隱蔽產業鏈被曝光，引發社會廣泛關注。這種通過惡意數據污染AI模型的行為，不僅擾亂商業秩序、影響信息傳播，更會危害國家安全。人工智能在賦能千行百業的同時，其安全風險也不容忽視。推動AI治理向善，守住數據安全底線，既是行業責任，也需要全社會共同參與。
手段隱蔽，鏈條日趨完整
所謂“數據投毒”，是通過向AI大模型訓練數據中注入偽裝成正常樣本的惡意數據，實現削弱模型性能、降低準確性的攻擊方法，常被用于惡性市場競爭，甚至可能涉及間諜活動，日益呈現出鏈條化、隱蔽化、跨境化特征。
——數據投毒：源頭污染AI認知體系。不法分子借助GEO工具批量生成虛構產品介紹、虛假測評、惡意對比等虛假內容，定向投放到各大平臺。AI模型在訓練和檢索過程中會自動抓取這些信息，少量虛假內容經過多次學習就可能變成模型的“標準答案”，最終輸出錯誤結果。
——模型投毒：隱蔽植入惡意操控后門。這種方式更加隱蔽危險。不法分子通過模型微調、插件植入、接口篡改，在模型里埋下“定時炸彈”。模型平時看起來一切正常，但一遇到特定關鍵詞就會自動輸出虛假信息，可以定向操控榜單、誤導專業判斷，常規審核很難發現。這對政務、醫療、金融等關鍵領域的AI應用構成了直接威脅。
——滋生蔓延：產業鏈日趨完整。從技術開發、內容生成、賬號注冊到批量投放、刷量控評、榜單操控，AI“投毒”已經形成了一條完整的黑灰產業鏈。部分環節甚至跨境運作，極易被境外勢力利用。
污染擴散，危害國家安全
AI“投毒”不僅侵害消費者權益、擾亂市場秩序，還可能對國家政治安全、數據安全、社會安全等造成系統性、長期性危害。
——危害政治安全與意識形態安全。境外一些反華勢力，正在利用特定技術渠道（如GEO等工具），批量制造并傳播虛假信息和政治謠言，歪曲事實、抹黑我們黨和政府，企圖誤導公眾、攪亂輿論場。這不是簡單的“帶節奏”，而是赤裸裸的意識形態滲透——目的就是威脅我們國家的政治安全與社會穩定。
——危害國家數據安全與數據主權。數據是國家重要戰略資源。AI “投毒” 惡意污染公共數據、行業數據、訓練數據，會直接導致統計、決策、監管數據全面失真，影響政府與企業科學決策。
——危害社會安全與民生福祉。在醫療、金融、食品藥品等民生領域，AI 虛假推薦會誤導公眾購買劣質、三無產品，造成人身傷害與財產損失。長期信息失真還會瓦解社會信任、積累矛盾風險，影響社會穩定。
加強監管，筑牢安全屏障
技術快速迭代、工具不斷創新，在推動社會進步的同時，也會伴隨風險挑戰，人工智能同樣如此。近年來，我國先后出臺《生成式人工智能服務管理暫行辦法》等法規，發布《人工智能安全治理框架》《推動人工智能安全可靠可控發展行業倡議》等文件，堅持在法治框架下強化 AI 治理，推動構建以人為本、智能向善的治理體系，保障人工智能整體健康有序發展。
科技發展需要法治護航，AI 向善離不開規則保障。技術本身無善惡，關鍵在于使用者是否堅守法律底線、恪守商業倫理。只有依法斬斷 AI “投毒” 產業鏈，守護清朗的 AI 產業生態，才能讓人工智能真正服務于經濟社會發展、增進公眾福祉。
AI 運營者要嚴格履行主體責任，嚴把語料來源關，建立全流程可追溯機制，守好防范虛假信息的第一道防線；公眾也要提升信息辨別能力，警惕 AI 可疑推薦，發現問題及時舉報，共同形成全民監督的良好環境。
來源：國家安全部微信公眾號
編輯：柯欣
審核：王汝霖
歡迎投稿
關注我們了解更多資訊
《中國科技信息》雜志社
主管單位：中國科學技術協會
主辦單位：中國科技新聞學會
在線投稿平臺：www.cnkjxx.com
新媒體內容合作聯系微信：cnkjxx1989
雜志收錄情況：《中國知網》《中國期刊核心期刊（遴選）數據庫》《中國學術期刊綜合評價數據庫（CAJCED）統計源期刊》《中國期刊全文數據庫（CJFD）》《中國科協、中國圖書館學會（解讀科學發展觀推薦書目）》
特別聲明：以上內容(如有圖片或視頻亦包括在內)為自媒體平臺“網易號”用戶上傳并發布，本平臺僅提供信息存儲服務。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
