AI安全風險藏不住了！瑞星揭示AI既好用也“好騙”

如今，人工智能已深度融入日常工作與生活，在帶來高效便利的同時，其作為“雙刃劍”的另一面也日益顯現。近日，瑞星公司發布的《2025年中國網絡安全報告》明確指出，AI自身的安全漏洞及其被惡意濫用的風險，已成為當前網絡安全領域的突出挑戰。

一、AI被武器化：攻擊門檻降低，欺詐更逼真

更令人擔憂的是，攻擊者正將AI轉化為高效“犯罪工具”，顯著降低網絡攻擊的技術門檻：

自動化惡意軟件生成：

如2025年初曝光的FunkSec勒索木馬，研究顯示其很可能由AI自動生成，短時間內攻擊了至少85家企業。AI不僅能快速生成惡意代碼，還能批量生成變種，繞過傳統安全軟件的簽名檢測。

首現AI勒索軟件：

全球首個AI勒索軟件PromptLock濫用開源模型，可跨平臺搜索、竊取并加密文件，標志著勒索攻擊進入智能化新階段。

深度偽造與社交工程：

AI偽造的“YouTube CEO”視頻被用于釣魚詐騙；意大利詐騙分子利用AI語音模仿國防部長，誘騙企業家轉賬；國內甚至出現“AI張伯禮院士”帶貨護膚品的偽造視頻，嚴重侵犯個人權益并誤導公眾。

釣魚郵件升級：

AI生成的釣魚郵件語法準確、語氣逼真，且能結合目標公開信息進行個性化定制，欺騙性大幅提升。

二、大模型自身漏洞頻出，成黑客新突破口

隨著大語言模型（LLM）從實驗室走向產業應用，其攻擊面持續擴大。報告指出，針對大模型本身的攻擊已成為2025年最突出的安全威脅之一。

開源工具默認配置漏洞：

如開源跨平臺大模型工具Ollama默認開放11434端口且無鑒權機制，一旦暴露在公網，極易導致數據泄露、算力盜取或服務中斷。

第三方連接器風險：

ChatGPT連接器被曝存在漏洞，攻擊者可通過“間接提示詞注入”手法，在用戶處理看似正常的文檔時，悄無聲息地提取其Google Drive賬戶中的敏感信息。

代碼助手被惡意利用：

GitLab的AI代碼助手GitLab Duo曾存在提示詞注入漏洞，攻擊者通過Unicode夾帶、Base16編碼等手段篡改其生成的代碼建議，甚至誘導其認可惡意合并請求。

報告還提到，攻擊者可通過“敘述式工程”手段，構建虛構場景誘導模型忽略安全規則，自動生成竊密木馬等惡意程序，反映出大模型在語義層面的防御機制仍存在明顯短板。

瑞星提醒：AI安全需全鏈條防護

報告最后指出，應對日益增長的AI安全威脅，機構與個人需共同遵循以下幾項核心防護原則：

工具官方化，配置最小化：

無論是企業部署還是個人使用，均應從官方渠道獲取AI工具與組件，并立即修改默認配置、禁用非必要服務，從源頭減少攻擊面。

數據分類化，權限最小化：

建立敏感數據“防火墻”，不向AI工具輸入個人隱私、商業機密等敏感信息。企業需嚴格管控API密鑰與數據訪問權限，個人要養成“先分類，后使用”的習慣。

核驗流程化，操作冷靜化：

對所有AI生成的內容或指令（如轉賬、修改憑證要求）保持警覺，建立“必須通過官方、獨立渠道進行二次核實”的強制流程，避免在緊急氛圍中誤操作。

瑞星公司表示，AI帶來的便利毋庸置疑，但它的安全風險也離我們不遠，唯有通過持續的技術升級、規范的完善與用戶安全意識的普遍提升，才能共同構建更可靠的數字安全屏障。