當(dāng)大模型技術(shù)加速滲透金融、政務(wù)、企業(yè)等領(lǐng)域，智能化轉(zhuǎn)型浪潮正在描繪千行百業(yè)的高質(zhì)量發(fā)展的“富春山居圖”。但與此同時，數(shù)據(jù)泄露、模型攻擊、服務(wù)中斷等安全威脅如影隨形，讓AI應(yīng)用的前景蒙上陰影。面對傳統(tǒng)風(fēng)險與新興攻擊交織的復(fù)雜局面，唯有依托場景化、定制化的安全方案，方能筑牢AI安全防線，真正實現(xiàn)“讓智能更安全”。

在即將啟幕的2025中國數(shù)谷?西湖論劍大會上，安恒信息以“讓安全更智能讓智能更安全”為主題舉辦的新品發(fā)布會上，重磅推出面向企業(yè)應(yīng)用、智算中心、政數(shù)局、大模型安全監(jiān)管四大核心場景的AI安全解決方案，以全生命周期防護(hù)能力，為行業(yè)智能化轉(zhuǎn)型保駕護(hù)航。

傳統(tǒng)與新興風(fēng)險交織，行業(yè)智能化挑戰(zhàn)升級

大模型等 AI 技術(shù)在推動各行業(yè)智能化轉(zhuǎn)型的同時，也面臨著巨大的安全風(fēng)險，這在很大程度上影響了用戶對于 AI 技術(shù)的信心。從 ChatGPT 的“奶奶漏洞”導(dǎo)致Windows序列號泄露，到 LLaMA 在特定角色設(shè)定下輸出不安全內(nèi)容，這些事件都警示著大模型安全面臨嚴(yán)峻挑戰(zhàn)。

在傳統(tǒng)安全風(fēng)險層面，大模型依賴海量訓(xùn)練數(shù)據(jù)，其中不乏用戶隱私數(shù)據(jù)、商業(yè)機(jī)密等敏感信息，一旦發(fā)生數(shù)據(jù)泄露或未授權(quán)訪問，后果不堪設(shè)想。而攻擊者通過漏洞獲取模型管理權(quán)限，可能篡改模型參數(shù)、竊取模型所有權(quán)或進(jìn)行惡意部署。有研究顯示，大量模型服務(wù)器缺乏嚴(yán)格的安全認(rèn)證管理，使得網(wǎng)絡(luò)攻擊者能夠未經(jīng)授權(quán)訪問服務(wù)，導(dǎo)致模型服務(wù)中斷；而DDoS、中間人攻擊等手段，也會對 AI 算力服務(wù)造成安全威脅，致使 AI 基礎(chǔ)設(shè)施無法正常運行。

在新興風(fēng)險方面，大模型自身的復(fù)雜性、數(shù)據(jù)依賴性和可解釋性不足，催生出數(shù)據(jù)投毒、對抗攻擊、模型竊取、濫用風(fēng)險等新型攻擊方式。例如，攻擊者精心構(gòu)造惡意提示詞，誘導(dǎo)大模型輸出敏感信息或執(zhí)行惡意指令；向訓(xùn)練數(shù)據(jù)中混入錯誤或惡意數(shù)據(jù)，使模型學(xué)習(xí)到錯誤模式，導(dǎo)致實際應(yīng)用中輸出錯誤結(jié)果；通過各種手段獲取大模型的參數(shù)和開源代碼，不僅侵犯知識產(chǎn)權(quán)，還可能利用竊取的模型進(jìn)行非法活動。2023 年底，一家汽車經(jīng)銷商上線了一個基于 ChatGPT API 定制的客服聊天機(jī)器人，在用戶的誘導(dǎo)下，該機(jī)器人以1 美元價格出售了一輛 2024 年的雪佛蘭 Tahoe。

當(dāng) AI 融入實際業(yè)務(wù)場景后，多種安全風(fēng)險相互關(guān)聯(lián)、疊加放大。例如，攻擊者通過傳統(tǒng)手段（如釣魚攻擊）獲取模型訪問權(quán)限后，進(jìn)一步實施數(shù)據(jù)投毒或?qū)构簟鹘y(tǒng)防火墻難以檢測對抗樣本，權(quán)限管理機(jī)制可能無法覆蓋模型微調(diào)階段的細(xì)粒度操作。這意味著，網(wǎng)絡(luò)攻擊者可以構(gòu)建復(fù)合型工具鏈，實施更為復(fù)雜的攻擊路徑。2024 年 8 月，在黑帽美國大會上，前微軟高級安全架構(gòu)師 Michael Bar Gury 揭示了 15 種攻破微軟 Copilot 的方法，攻擊者可利用 Copilot 定位敏感數(shù)據(jù)，在不留下日志的情況下竊取數(shù)據(jù)并發(fā)起釣魚攻擊。

AI 安全的復(fù)雜性，源于其既要抵御新興風(fēng)險的侵襲，又要防范傳統(tǒng)安全風(fēng)險的威脅。想要實現(xiàn) “讓智能更安全”，就需要緊跟網(wǎng)絡(luò)攻擊的新動向，制定針對性的安全防護(hù)策略，整合現(xiàn)有的網(wǎng)絡(luò)安全能力，全面化解數(shù)據(jù)安全、模型安全、內(nèi)容安全、運行環(huán)境等風(fēng)險，構(gòu)建系統(tǒng)性的防護(hù)體系。

行業(yè)需求差異化，場景化解決方案成破局關(guān)鍵

在政府、金融、企業(yè)等行業(yè)推進(jìn)大模型落地的過程中，由于行業(yè)特性、數(shù)據(jù)類型和應(yīng)用場景各不相同，AI 面臨的安全風(fēng)險也呈現(xiàn)顯著差異，由此催生出多樣化的安全防護(hù)需求。而這種差異化的本質(zhì)，在于數(shù)據(jù)敏感性、合規(guī)嚴(yán)格性、場景風(fēng)險性的不同。因此，行業(yè)用戶需要針對自身特點，研判網(wǎng)絡(luò)攻擊工具鏈與路徑，量身定制適配的AI安全方案。

隨著 DeepSeek 等基座大模型技術(shù)持續(xù)迭代升級，企業(yè)本地化部署大模型漸成趨勢。然而，在大模型開發(fā)建設(shè)、部署運行到應(yīng)用運維的全生命周期管理中，主機(jī)安全防護(hù)薄弱、內(nèi)容輸出合規(guī)性難控、數(shù)據(jù)泄露風(fēng)險加劇以及運維安全保障不足等問題交織疊加，構(gòu)成企業(yè)數(shù)字化轉(zhuǎn)型的核心挑戰(zhàn)。如何構(gòu)建一套覆蓋全流程的安全防護(hù)體系，成為驅(qū)動企業(yè)高效實現(xiàn)數(shù)字化轉(zhuǎn)型發(fā)展的關(guān)鍵命題。

在智算中心領(lǐng)域，大模型深度滲透在AI訓(xùn)練與推理全鏈路中，物理設(shè)施安全防護(hù)、算力資源合理調(diào)配、AI 業(yè)務(wù)穩(wěn)定運行等全棧安全挑戰(zhàn)環(huán)環(huán)相扣。網(wǎng)絡(luò)攻擊、內(nèi)容失范、供應(yīng)鏈漏洞、數(shù)據(jù)泄露風(fēng)險等問題交織，加之等保、數(shù)安法等合規(guī)要求的約束，如何實現(xiàn)安全能力與算力網(wǎng)絡(luò)的智能協(xié)同調(diào)度，構(gòu)建全流程、多層次的安全防護(hù)體系，已成為亟待攻克的行業(yè)命題。

于政務(wù)場景而言，大模型的交互式服務(wù)特性與政務(wù)數(shù)據(jù)的敏感性疊加，政數(shù)局在政務(wù)服務(wù)智能問答、公共數(shù)據(jù)分析預(yù)測、政策智能解讀等核心業(yè)務(wù)場景中，不僅要應(yīng)對數(shù)據(jù)安全防護(hù)、內(nèi)容合規(guī)把控的雙重壓力，還需抵御惡意指令注入、數(shù)據(jù)篡改等攻擊威脅。與此同時，審計溯源機(jī)制的缺失與系統(tǒng)穩(wěn)定性短板，嚴(yán)重掣肘政務(wù)服務(wù)效能的提升，亟需系統(tǒng)性安全解決方案破局。

從AI大模型監(jiān)管視角出發(fā)，在網(wǎng)絡(luò)安全、數(shù)據(jù)安全、API 安全及內(nèi)容安全等核心監(jiān)管場景中，監(jiān)管者面臨系統(tǒng)風(fēng)險隱患與安全事件自動化識別能力不足、生成內(nèi)容合規(guī)性動態(tài)檢測困難等現(xiàn)實挑戰(zhàn)。如何突破技術(shù)瓶頸，實現(xiàn)風(fēng)險的高效識別與內(nèi)容合規(guī)的精準(zhǔn)判定，已成為構(gòu)建大模型全方位監(jiān)管體系亟需解決的關(guān)鍵問題。

因此，要實現(xiàn)AI安全，需要立足場景需求，融合傳統(tǒng)與新型安全工具，構(gòu)建場景化解決方案和動態(tài)防御體系，從而實現(xiàn)高效防護(hù)。

在2025中國數(shù)谷·西湖論劍大會上，安恒信息將以“讓安全更智能讓智能更安全”為主題，圍繞企業(yè)應(yīng)用、智算中心、政數(shù)局、大模型安全監(jiān)管等核心場景，發(fā)布“讓智能更安全”的四大AI安全解決方案，并推出恒腦3.0、XSIAM平臺、AI+SaaS-XDR等“讓安全更智能”的系列新品。同時，安恒信息全新AI+產(chǎn)品與服務(wù)全景圖也將亮相，全面展示覆蓋數(shù)據(jù)、模型、應(yīng)用全流程的安全能力矩陣，為企業(yè)、政務(wù)、智算等領(lǐng)域提供從風(fēng)險識別、應(yīng)急響應(yīng)到安全監(jiān)管的一體化解決方案。

從技術(shù)創(chuàng)新到場景落地，安恒信息正以場景化思維重塑AI安全新范式。2025中國數(shù)谷?西湖論劍大會，邀您共赴這場“AI+安全”的變革盛宴！