隨著企業(yè)加速部署AI智能體，如何有效治理這些智能體正成為一大難題。數(shù)據(jù)保護(hù)公司Commvault近日推出了一系列新產(chǎn)品，其中核心產(chǎn)品AI Protect能夠發(fā)現(xiàn)并監(jiān)控運(yùn)行在AWS、Azure和GCP云環(huán)境中的AI智能體，并在出現(xiàn)問(wèn)題時(shí)回滾其操作。

Commvault成立已有30年，此次產(chǎn)品發(fā)布旨在將自身定位于"AI韌性"領(lǐng)域的核心位置。這一領(lǐng)域工具需求正在快速增長(zhǎng)。值得注意的是，身份訪問(wèn)與管理平臺(tái)Okta上個(gè)月也宣布正式推出Okta for AI Agents，支持用戶定位智能體、查看其行為并在必要時(shí)將其關(guān)閉。

Commvault此次還同步推出了另外兩款新產(chǎn)品：Data Activate和AI Studio。前者專注于將備份數(shù)據(jù)整備成可供機(jī)器學(xué)習(xí)流水線使用的格式，后者則為企業(yè)提供構(gòu)建和部署自有智能體的工具集。

Commvault首席技術(shù)官（現(xiàn)場(chǎng)）Vidya Shankaran在接受采訪時(shí)表示，這些產(chǎn)品的推出恰逢其時(shí)，因?yàn)槠髽I(yè)正爭(zhēng)相部署AI智能體，卻在治理層面力不從心。

"很多組織往往忽視了一個(gè)事實(shí)：你需要開(kāi)始保護(hù)向量數(shù)據(jù)庫(kù)，而它本質(zhì)上是整個(gè)AI技術(shù)棧的大腦。"Shankaran說(shuō)道。

她解釋說(shuō)，向量數(shù)據(jù)庫(kù)存儲(chǔ)著大語(yǔ)言模型所依賴的嵌入向量。一旦向量數(shù)據(jù)庫(kù)遭到破壞或丟失，企業(yè)要么需要從頭重建，要么需要重新訓(xùn)練模型。"如今沒(méi)有任何企業(yè)能承受這樣的時(shí)間代價(jià)。"

AI Protect的設(shè)計(jì)目標(biāo)是跨云環(huán)境追蹤和響應(yīng)AI智能體的行為，覆蓋AWS、Azure和GCP。該工具可自動(dòng)發(fā)現(xiàn)智能體、梳理其依賴關(guān)系，并監(jiān)控其行為是否出現(xiàn)異常。Shankaran將其描述為一種基線偏差模型：系統(tǒng)持續(xù)采集事件數(shù)據(jù)，建立正常行為模式，隨后對(duì)偏離基線的行為進(jìn)行標(biāo)記——例如某個(gè)智能體突然獲取了此前無(wú)權(quán)訪問(wèn)的薪資數(shù)據(jù)。

"我們會(huì)將任何異常行為浮出水面。首先發(fā)出通知，然后提供回滾該智能體配置文件或修復(fù)受保護(hù)數(shù)據(jù)的選項(xiàng)。"她表示。

一旦出現(xiàn)問(wèn)題，AI Protect可以恢復(fù)智能體的配置，或?qū)⑵鋼p壞的數(shù)據(jù)回滾至已知的正常狀態(tài)。不過(guò)，Shankaran也坦承，該工具目前只能監(jiān)控和回滾，無(wú)法直接停止或控制第三方智能體。

"我們更愿意專注于自己的職責(zé)范圍，而不是越界去對(duì)Salesforce的智能體發(fā)號(hào)施令。"她說(shuō)。

Data Activate則讓企業(yè)能夠利用Commvault已管理的備份副本來(lái)訓(xùn)練AI模型，從而減少對(duì)生產(chǎn)系統(tǒng)的壓力。這些備份副本可經(jīng)過(guò)分類處理以剔除個(gè)人身份信息，再以Apache Iceberg和Parquet等格式發(fā)布，供Snowflake、Databricks等平臺(tái)使用。這為Commvault客戶提供了一種從原本閑置數(shù)據(jù)中挖掘更多價(jià)值的途徑。

"你已經(jīng)在用Commvault保護(hù)這些數(shù)據(jù)了，現(xiàn)在只是把這些受保護(hù)的副本用于驅(qū)動(dòng)AI流水線。"Shankaran說(shuō)。

當(dāng)然，Commvault在幫助企業(yè)管控智能體的同時(shí)，也在持續(xù)擴(kuò)充智能體生態(tài)：AI Studio提供了一套預(yù)構(gòu)建智能體，可供Commvault客戶用于常見(jiàn)的數(shù)據(jù)保護(hù)任務(wù)，同時(shí)也為企業(yè)提供自建智能體的工具。其核心理念是讓Commvault的智能體與其他平臺(tái)的智能體協(xié)同工作——例如，Salesforce的智能體可以與Commvault的智能體協(xié)作，確保數(shù)據(jù)既可訪問(wèn)又受到保護(hù)。AI Studio還支持Commvault的模型上下文協(xié)議（MCP）服務(wù)器，以便與其他企業(yè)系統(tǒng)集成。

Q&A

Q1：Commvault AI Protect能做什么？

A：AI Protect是Commvault推出的智能體監(jiān)控工具，能夠自動(dòng)發(fā)現(xiàn)運(yùn)行在AWS、Azure和GCP云環(huán)境中的AI智能體，梳理其依賴關(guān)系，并監(jiān)控其行為異常。當(dāng)智能體出現(xiàn)越權(quán)訪問(wèn)等異常時(shí)，系統(tǒng)會(huì)發(fā)出通知，并支持回滾智能體配置或修復(fù)被破壞的數(shù)據(jù)，但不能直接控制或停止第三方智能體。

Q2：為什么向量數(shù)據(jù)庫(kù)對(duì)AI系統(tǒng)這么重要？

A：向量數(shù)據(jù)庫(kù)存儲(chǔ)著大語(yǔ)言模型運(yùn)行所依賴的嵌入向量，是整個(gè)AI技術(shù)棧的核心。一旦向量數(shù)據(jù)庫(kù)遭到破壞或丟失，企業(yè)將面臨從頭重建或重新訓(xùn)練模型的高昂代價(jià)，耗費(fèi)大量時(shí)間和資源。因此，對(duì)向量數(shù)據(jù)庫(kù)的保護(hù)是AI系統(tǒng)韌性管理中不可忽視的關(guān)鍵環(huán)節(jié)。

Q3：Commvault Data Activate是如何幫助AI訓(xùn)練的？

A：Data Activate允許企業(yè)將Commvault已管理的備份數(shù)據(jù)副本用于訓(xùn)練AI模型，從而避免直接占用生產(chǎn)系統(tǒng)資源。這些備份副本可經(jīng)過(guò)分類處理以去除個(gè)人身份信息，并以Apache Iceberg和Parquet等通用格式發(fā)布，兼容Snowflake和Databricks等主流AI平臺(tái)，讓原本閑置的備份數(shù)據(jù)發(fā)揮更大價(jià)值。