微軟近日悄然發(fā)布了Agent Governance Toolkit（智能體治理工具包），這是一個專為企業(yè)在生產(chǎn)環(huán)境中監(jiān)控和管控AI智能體而設計的開源項目。

這款工具包的推出，是微軟針對開放全球應用安全項目（OWASP）日益關(guān)注的AI及大語言模型安全風險所作出的回應。微軟首席工程組負責人Imran Siddique在一篇博客文章中介紹，該工具包在運行層面增加了安全策略的執(zhí)行能力，可有效緩解提示詞注入等安全問題，同時提升對復雜多步驟工作流中智能體行為的可見性。

具體而言，該工具包完整對應了OWASP針對智能體系統(tǒng)發(fā)布的十大風險，涵蓋目標劫持、工具濫用、身份盜用、供應鏈風險、代碼執(zhí)行、內(nèi)存污染、不安全通信、級聯(lián)故障、人機信任利用以及惡意智能體等威脅。

談及推出這一工具包的初衷，Siddique指出，當前AI系統(tǒng)與管理松散的分布式環(huán)境越來越相似——多個不可信組件共享資源、自主決策，并在幾乎沒有監(jiān)督的情況下與外部系統(tǒng)進行交互。正是這一現(xiàn)狀，促使微軟將操作系統(tǒng)、服務網(wǎng)格和站點可靠性工程中已被驗證的設計模式引入AI領(lǐng)域，為這些環(huán)境帶來結(jié)構(gòu)化、隔離性與可控性。

最終，微軟將上述設計理念封裝為該工具包的七大組件，支持Python、TypeScript、Rust、Go和.NET等主流編程語言。Siddique表示，跨語言支持的設計理念旨在貼合開發(fā)者的實際使用習慣，并推動工具包在異構(gòu)企業(yè)技術(shù)棧中的集成落地。

在具體組件方面，該工具包包含多個功能模塊：策略執(zhí)行層Agent OS、安全通信與身份認證框架Agent Mesh、執(zhí)行控制環(huán)境Agent Runtime，以及覆蓋可靠性、合規(guī)性、市場治理與強化學習監(jiān)管的Agent SRE、Agent Compliance和Agent Lightning等附加組件。

除模塊化設計外，Siddique還特別強調(diào)，該工具包從設計之初便具備框架無關(guān)性："我們從第一天起就將工具包設計為框架無關(guān)的。每一項集成都掛載到各框架原生的擴展點上——LangChain的回調(diào)處理器、CrewAI的任務裝飾器、Google ADK的插件系統(tǒng)、微軟智能體框架的中間件管道——因此引入治理機制并不需要重寫智能體代碼。"

他進一步解釋，這種設計方式將有效降低集成成本與風險，使開發(fā)者無需重構(gòu)應用架構(gòu)，即可將治理控制引入生產(chǎn)系統(tǒng)，從而不影響現(xiàn)有工作流程。

Siddique還列舉了多個已在生產(chǎn)環(huán)境中部署的框架集成案例，包括LlamaIndex的TrustedAgentWorker集成。

目前，該工具包已進入公開預覽階段，采用MIT許可證，以單一代碼倉庫（monorepo）結(jié)構(gòu)組織，各組件可獨立安裝。微軟表示，未來計劃將該項目移交至基金會主導的運營模式，并已與OWASP智能體AI社區(qū)展開合作，推動更廣泛的治理與管理機制建設。

Q&A

Q1：微軟智能體治理工具包是什么？主要解決什么問題？

A：微軟智能體治理工具包（Agent Governance Toolkit）是一個開源項目，專為企業(yè)在生產(chǎn)環(huán)境中監(jiān)控和管控AI智能體而設計。它在運行層增加了安全策略執(zhí)行能力，可應對提示詞注入、目標劫持、身份盜用等OWASP定義的智能體系統(tǒng)十大安全風險，同時提升對復雜多步驟工作流中智能體行為的可見性和可控性。

Q2：微軟智能體治理工具包支持哪些編程語言和AI框架？

A：該工具包支持Python、TypeScript、Rust、Go和.NET五種主流編程語言，并具備框架無關(guān)性，可無縫集成LangChain、CrewAI、Google ADK、微軟智能體框架等主流AI開發(fā)框架，開發(fā)者無需重寫智能體代碼即可引入治理機制。目前LlamaIndex的TrustedAgentWorker集成已在生產(chǎn)環(huán)境中部署。

Q3：微軟智能體治理工具包現(xiàn)在可以使用嗎？后續(xù)有什么計劃？

A：該工具包目前已進入公開預覽階段，采用MIT許可證，以單一代碼倉庫結(jié)構(gòu)提供，各組件可獨立安裝。微軟未來計劃將項目移交基金會主導，并已與OWASP智能體AI社區(qū)展開合作，推動更廣泛的治理與管理機制建設。