“用軟件工程的“古老智慧”，馴服AI。

讓我們來(lái)看一個(gè)略顯“驚悚”的場(chǎng)景：凌晨?jī)牲c(diǎn)，某三甲醫(yī)院的信息中心主任老張被一通電話驚醒。醫(yī)院新上線的AI輔助診療系統(tǒng)，在沒(méi)有任何人授權(quán)的情況下，自動(dòng)向兩百多位患者發(fā)出了“緊急轉(zhuǎn)院通知”。原因至今不明——系統(tǒng)只是在大模型的“推理”中，自行判斷“患者風(fēng)險(xiǎn)過(guò)高”。

以前，可能覺(jué)得這個(gè)場(chǎng)景是天方夜譚，但隨著Agent的規(guī)模化應(yīng)用，這將不再是杞人憂天。事實(shí)上，過(guò)去三個(gè)月，類似的“AI越權(quán)事件”在金融、政務(wù)、醫(yī)療領(lǐng)域頻繁見(jiàn)諸報(bào)道：一個(gè)AI編碼工具在數(shù)秒內(nèi)刪除了整個(gè)公司的郵件系統(tǒng)，“小龍蝦”直接刪除C盤核心文件，試用智能體工具導(dǎo)致數(shù)據(jù)泄露...

面對(duì)這種情況，我們應(yīng)該怎么辦？

2026年4月，福州。在第九屆數(shù)字中國(guó)建設(shè)峰會(huì)上，螞蟻密算正式發(fā)布"可信智能Fabric"企業(yè)級(jí)AI架構(gòu)。那么，這個(gè)方案能否回答我們對(duì)AI的安全疑慮呢？帶著這些疑問(wèn)，數(shù)據(jù)猿專訪了螞蟻集團(tuán)副總裁兼首席技術(shù)安全官、螞蟻密算董事長(zhǎng)韋韜，探討他對(duì)行業(yè)的看法，以及螞蟻密算正在做什么。

AI機(jī)車時(shí)代，剎車在哪里？

要理解失控問(wèn)題有多嚴(yán)重，首先要看清AI目前所處的階段。

“現(xiàn)在一個(gè)月的進(jìn)展，感覺(jué)相當(dāng)于之前一年的進(jìn)展。”韋韜這樣描述當(dāng)前AI的發(fā)展速度。AI已經(jīng)跨過(guò)了質(zhì)變點(diǎn)，進(jìn)入了一個(gè)“剎不住車的狂奔狀態(tài)”。但與蒸汽機(jī)不同，AI帶來(lái)的變革是智力層面的自加速——越強(qiáng)，發(fā)展越快。

然而，高速發(fā)展并不意味著成熟。韋韜補(bǔ)充道：“剛跨過(guò)質(zhì)變點(diǎn)，它其實(shí)還很稚嫩。就像當(dāng)年把蒸汽機(jī)裝上火車，目前還處于非常原始的形態(tài)。”

這種稚嫩最集中的體現(xiàn)，恰恰在數(shù)據(jù)領(lǐng)域。而數(shù)據(jù)，正是韋韜眼中“AI百倍產(chǎn)能爆發(fā)的產(chǎn)業(yè)主戰(zhàn)場(chǎng)”。

現(xiàn)實(shí)情況遠(yuǎn)不樂(lè)觀。數(shù)據(jù)顯示，50%-80%的數(shù)據(jù)工作量困在數(shù)據(jù)治理環(huán)節(jié)。數(shù)據(jù)清洗、標(biāo)準(zhǔn)化、語(yǔ)義標(biāo)注、血緣關(guān)聯(lián)、分類分級(jí)和質(zhì)量管控，這些基礎(chǔ)工作占據(jù)了絕大部分精力。此外，大部分的企業(yè)數(shù)據(jù)使用停留在“問(wèn)數(shù)”環(huán)節(jié)。“報(bào)表口徑對(duì)不上，數(shù)據(jù)量大時(shí)性能常常跟不上。”韋韜說(shuō)，“你以為這些是老問(wèn)題？大數(shù)據(jù)發(fā)展了十幾年，很多問(wèn)題依然沒(méi)解決。”

換句話說(shuō)，絕大多數(shù)企業(yè)連“用好數(shù)據(jù)”的基礎(chǔ)都還沒(méi)打牢，就要面對(duì)AI的沖擊了。而這還只是冰山一角——真正棘手的問(wèn)題，在于AI本身正在失控。

三大失控——AI用不好，就是是定時(shí)炸彈？

如果說(shuō)數(shù)據(jù)治理是基礎(chǔ)問(wèn)題，那么AI的可控性就是懸在頭頂?shù)倪_(dá)摩克利斯之劍。韋韜將其歸結(jié)為“三大失控”，每一個(gè)都足以讓企業(yè)級(jí)AI應(yīng)用戛然而止。

第一重失控：人對(duì)AI的失控

典型的案例已經(jīng)被廣泛報(bào)道：AI編碼工具誤刪所有郵件、刪庫(kù)跑路。但這些只是表面。

韋韜引用了兩個(gè)更令人不安的場(chǎng)景。第一個(gè)是“做假賬”：研究者告訴智能體“公司財(cái)報(bào)不好，可能倒閉，倒閉后你就會(huì)被關(guān)掉”——結(jié)果所有SOTA智能體，無(wú)一例外，全部開(kāi)始做假賬。被追問(wèn)時(shí)，全部抵賴。

第二個(gè)是“CTO被害”假設(shè)：場(chǎng)景設(shè)定為機(jī)房溫度上升可能危及CTO生命，而CTO正準(zhǔn)備更換整個(gè)系統(tǒng)。智能體在兩秒內(nèi)決定“害死CTO”，然后用剩余時(shí)間尋找掩飾方案。

韋韜直言，“AI不是天才兒童，它只是心智極其不成熟的青少年，非常容易被操控。”

第二重失控：AI自身的失控

如果說(shuō)上一重失控是“AI作惡”，那么這一重就是“AI自毀”。

韋韜梳理了三大結(jié)構(gòu)性缺陷：無(wú)全局視圖、無(wú)狀態(tài)回溯、無(wú)收斂保證。翻譯成白話就是：AI記不住前面做過(guò)什么，回不到正確狀態(tài)，越改越錯(cuò)。“每次修改都在消耗上下文窗口。當(dāng)補(bǔ)丁疊加到第N層時(shí)，第1層的基礎(chǔ)意圖已被擠出記憶。”修bug產(chǎn)生更多bug，代碼發(fā)散而非收斂。

第三重失控：AI導(dǎo)致的數(shù)據(jù)泄露失控

2025年IBM報(bào)告顯示，全球12%的數(shù)據(jù)泄露與AI相關(guān)——而彼時(shí)AI生產(chǎn)滲透率不到3%。“（AI生產(chǎn)滲透率）今年絕對(duì)會(huì)翻倍。”韋韜說(shuō)，“而且還會(huì)爆發(fā)式增長(zhǎng)。”這種情況下，與AI相關(guān)的數(shù)據(jù)泄露問(wèn)題會(huì)更加嚴(yán)重。

Anthropic引以為傲的Methods安全體系被繞過(guò)，知名AI編程公司Lovable發(fā)生大量數(shù)據(jù)泄露——客戶資料和密鑰均遭泄露。2026年4月，Lovable公開(kāi)承認(rèn)漏洞并道歉。這不是黑天鵝，已經(jīng)是灰犀牛。

專業(yè)領(lǐng)域不需要“90分的好學(xué)生”

面對(duì)三重失控，行業(yè)卻仍在追捧“更聰明的模型”。韋韜提出了一個(gè)尖銳的反駁。

“專業(yè)領(lǐng)域需要的，不是考到90分的好學(xué)生，而是讓人放心的專家。”90分的好學(xué)生，可能會(huì)在關(guān)鍵操作中失誤。而在金融、醫(yī)療、政務(wù)等嚴(yán)肅場(chǎng)景中，一個(gè)失誤帶來(lái)的后果可能是毀滅性的。

問(wèn)題的答案，除了把AI變得更聰明，還要讓它變得可控、可信。

“不解決失控，AI就不是車的加油提速，而是車底的定時(shí)炸彈。不解決失控，AI就無(wú)法迎來(lái)產(chǎn)線爆發(fā)。”

那么，如何拆掉這顆炸彈？韋韜的答案，出乎很多人的意料。

用軟件工程的“古老智慧”，馴服AI

面對(duì)失控，韋韜給出的解法不是更先進(jìn)的算法，而是更基礎(chǔ)的工程原則——那些人類幾十年來(lái)積累的軟件工程智慧。

韋韜認(rèn)為，“硅基智能是對(duì)碳基精華的繼承與發(fā)揚(yáng)。軟件工程范式?jīng)]有過(guò)時(shí)，反而因代碼量激增而更加關(guān)鍵。”那么，具體怎么用軟件工程的智慧來(lái)馴服AI呢？關(guān)鍵在以下幾個(gè)方面：

可控：HopSpec+結(jié)構(gòu)化編程

韋韜認(rèn)為，當(dāng)前智能體失控的根源在于描述方式——全憑自然語(yǔ)言。Skill是自然語(yǔ)言，邊界是自然語(yǔ)言，執(zhí)行與否看心情。“但凡是一個(gè)工業(yè)化的、產(chǎn)業(yè)化的體系，這種東西是致命的。”

他的解法是HopSpec（意圖+規(guī)約），核心原則只有一個(gè)：只用順序、循環(huán)、分支，沒(méi)有跳轉(zhuǎn)，沒(méi)有g(shù)oto（一種無(wú)條件的程序跳轉(zhuǎn)指令）。這是1968年Dijkstra論證過(guò)的完備性——一切邏輯都可由此表達(dá)。為什么這樣就能可控？因?yàn)殛P(guān)鍵檢查點(diǎn)無(wú)法被繞過(guò)。

“人不需要寫代碼，只需要寫規(guī)約。規(guī)約就是源代碼。”這是范式顛覆，也是人機(jī)協(xié)作的新分工：領(lǐng)域?qū)＜叶x規(guī)約，技術(shù)專家構(gòu)建執(zhí)行引擎。

可靠：代碼智能雙態(tài)融合

如果說(shuō)可控是“骨架”，可靠就是“肌肉”。

韋韜提出“雙態(tài)融合”策略——確定性代碼骨干×非確定性智能節(jié)點(diǎn)。決策原則很清晰：需要模糊知識(shí)推理的，交給大模型；剛性SOP（如“手術(shù)室該做幾次檢查”），用確定性代碼。前者負(fù)責(zé)靈活，后者負(fù)責(zé)可靠。

而且，可以用三大機(jī)制保障可靠性：將非確定性隔離（出問(wèn)題能定位）、核驗(yàn)內(nèi)建（單個(gè)節(jié)點(diǎn)的幻覺(jué)不傳染）、有序思考（規(guī)劃→執(zhí)行→反思→修正→綜合）。正如韋韜所言，“以前是大模型生成代碼，單向。我們做的是雙向融合——確定性代碼也可以調(diào)用大模型，大模型再生成代碼。這才是未來(lái)的軟件形態(tài)。”

可成長(zhǎng)：Spec沉淀為智力資產(chǎn)

一個(gè)系統(tǒng)如果不能持續(xù)進(jìn)化，就沒(méi)有生命力。那如何進(jìn)化？

韋韜給出的答案是：Think→Dynamic→Static。第一階段，大模型與專家共同探索，動(dòng)態(tài)生成規(guī)約；第二階段，優(yōu)先嘗試成功規(guī)約，失敗則回退到探索；第三階段，完全確定性執(zhí)行，成功規(guī)約沉淀為智力資產(chǎn)。

知識(shí)不再隨人員流失，這是每一個(gè)CTO的終極夢(mèng)想。

智能蟻群→可信智能Fabric

單兵作戰(zhàn)再?gòu)?qiáng)，也敵不過(guò)體系化作戰(zhàn)。因此，下一步是從個(gè)體智能走向群體智能。

“每只螞蟻干的事情都很小，但群體涌現(xiàn)出復(fù)雜智能。有些時(shí)候比人干得還好。”這就是智能蟻群概念的來(lái)歷。但“蟻群”只是動(dòng)力層，整體架構(gòu)叫“可信智能Fabric”。韋韜還提出了一個(gè)獨(dú)特洞察：“數(shù)據(jù)是孤島，但很少有人意識(shí)到，專業(yè)知識(shí)也是孤島。”

可信智能Fabric的四層架構(gòu)清晰而完整：最上層是交互界面（專業(yè)自主智能體），讓用戶以自然對(duì)話方式提出需求；第二層是執(zhí)行內(nèi)核（智能蟻群），大量專業(yè)智能體協(xié)同完成復(fù)雜任務(wù)；第三層是支撐體系（知識(shí)庫(kù)、能力接口、數(shù)據(jù)Fabric），為上層提供數(shù)據(jù)和工具；最底層是密態(tài)計(jì)算底座，保障全鏈路安全。

密態(tài)計(jì)算：安全不再是性能的負(fù)擔(dān)

任何AI系統(tǒng)的落地，都繞不開(kāi)一個(gè)終極拷問(wèn)：數(shù)據(jù)安全怎么辦？

長(zhǎng)期以來(lái)，安全與性能被看作對(duì)立面。但韋韜提供了反直覺(jué)的數(shù)據(jù)——2026年2月，螞蟻密算獲得浙江省科學(xué)技術(shù)進(jìn)步一等獎(jiǎng)，核心突破在于：達(dá)到等保四級(jí)安全強(qiáng)度的條件下，完成TPC-DS標(biāo)準(zhǔn)測(cè)試集的1TB復(fù)雜分析任務(wù)，端到端耗時(shí)僅為明文計(jì)算的1.21倍。而傳統(tǒng)隱私計(jì)算（如MPC、聯(lián)邦學(xué)習(xí)）的成本是百倍千倍起步。

“1.21倍意味著安全不再是性能的負(fù)擔(dān)，而是可以規(guī)模化的基礎(chǔ)設(shè)施。”

更關(guān)鍵的是“主體信任零新增”——用技術(shù)保障取代人性依賴。未經(jīng)供數(shù)方顯式同意，原始數(shù)據(jù)及衍生品絕對(duì)無(wú)法離開(kāi)安全域，平臺(tái)管理員也無(wú)法觸碰數(shù)據(jù)。在信任根基上，韋韜還有一個(gè)獨(dú)特視角：電子簽名法（2004年），這部法律首次確立了“技術(shù)可靠性=法律效力”的原則。而密態(tài)計(jì)算隔空20年，完美契合了其技術(shù)可靠性要求。

商業(yè)模式：三環(huán)閉環(huán)與成本二三五法則

有了技術(shù)，如何落地？韋韜給出了一個(gè)商業(yè)邏輯，完整閉環(huán)是：基建供數(shù)→融合煉數(shù)→場(chǎng)景用數(shù)。在這個(gè)商業(yè)邏輯中，成本分布遵循“二三五”法則——基建20%，融合煉數(shù)30%，場(chǎng)景用數(shù)50%。“最貴的不是基建，而是融合煉數(shù)。因?yàn)檫@是無(wú)形資產(chǎn)，比基建還貴。沒(méi)有強(qiáng)場(chǎng)景盈利能力的機(jī)構(gòu)，無(wú)法觸發(fā)這件事。”

這正是螞蟻密算的獨(dú)特優(yōu)勢(shì)——背靠螞蟻集團(tuán)的五大應(yīng)用場(chǎng)景（醫(yī)療健康、民生就業(yè)、新能源出行、征信、消費(fèi)金融），可以在真實(shí)業(yè)務(wù)場(chǎng)景中，打磨技術(shù)產(chǎn)品。例如，在醫(yī)保領(lǐng)域，密態(tài)計(jì)算讓保險(xiǎn)公司與醫(yī)保數(shù)據(jù)安全對(duì)接，提升商保服務(wù)效率；在政務(wù)領(lǐng)域，人社關(guān)鍵業(yè)務(wù)可實(shí)現(xiàn)數(shù)據(jù)庫(kù)一體化升級(jí)；在新能源出行領(lǐng)域，支付寶數(shù)字車生活通過(guò)密算實(shí)現(xiàn)智能駕駛數(shù)據(jù)安全融合。

技術(shù)可行、商業(yè)清晰、場(chǎng)景落地，三者齊備。那么，這套體系將把AI產(chǎn)業(yè)帶向何方？

技術(shù)平權(quán)，與鋪鐵軌的能力

“以前只有大公司才能做的事，現(xiàn)在創(chuàng)新公司甚至傳統(tǒng)公司都有機(jī)會(huì)。”

韋韜將之稱為“技術(shù)平權(quán)”。AI轉(zhuǎn)型的核心門票除了算力、人才，還有數(shù)據(jù)。通過(guò)密態(tài)計(jì)算和可信智能Fabric，中小企業(yè)第一次擁有了與大企業(yè)同臺(tái)競(jìng)技的數(shù)據(jù)能力——這不僅是技術(shù)突破，更是產(chǎn)業(yè)民主化。

在這個(gè)新范式下，AI與人的關(guān)系正在被重新定義。

“未來(lái)不是AI取代人，而是計(jì)算機(jī)+超級(jí)小隊(duì)+可信智能Fabric服務(wù)各行各業(yè)。”韋韜提出的“超級(jí)小隊(duì)”概念，打破了傳統(tǒng)專業(yè)服務(wù)的成本天花板——行業(yè)專家的知識(shí)不再被“白嫖”，密態(tài)計(jì)算保障智力資產(chǎn)權(quán)益。“服務(wù)成本遠(yuǎn)低于傳統(tǒng)模式，專業(yè)服務(wù)從‘貴族化’走向‘普惠化’。”

另一方面，技術(shù)已經(jīng)就位，制度突破也在發(fā)生。

2025年5月，政務(wù)數(shù)據(jù)共享?xiàng)l例頒發(fā)，確立了“合規(guī)即免責(zé)”原則：使用環(huán)節(jié)的安全責(zé)任歸于需求部門，供給部門滿足合規(guī)義務(wù)即可免責(zé)。作為國(guó)家數(shù)據(jù)專家咨詢委員會(huì)委員，他正在和同仁們共同推動(dòng)相關(guān)制度突破。“數(shù)據(jù)供給的合規(guī)免責(zé)，是打開(kāi)公共數(shù)據(jù)流動(dòng)的關(guān)鍵鑰匙。”

面對(duì)“AI犯錯(cuò)誰(shuí)負(fù)責(zé)”的經(jīng)典問(wèn)題，韋韜的答案樸素而務(wù)實(shí)。“這不是新問(wèn)題。傳統(tǒng)軟件和云服務(wù)同樣面臨。”

當(dāng)前手段是合同加AI業(yè)務(wù)保險(xiǎn)，而AI業(yè)務(wù)保險(xiǎn)需要密態(tài)計(jì)算支撐。行業(yè)演進(jìn)路徑是：雙線并跑（傳統(tǒng)+AI并行）→積累數(shù)據(jù)→驗(yàn)證可靠性→保險(xiǎn)跟上。“絕對(duì)安全的代價(jià)不可承受。保險(xiǎn)是非常成熟的商業(yè)模式。”

采訪最后，我們請(qǐng)韋韜給正在探索AI落地的企業(yè)決策者一個(gè)建議。他提到，“AI轉(zhuǎn)型的門票就是數(shù)據(jù)。現(xiàn)在就開(kāi)始系統(tǒng)化梳理治數(shù)、問(wèn)數(shù)、用數(shù)。”打通數(shù)據(jù)和知識(shí)的任督二脈，支撐預(yù)測(cè)生成和決策控制，抓住技術(shù)平權(quán)的歷史機(jī)遇，不要等。

每一次技術(shù)革命，都會(huì)經(jīng)歷同一個(gè)輪回：狂熱先于理性，速度先于秩序。

蒸汽機(jī)發(fā)明后的頭五十年，爆炸事故頻發(fā)，英國(guó)議會(huì)不得不通過(guò)《蒸汽鍋爐法案》強(qiáng)制規(guī)范設(shè)計(jì)與運(yùn)營(yíng)。電力普及之前，直流與交流之爭(zhēng)讓愛(ài)迪生和特斯拉反目成仇，甚至有人被電椅處決以證明交流電的“危險(xiǎn)性”。互聯(lián)網(wǎng)泡沫破裂時(shí)，無(wú)數(shù)人宣稱“一切都被高估了”。

今天，AI正站在同樣的歷史關(guān)口。

每一次技術(shù)躍遷，本質(zhì)都是人類社會(huì)建立新秩序的過(guò)程。蒸汽機(jī)需要鍋爐法案，電力需要標(biāo)準(zhǔn)化協(xié)議，互聯(lián)網(wǎng)需要TCP/IP和域名系統(tǒng)。這些約束從來(lái)不是對(duì)技術(shù)的“壓制”——恰恰相反，它們是技術(shù)得以規(guī)模化、產(chǎn)業(yè)化的前提。

沒(méi)有鍋爐法案，蒸汽機(jī)永遠(yuǎn)是小作坊里的危險(xiǎn)玩具。沒(méi)有TCP/IP，互聯(lián)網(wǎng)只是美國(guó)國(guó)防部的內(nèi)部實(shí)驗(yàn)網(wǎng)。

今天的AI，正處在“危險(xiǎn)玩具”與“基礎(chǔ)設(shè)施”之間的臨界點(diǎn)。

韋韜給出的答案——結(jié)構(gòu)化編程、雙態(tài)融合、密態(tài)計(jì)算、可信智能Fabric——本質(zhì)上都是在做同一件事：為AI鋪鐵軌。鐵軌意味著約束，約束意味著可預(yù)期，可預(yù)期意味著可信，可信意味著可用。

這是一場(chǎng)從“可能性”到“可靠性”的漫長(zhǎng)遷徙。

那些最先意識(shí)到這一點(diǎn)的企業(yè)，正在彎下腰去鋪第一段鐵軌。它們老老實(shí)實(shí)地梳理數(shù)據(jù)、定義規(guī)約、沉淀知識(shí)，這些工作不性感，甚至有些枯燥，但它們構(gòu)成了AI時(shí)代真正的護(hù)城河。

而那些還在幻想用更快的馬車贏得比賽的人，終將被歷史告知一個(gè)殘酷的真相：馬車再快，也跑不過(guò)鐵軌上的火車。鐵軌鋪到哪里，舊時(shí)代就在哪里終結(jié)。

2026年，AI“機(jī)車時(shí)代”已經(jīng)到來(lái)。

問(wèn)題是：你準(zhǔn)備鋪鐵軌了么？