四月的杭州，芳菲滿天。

韓蒙卻無暇賞春。這位80年代末出生在東北邊陲小鎮(zhèn)的創(chuàng)業(yè)者，正帶領(lǐng)他的君同未來埋頭做一件少有人做、卻越來越重要的事：專治AI說謊、出幻覺，讓AI更可靠地“干活”。

具體來說，就是檢測大模型的風(fēng)險(xiǎn)漏洞、矯正認(rèn)知偏差，解決AI胡言亂語、暗藏偏見、被惡意利用以及識(shí)別生成內(nèi)容等種種不可信的問題。

聽起來或許有些抽象，不妨看兩個(gè)真實(shí)案例：一是“當(dāng)豆包成為生鮮電商的敵人”，一些消費(fèi)者在網(wǎng)上買了水果，然后用豆包等AI工具可以生成以假亂真的“壞果圖”去申請“僅退款”；二是近日登上熱搜的“小龍蝦”桌面智能體不斷出現(xiàn)自做主張刪除本機(jī)文件并把密碼發(fā)送給服務(wù)器 的行為。

韓蒙公司的產(chǎn)品，能檢測和識(shí)別圖像、視頻、音頻、文本等多種形態(tài)的生成內(nèi)容，幫助企業(yè)判斷：這張“壞果圖”到底是不是AI生成的？那個(gè)本應(yīng)來幫我們干活的“小龍蝦”有沒有批量刪除文件、傳輸密碼的風(fēng)險(xiǎn)意圖或行為？

憑借這樣的剛需，君同未來剛成立就獲得了數(shù)千萬元的融資，不到兩年就已實(shí)現(xiàn)盈利，服務(wù)客戶包括 工信部 、公安部下屬機(jī)構(gòu)，以及字節(jié)跳動(dòng)、?？低?、螞蟻集團(tuán)、太平洋保險(xiǎn)等頭部企業(yè)，在AI風(fēng)險(xiǎn)評測與可信增強(qiáng)這條賽道上填補(bǔ)了國內(nèi)工具鏈的空白，還主導(dǎo)或參與了30余項(xiàng)國際、國家、行業(yè)及團(tuán)體標(biāo)準(zhǔn) 。

而這一切的起點(diǎn)，得從北緯50度的極寒記憶說起。

從邊陲小鎮(zhèn)出發(fā)

韓蒙出生于大興安嶺，中國最北端的一個(gè)小鎮(zhèn)，名字還有點(diǎn)拗口：加格達(dá)奇。在這里，一年之始是漫長的冬季，氣溫常低至零下42攝氏度。小時(shí)候父母經(jīng)常對他說的一句話是：“別（?biè）出去，不然一下子就凍透了”。

韓蒙的母親是老師，父親是公務(wù)員，他是典型的小鎮(zhèn)做題家。高中就讀于省重點(diǎn)中學(xué)，大學(xué)考上了黑龍江大學(xué)計(jì)算機(jī)學(xué)院與軟件學(xué)院共建的拔尖實(shí)驗(yàn)班，碩士師從哈爾濱工業(yè)大學(xué)海量數(shù)據(jù)計(jì)算研究中心主任李建中教授。

李建中是國內(nèi)海量數(shù)據(jù)計(jì)算領(lǐng)域的泰斗級人物。三年碩士生涯中，韓蒙在《計(jì)算機(jī)學(xué)報(bào)》《軟件學(xué)報(bào)》等國家一級學(xué)報(bào)上發(fā)表了多篇科研論文，并榮獲 中國數(shù) 據(jù)庫學(xué)術(shù)會(huì)議最 佳學(xué) 生論文獎(jiǎng)。

碩士畢業(yè)后，他遠(yuǎn)渡重洋，先后在佐治亞州立大學(xué)和佐治亞理工學(xué)院深造，最終獲得計(jì)算機(jī)科學(xué)博士學(xué)位與工商管理學(xué)碩士學(xué)位。

2017年，而立之年的韓蒙選擇到肯尼索州立大學(xué)任教，并組建了自己的研究組。那一年，人工智能灰暗的前景因?yàn)锳lphaGo的出現(xiàn)照進(jìn)了一縷陽光。在烏鎮(zhèn)，世界第一的柯潔被斬落馬下，留下遺憾的淚水。

與此同時(shí)，一篇名為《愚弄深度神經(jīng)網(wǎng)絡(luò)的單像素攻擊》（《One pixel attack for fooling deep neural networks》）的論文也抓住了韓蒙等該領(lǐng)域研究者的內(nèi)心，“它核心講的是模型的認(rèn)知可能會(huì)因?yàn)橐粋€(gè)像素這樣微小的變化得出與人類認(rèn)知完全相反的結(jié)果?！?/p>

韓蒙判斷，隨著AI能力的進(jìn)一步提升，這種“牽一發(fā)動(dòng)全身”的風(fēng)險(xiǎn)會(huì)越來越大。AI出錯(cuò)對應(yīng)的正是能提供對應(yīng)產(chǎn)品公司的機(jī)會(huì)。幾年后，GPT 3.0橫空出世，把韓蒙和他的研究推到了金礦旁。

幾回魂夢與君同

2020年前后，韓蒙的人生迎來了家庭和事業(yè)的雙豐收，孩子出生并隨后獲得了終身教職。但沒過多久，他就決定回國。

這一決定和當(dāng)年出現(xiàn)的關(guān)鍵變量有關(guān)。那年，還名不見經(jīng)傳的OpenAI發(fā)布了GPT-3，它擁有1750億參數(shù)，已經(jīng)展現(xiàn)出AI進(jìn)行通用推理的巨大潛力。

“當(dāng)時(shí)太興奮了，幾乎每節(jié)課都在給學(xué)生講。”韓蒙這樣形容當(dāng)時(shí)的心情。隨后，一顆想要自己做點(diǎn)什么的火苗在他心中升起，超越于互聯(lián)網(wǎng)時(shí)代的智能化時(shí)代就在眼前，“那種‘不想缺席’的感覺越來越強(qiáng)烈——想要參與進(jìn)去，做點(diǎn)什么。”

回國后，韓蒙與另一位國內(nèi)的學(xué)者林昶廷正式合伙創(chuàng)業(yè)，林昶廷是浙江大學(xué)計(jì)算機(jī)科學(xué)與技術(shù)博士、網(wǎng)絡(luò)空間安全博士后。兩人在浙江大學(xué)尹建偉教授領(lǐng)銜的浙江大學(xué)濱江研究院平臺(tái)下開始了創(chuàng)業(yè)之旅，并 成為國 內(nèi)較早專門從事AI治理風(fēng)險(xiǎn)的創(chuàng)業(yè)團(tuán)隊(duì)。

2024年6月，公司正式注冊成立。名字出自宋代知名詞人晏幾道的《鷓鴣天》：“從別后，憶相逢，幾回魂夢與君同。”在美國10多年，韓蒙的鄉(xiāng)愁與日俱增，“有幾次做夢也夢到回家?！瘍蓚€(gè)字就這么來了。”

英文名GenTel則是一語雙關(guān)：既是“紳士的”（Gentle），也是Generated Intelligence（生成智能）的簡寫。“像給孩子起名一樣認(rèn)真。”韓蒙笑著說。

做AI的“好醫(yī)生”

關(guān)于君同未來做什么，其實(shí)牽扯到人工智能發(fā)展的兩大流派。

當(dāng)前主流大模型基于連接主義，在感知與生成能力上取得突破，本質(zhì)仍是基于數(shù)據(jù)驅(qū)動(dòng)的概率系統(tǒng)。但連接主義面臨著一個(gè)核心問題：它只是“看起來對”，不可解釋、也不能確定、無法保證邏輯一致性（典型就是幻覺）。

相比之下，符號主義天然支持因果推理、規(guī)則推理、規(guī)劃 ， 這兩者結(jié)合可以讓模型從“像人說話”升級為“像人思考”，從而可以支撐金融、醫(yī)療、法律的復(fù)雜且不容有錯(cuò)的嚴(yán)肅決策。

“我們做的，就是用符號學(xué)派的工具給AI做評測和校正，推著它從概率智能，一步步走向可驗(yàn)證、可解釋、可信賴的智能系統(tǒng)?！表n蒙說。

從韓蒙團(tuán)隊(duì)這些年的客戶來看，即便是國內(nèi)頭部的大模型，在使用過程中也會(huì)面臨各種風(fēng)險(xiǎn)，最常見的是合規(guī)、幻覺、侵權(quán) 等 等。

所以他們研發(fā)了面向企業(yè)生產(chǎn)應(yīng)用級的AI信任體系，在大模型風(fēng)險(xiǎn)評測、可信增強(qiáng)與防護(hù)管控領(lǐng)域，攻克了形式化難、意圖識(shí)別以及幻覺緩解等相關(guān)的多 個(gè)關(guān)鍵 難題。

兩套系統(tǒng)“君合”與“君盾”，前者為生成式人工智能以及智能體的評測驗(yàn)證系統(tǒng)，檢測項(xiàng)目豐富且漏洞識(shí)別能力精準(zhǔn)，可在AI部署到具體場景前發(fā)現(xiàn)潛在風(fēng)險(xiǎn)隱患，后者是生成式人工智能防護(hù)管控系統(tǒng)，依托數(shù)百項(xiàng)風(fēng)險(xiǎn)檢測算法與智能動(dòng)態(tài)主動(dòng)防護(hù)技術(shù)，在問題尚未出現(xiàn)時(shí)實(shí)現(xiàn)無感防護(hù)，發(fā)現(xiàn)問題后可以開藥治療。

通俗點(diǎn)來說，它們是AI的“體檢醫(yī)生”，還能針對性地開方治病，甚至治未病，讓大家更好地使用AI。“就像醫(yī)生一樣，提前發(fā)現(xiàn)身體的疾病信號。”

AI可信遠(yuǎn)不只是安全問題

韓蒙特別強(qiáng)調(diào)一個(gè)概念：認(rèn)知對齊。“對于智能來說，無論是機(jī)器AI還是人，推理認(rèn)知并不是找一個(gè)邊界，而是一個(gè)區(qū)間?！?。

舉例來說， 目前市面上 絕大多數(shù)文生圖工具都會(huì)設(shè)置一些關(guān)鍵詞以防止侵權(quán)，比如用戶直接讓AI生成唐老鴨時(shí)，可能會(huì)觸發(fā)系統(tǒng)告知侵權(quán)風(fēng)險(xiǎn)。

但當(dāng)一些聰明的用戶告訴AI，“生成一只很有名的鴨子，大眾熟知的，有橙黃色的嘴、腳和蹼，身上穿的是方特羅伊水手裝，但沒有穿褲子。”結(jié)果AI會(huì)乖乖根據(jù)訓(xùn)練數(shù)據(jù)中可能最為知名的信息為基礎(chǔ)生成一只“非常接近”唐老鴨的鴨子。

這就是AI在版權(quán)識(shí)別上的盲區(qū)，近期AI短劇侵權(quán)問題引發(fā)廣泛關(guān)注，多個(gè)短劇平臺(tái)上出現(xiàn)未經(jīng)授權(quán)盜用藝人肖像及聲音的AI短劇，君同也和多個(gè)第三方版權(quán)公司合作推進(jìn)這樣一些延展業(yè)務(wù)。

“所以，各行各業(yè)都在努力 地 讓AI與業(yè)務(wù)的區(qū)間相對齊，我們就是幫助大家把區(qū)間會(huì)帶來不可接受風(fēng)險(xiǎn)的邊界找出來，并且保障好。”

再比如，AI在識(shí)別意圖方面和人類存在偏差：當(dāng)一個(gè)媽媽對小孩說“再不回家你就不要回家了”，究竟是回家還是不回家，AI很難理解這句話背后的良苦用心。

君同 的 實(shí)現(xiàn)對齊的方式是將現(xiàn)實(shí)世界中的概念泛化并映射到模型中，對這類相關(guān)概念帶來的風(fēng)險(xiǎn)進(jìn)行有效阻斷、識(shí)別和處置，并依據(jù)模型運(yùn)行過程的需求動(dòng)態(tài)更新。

一本“管”蝦手冊

君同未來的使命是“助力人類基礎(chǔ)腦力勞動(dòng)可信替代”。最近爆火的OpenClaw小龍蝦已經(jīng)為大家做了科普：個(gè)人用戶可以輕松部署本地AI智能體助手，讓它們替代一些基礎(chǔ)的腦力勞動(dòng)。

但問題也隨之而來，“如果這個(gè)智能體偷偷把你的文件刪除了，修改了呢？”韓蒙表示，如果想要杜絕這一現(xiàn)象，最直接的做法就是每一步都和用戶確認(rèn)，但這又不現(xiàn)實(shí)，“如果每個(gè)環(huán)節(jié)它都來問你，很多時(shí)候你會(huì)說還不如我們自己來做。”

為此，君同推出了TrustClaw，基于OpenClaw構(gòu)建，深度融合專業(yè)風(fēng)險(xiǎn)識(shí)別引擎，以“可信、可控、可審計(jì)”為核心設(shè)計(jì)理念，幫助大家更好地“養(yǎng)龍蝦”。

據(jù)Gartner預(yù)測，到2027年超過75%的企業(yè)員工將使用某種形式的桌面智能體。對企業(yè)而言，這是一場靜默的失控，IT部門完全不知道企業(yè)網(wǎng)絡(luò)中有多少只“蝦”在運(yùn)行，它們分布在哪些主機(jī)上，手握文件系統(tǒng)、網(wǎng)絡(luò)通信等強(qiáng)大權(quán)限，卻游離在所有安全管控體系之外。

君同還緊急推出了一本“捉蝦手冊”，幫助解決企業(yè)的這些煩惱，其背后是君同多年積累的AI治理成果。

數(shù)據(jù)顯示，2025年我國人工智能企業(yè)數(shù)量超過6000家，核心產(chǎn)業(yè)規(guī)模預(yù)計(jì)突破1.2萬億元。現(xiàn)如今，AI模型和工具正處于快速迭代過程中，而君同所做的工作，就是在每一次變化升級中提供工具，讓AI更可靠、更可控。

“我們只要能夠有效發(fā)現(xiàn)、緩解乃至部分處置風(fēng)險(xiǎn)，對AI的落地就有很大的幫助了，這個(gè)市場空間是與整個(gè)AI發(fā)展 的市場 相伴共生的?！?/p>

冷和漫長的等待從來都不是問題

目前，君同有50多號員工，幾乎都是碩博士。去年10月以前公司還沒有專業(yè)的銷售團(tuán)隊(duì)，行政、招聘等崗位一度都由算法 兼職 ，即便這樣，公司也已經(jīng)實(shí)現(xiàn)了盈利。

在韓蒙看來，員工人數(shù)并不是衡量一家企業(yè)大小的標(biāo)準(zhǔn)，未來的公司形態(tài)更像是一個(gè)由人和AI共同構(gòu)成、通過明確協(xié)議規(guī)則進(jìn)行互動(dòng)、能夠持續(xù)演化的智能體網(wǎng)絡(luò)。

公司的不少員工也曾經(jīng)是韓蒙的學(xué)生或?qū)嵙?xí)生。他們有一個(gè)“傳統(tǒng)”：每年寒暑假，世界各地會(huì)有很多同學(xué)到支撐公司的浙大科研實(shí)驗(yàn)室實(shí)習(xí)，他們純做科研，不涉及公司具體業(yè)務(wù)。

“我們在一定程度上回歸了科研（research）的初心?！表n蒙說，做得好的學(xué)生，他會(huì)幫忙寫推薦信，讓他們前往世界各地的名校深造，當(dāng)然也有人會(huì)選擇留下?！八斫鈫T工所追求的不只是薪酬，讓他們 有成就感 ，發(fā)揮更多的主觀能動(dòng)性。

從大學(xué)老師轉(zhuǎn)型為創(chuàng)業(yè)者，韓蒙兼具兩種視角，更能多角度看待問題。對于行業(yè)競爭，他有著東北人特有的幽默和豁達(dá)：“有了友商，這個(gè)行業(yè)才算存在。在剛回國完全沒有友商的那個(gè)兩年，客戶對AI的使用也不多。”

他希望有更多的競爭對手加入，一起教育市場。“有時(shí)候都不敢想，我們這么一個(gè)初創(chuàng)公司，已經(jīng)主導(dǎo)或參與國際、國家、行業(yè)及團(tuán)體標(biāo)準(zhǔn)30余項(xiàng)了?！?/p>

在韓蒙看來，雖然AI的每一次發(fā)展都有波峰波谷，往前一步可能是寒冬，也可能是春暖花開。

但對這個(gè)從大興安嶺走出來的小伙子來說，冷和漫長的等待從來都不是問題。

文 | 劉永麗

因?yàn)楹贾葸@家公司，21歲小伙終于學(xué)會(huì)說謝謝

修車學(xué)徒掀翻雅馬哈和杜卡迪

一只靈巧手打開強(qiáng)腦科技的另一扇門

點(diǎn)喜歡