近期，豆包、Auto GLM等人工智能助手試圖接管手機(jī)，卻接連被微信、支付寶等超級(jí)應(yīng)用平臺(tái)封殺。平臺(tái)方的理由很充分：保護(hù)用戶隱私與系統(tǒng)安全。這引出了一個(gè)關(guān)鍵問題：用戶委托律師處理的許多事項(xiàng)，私密性遠(yuǎn)高于人工智能助手，為什么反而很少產(chǎn)生隱私和安全顧慮？

答案在于，律師執(zhí)業(yè)要取得《律師執(zhí)業(yè)證》。這張證書背后，是一整套關(guān)于專業(yè)能力、職業(yè)道德和行業(yè)監(jiān)管的制度體系。如果人工智能助手想接受人類委托處理手機(jī)上的數(shù)字生活，也需要這樣一張《AI執(zhí)業(yè)證》。今天就跟大家聊聊，參照律師制度，需要建立怎樣的《AI執(zhí)業(yè)證》制度。

一、職業(yè)道德：AI需要僅忠于用戶并保守秘密

律師受職業(yè)道德體系的約束，執(zhí)業(yè)要求是忠于客戶，并且保守客戶的秘密。如果要讓用戶放心，人工智能助手需要建立類似的職業(yè)道德和利益沖突制度。而目前的實(shí)踐中，人工智能助手有如下問題：

1、商業(yè)模式復(fù)雜影響?yīng)毩⑿浴?/strong>律師的商業(yè)模式比較簡(jiǎn)單，為用戶提供服務(wù)并收取律師費(fèi)，獲得用戶的隱私數(shù)據(jù)和商業(yè)秘密后，只能用于為用戶服務(wù)的目的，負(fù)有為用戶保密的義務(wù)。而人工智能平臺(tái)的利益就更加復(fù)雜，如果讓第三方人工智能進(jìn)入微信這樣的超級(jí)應(yīng)用，意味著它可以獲取用戶非常多的隱私和商業(yè)秘密數(shù)據(jù)，比如聊天記錄、財(cái)務(wù)狀況等。

但很多人工智能助手是移動(dòng)互聯(lián)網(wǎng)平臺(tái)開發(fā)的，作為移動(dòng)互聯(lián)網(wǎng)產(chǎn)業(yè)的贏家，這些公司的商業(yè)模式就是靠分析大數(shù)據(jù)通過增值服務(wù)獲利。同時(shí)，目前的人工智能產(chǎn)業(yè)正在快速提升能力的階段，對(duì)獲取訓(xùn)練數(shù)據(jù)又非常饑渴。因此，人工智能公司獲取數(shù)據(jù)之后，除了提供服務(wù)，還可能用數(shù)據(jù)做訓(xùn)練以及分析大數(shù)據(jù)投放廣告。

所以能讀取用戶隱私的人工智能助手，應(yīng)該和其運(yùn)營(yíng)方有隔離。隔離的方式有兩種，第一種是監(jiān)管約束，政府或者行業(yè)協(xié)會(huì)制定行業(yè)標(biāo)準(zhǔn)，約束人工智能助手的開發(fā)方和運(yùn)營(yíng)方，不得將獲取的用戶數(shù)據(jù)用于訓(xùn)練和大數(shù)據(jù)分析。另一種是獨(dú)立部署，用戶自己架設(shè)服務(wù)器或者在本地設(shè)備上部署開源人工智能助手。

2、如何解決利益沖突。律師辦案時(shí)不能同時(shí)代理原告和被告，如果發(fā)現(xiàn)有利益沖突，必須聲明并回避。而一個(gè)由電商平臺(tái)開發(fā)的人工智能購(gòu)物助手，在為用戶推薦商品時(shí)，是優(yōu)先考慮用戶利益還是平臺(tái)利潤(rùn)？這里的利益沖突如果不解決，用戶也沒法放心委托人工智能購(gòu)物。

二、數(shù)據(jù)法律：需要升級(jí)數(shù)據(jù)法律兼容人工智能助手

用戶簽訂的律師合同里，有對(duì)于用戶的商業(yè)秘密和隱私進(jìn)行保密的條款，用戶也可以要求律師簽訂單獨(dú)的保密協(xié)議，但對(duì)于同樣要獲取用戶隱私的人工智能助手，簽一份保密協(xié)議遠(yuǎn)遠(yuǎn)不夠。根據(jù)現(xiàn)行的《個(gè)人信息保護(hù)法》，所有非用戶自己部署的人工智能助手，每次調(diào)用數(shù)據(jù)都應(yīng)該告知用戶并獲得用戶同意，敏感數(shù)據(jù)還要單獨(dú)同意，這種法律要求和人工智能助手的操作方法不太兼容。

比如用戶跟人工智能助手簡(jiǎn)單說一句：幫我規(guī)劃并預(yù)訂下周去上海的旅行。實(shí)際就是一個(gè)復(fù)雜的任務(wù)：人工智能助手需要自主決定訪問包括日程、攻略、票務(wù)、支付等多個(gè)應(yīng)用獲取數(shù)據(jù)，而且很多都是敏感數(shù)據(jù)，如果完全按照法律要求，人工智能助手使用場(chǎng)景下，識(shí)別敏感數(shù)據(jù)并多次讓用戶單獨(dú)同意會(huì)讓操作變得繁瑣，而每次數(shù)據(jù)處理前人工智能都進(jìn)行明確、充分的告知并同意會(huì)變得不切實(shí)際。

同時(shí)，用戶指令的模糊性還使得《個(gè)人信息保護(hù)法》規(guī)定的應(yīng)用獲取數(shù)據(jù)最小必要原則受到挑戰(zhàn)，如何界定人工智能助手獲取數(shù)據(jù)的最小必要范圍是巨大難題，人工智能助手為了提供最優(yōu)解，可能會(huì)傾向于多多益善的收集數(shù)據(jù)，這與數(shù)據(jù)最小化的原則天然存在沖突。

筆者認(rèn)為，如果人工智能助手產(chǎn)業(yè)后續(xù)快速發(fā)展的，則需要對(duì)法律進(jìn)行升級(jí)，把人工智能助手作為一個(gè)“數(shù)字代理人”，而不是工具或者應(yīng)用來對(duì)待，像律師一樣，只要獲得用戶一次授權(quán)就可以多次獲取并處理包括敏感數(shù)據(jù)在內(nèi)的數(shù)據(jù)，免除其反復(fù)請(qǐng)求的義務(wù)就會(huì)變得勢(shì)在必行。

三、究責(zé)機(jī)制：人工智能助手出錯(cuò)了，誰(shuí)來負(fù)責(zé)？

發(fā)生泄密或者服務(wù)質(zhì)量問題時(shí)，究責(zé)律師不難，律師是有制度約束的，服務(wù)犯錯(cuò)給用戶造成損失的，客戶可以起訴索賠，可以向行業(yè)監(jiān)管部門投訴。而人工智能助手是新生事物，對(duì)其犯錯(cuò)的究責(zé)，根據(jù)現(xiàn)行法律的究責(zé)原則認(rèn)定會(huì)有很大的模糊性。需要升級(jí)法律規(guī)定新的究責(zé)原則，同時(shí)制定保險(xiǎn)制度給產(chǎn)業(yè)托底。

本文主要討論的是人工智能助手的問題，但究責(zé)問題，其實(shí)是整個(gè)人工智能產(chǎn)業(yè)都面臨的問題，人工智能買錯(cuò)東西了咋辦？這個(gè)問題聽上去不大，但人工智能醫(yī)療助手給病人誤診了咋辦？人工智能駕駛汽車出交通事故了咋辦？這些問題事關(guān)人的健康和生命，就非常大了。

究責(zé)時(shí)，首先是主體問題難解決，犯錯(cuò)的是人工智能助手，但它卻沒有權(quán)利能力，不是法律意義上的主體。所以只能在用戶、部署者或者運(yùn)營(yíng)者、開發(fā)者這幾個(gè)主體里找替罪羊。錯(cuò)誤責(zé)任更難界定，人工智能助手的決策過程并不透明，當(dāng)出錯(cuò)時(shí),很難確定是算法、訓(xùn)練數(shù)據(jù)偏差、部署配置、還是用戶自己的問題導(dǎo)致的。

因?yàn)閺?fù)雜，所以傳統(tǒng)的單一過錯(cuò)責(zé)任乃至混合過錯(cuò)這些原則都較難適用，從產(chǎn)業(yè)發(fā)展來說，責(zé)任界定問題就一定要解決。所以要有人兜底才行，對(duì)人工智能犯錯(cuò)適用嚴(yán)格責(zé)任，有平臺(tái)或者保險(xiǎn)兜底才有可能讓用戶放心。這也是產(chǎn)業(yè)發(fā)展必然要解決的制度問題。

四、委托結(jié)束：數(shù)據(jù)能刪除嗎？

如果對(duì)律師服務(wù)不滿意，用戶可以炒律師的魷魚，也就是解聘律師。但哪怕解聘之后，律師也負(fù)有為用戶保密的義務(wù)。而人工智能的服務(wù)這方面目前問題不小。當(dāng)客戶要求律師銷毀檔案時(shí)，碎紙機(jī)只需要幾秒鐘就能物理粉碎文件，不僅徹底而且可驗(yàn)證。用戶停用人工智能服務(wù)了，數(shù)據(jù)不一定能夠被刪除。這個(gè)也是產(chǎn)業(yè)需要解決的一個(gè)問題。

《個(gè)人信息保護(hù)法》規(guī)定了被遺忘權(quán)：處理目的已實(shí)現(xiàn)或無必要的，信息主體可以請(qǐng)求處理者刪除個(gè)人信息。部分人工智能服務(wù)商雖然聲稱對(duì)話不用于訓(xùn)練，僅臨時(shí)緩存用于上下文理解，此類數(shù)據(jù)理論上可在服務(wù)器端刪除，但實(shí)際上用戶難以驗(yàn)證是否真未用于訓(xùn)練。

如果曾開啟歷史記錄或數(shù)據(jù)共享選項(xiàng)，即使刪除聊天記錄，也只是清除日志，模型仍可能記住信息。數(shù)據(jù)可能已被匿名化后用于改進(jìn)模型。技術(shù)上，用戶數(shù)據(jù)一旦用于模型訓(xùn)練，會(huì)融入海量參數(shù)中，覆水難收，無法精準(zhǔn)刪除。現(xiàn)在人工智能公司用圍欄機(jī)制解決此問題，并不是刪除信息，而是過濾回復(fù)信息。

如何解決此問題，真正徹底刪除用戶數(shù)據(jù)，目前只有兩條路：一是用戶自己部署的本地模型，物理刪除即可；二是立法要求AI公司提供數(shù)據(jù)隔離訓(xùn)練的選項(xiàng)——用戶明確標(biāo)記的數(shù)據(jù)永不進(jìn)入訓(xùn)練集，并可以由第三方審計(jì)機(jī)構(gòu)定期驗(yàn)證。這需要額外成本，但這是獲得用戶信任的必要代價(jià)。

綜上，人工智能助手要像律師一樣獲取人類信任，制度層面需要改進(jìn)和完善，還要在合規(guī)層面解決和現(xiàn)行部分法規(guī)不兼容的問題。其未來不僅取決于技術(shù)的進(jìn)步，也取決于《AI執(zhí)業(yè)證》背后的問責(zé)體系、利益隔離體系和數(shù)據(jù)安全體系的建立。制度上可信賴的人工智能助手才是能進(jìn)入超級(jí)應(yīng)用幫助人類的數(shù)字代理人。

本文作者：游云庭，知識(shí)產(chǎn)權(quán)律師。Email: yytbest@gmail.com，本文僅代表作者觀點(diǎn)。