歐盟這幾年圍著人工智能立規(guī)矩，想管的不是技術(shù)本身，而是它已經(jīng)進(jìn)入招聘、醫(yī)療、平臺(tái)治理這些現(xiàn)實(shí)場(chǎng)景后，可能帶來(lái)的偏見(jiàn)、泄露和誤判。從亞馬遜招聘工具暴露問(wèn)題，到2024年《人工智能法案》生效，規(guī)則越織越密；可這些規(guī)則，究竟管住了風(fēng)險(xiǎn)，還是先難住了企業(yè)？

人工智能如今已深入歐洲公民的生活、健康與權(quán)利等核心決策領(lǐng)域。在企業(yè)、政府機(jī)構(gòu)、醫(yī)院以及數(shù)字平臺(tái)中，算法正在進(jìn)行分類、評(píng)估、推薦，甚至直接做出決策。面對(duì)日益加深的自動(dòng)化趨勢(shì)，一個(gè)核心問(wèn)題浮出水面：歐盟為規(guī)范人工智能而作出的回應(yīng)，是否足以防范其宣稱要避免的風(fēng)險(xiǎn)？

假設(shè)一家企業(yè)決定引入人工智能來(lái)自動(dòng)化其招聘流程。該算法被設(shè)計(jì)用于分析數(shù)以千計(jì)的簡(jiǎn)歷，并使用企業(yè)過(guò)去10年的人力資源數(shù)據(jù)進(jìn)行訓(xùn)練。在這段時(shí)期內(nèi)，被錄用的候選人絕大多數(shù)為男性。算法由此推斷出男性候選人更具優(yōu)勢(shì)，從而在實(shí)際操作中將女性候選人排除在外。

這一場(chǎng)景并非虛構(gòu)。它直接取材于亞馬遜的真實(shí)案例，該公司的AI招聘工具在暴露出此類偏見(jiàn)及隨之而來(lái)的法律風(fēng)險(xiǎn)后，最終被迫停用。這個(gè)例子精準(zhǔn)地揭示了立法者試圖防范的風(fēng)險(xiǎn)：算法錯(cuò)誤、對(duì)基本權(quán)利的侵犯、數(shù)據(jù)的過(guò)度收集與泄露，以及技術(shù)依賴。

作為回應(yīng)，歐盟在過(guò)去幾年中構(gòu)建了一個(gè)雄心勃勃的法律框架，涵蓋了從《通用數(shù)據(jù)保護(hù)條例》到《人工智能法案》的多項(xiàng)法規(guī)。這些法規(guī)面臨著一項(xiàng)艱巨的挑戰(zhàn)：在創(chuàng)新與保護(hù)之間取得平衡，在不將國(guó)際科技巨頭逼出歐洲市場(chǎng)的前提下對(duì)其進(jìn)行監(jiān)管，并在不進(jìn)行審查的情況下保障基本權(quán)利。而這一切，都需要在面對(duì)跨領(lǐng)域、不透明且快速迭代的技術(shù)時(shí)完成。這一系列的規(guī)則，是否構(gòu)成了一份令人滿意的答卷？

對(duì)人工智能的監(jiān)管，絕不能脫離系統(tǒng)化的數(shù)據(jù)政策而孤立存在。數(shù)據(jù)是人工智能系統(tǒng)開(kāi)發(fā)和迭代不可或缺的燃料。在這一過(guò)程中，數(shù)據(jù)的數(shù)量與質(zhì)量同等重要。

正因如此，歐洲立法者在監(jiān)管人工智能之前，首先著手對(duì)數(shù)據(jù)進(jìn)行規(guī)范。一方面是《通用數(shù)據(jù)保護(hù)條例》，其核心宗旨在于保護(hù)個(gè)人數(shù)據(jù)。

另一方面，歐盟出臺(tái)了一系列針對(duì)非個(gè)人數(shù)據(jù)監(jiān)管的法案。這些法案包括《數(shù)字服務(wù)法案》、《數(shù)字市場(chǎng)法案》、《數(shù)據(jù)治理法案》以及《數(shù)據(jù)法案》。

它們旨在限制數(shù)字巨頭的壟斷地位，并構(gòu)建平臺(tái)、企業(yè)、公共管理部門及用戶之間的數(shù)據(jù)共享與訪問(wèn)機(jī)制，而這正是人工智能發(fā)展的必要前提。這些關(guān)于數(shù)據(jù)的先期法規(guī)，為制定全球首部通用的人工智能監(jiān)管框架——《人工智能法案》奠定了基礎(chǔ)。

與傾向于放松管制的美國(guó)不同，歐盟選擇了一條全面且具有強(qiáng)制約束力的法律框架之路。該法案自2024年8月1日生效以來(lái)，適用于所有行業(yè)和人工智能系統(tǒng)，旨在為歐洲市場(chǎng)奠定真正的人工智能“普通法”基礎(chǔ)。其核心目標(biāo)是規(guī)范“可能對(duì)健康、安全或基本權(quán)利構(gòu)成風(fēng)險(xiǎn)的人工智能系統(tǒng)的開(kāi)發(fā)、市場(chǎng)投放及使用”。

為實(shí)現(xiàn)這一目標(biāo)，法案首先精準(zhǔn)界定了其監(jiān)管的技術(shù)范圍。它將技術(shù)劃分為兩類：一是“人工智能系統(tǒng)”，即用戶直接接觸的具體應(yīng)用；二是“通用人工智能模型”，即支撐這些應(yīng)用的技術(shù)底座。為在保護(hù)公眾與鼓勵(lì)創(chuàng)新之間尋求平衡，法案將人工智能系統(tǒng)劃分為四個(gè)風(fēng)險(xiǎn)等級(jí)：首先是不可接受的風(fēng)險(xiǎn)，此類人工智能系統(tǒng)將被全面禁止。其次是高風(fēng)險(xiǎn)，這類系統(tǒng)被要求履行嚴(yán)格義務(wù)，如必須接受合規(guī)審計(jì)，或確保系統(tǒng)在無(wú)偏見(jiàn)的高質(zhì)量數(shù)據(jù)上進(jìn)行訓(xùn)練。第三是有限風(fēng)險(xiǎn)，運(yùn)營(yíng)商須履行告知義務(wù)，明確提示用戶正在與人工智能交互。最后是最小風(fēng)險(xiǎn)，此類系統(tǒng)無(wú)需承擔(dān)特定法律義務(wù)。

針對(duì)每個(gè)風(fēng)險(xiǎn)等級(jí)，法案根據(jù)其對(duì)基本權(quán)利、人身安全和健康的潛在影響，設(shè)定了具體且成比例的義務(wù)。這些義務(wù)根據(jù)運(yùn)營(yíng)商在人工智能價(jià)值鏈中所處的環(huán)節(jié)而有所不同。

以用于分析醫(yī)學(xué)影像的人工智能系統(tǒng)為例，該系統(tǒng)被歸類為高風(fēng)險(xiǎn)。供應(yīng)商必須按照安全與風(fēng)險(xiǎn)管理要求進(jìn)行設(shè)計(jì)，確保診斷中不會(huì)出現(xiàn)假陽(yáng)性或假陰性，同時(shí)還需保證系統(tǒng)不會(huì)因特定種族或性別群體的代表性不足而產(chǎn)生偏見(jiàn)。進(jìn)口商和分銷商必須核實(shí)這些合規(guī)要求是否得到滿足。而部署該系統(tǒng)的醫(yī)院則需確保其在人類的監(jiān)督下被正確使用。

針對(duì)通用人工智能模型，歐洲立法者根據(jù)其是否具備“系統(tǒng)性風(fēng)險(xiǎn)”制定了差異化規(guī)則。法案將系統(tǒng)性風(fēng)險(xiǎn)定義為：“通用人工智能模型的高影響力所特有的風(fēng)險(xiǎn)，由于其覆蓋范圍或?qū)步】怠踩⒒緳?quán)利及整個(gè)社會(huì)的實(shí)際或合理預(yù)見(jiàn)的負(fù)面影響，對(duì)歐盟市場(chǎng)產(chǎn)生重大沖擊，并可能在整個(gè)價(jià)值鏈中大規(guī)模蔓延。”

這種風(fēng)險(xiǎn)主要依據(jù)模型的計(jì)算算力進(jìn)行評(píng)估。具備系統(tǒng)性風(fēng)險(xiǎn)的通用人工智能模型必須履行更嚴(yán)格的義務(wù)，包括報(bào)告嚴(yán)重事件、采取嚴(yán)密的網(wǎng)絡(luò)安全措施，以及通過(guò)審計(jì)、防黑客和偏見(jiàn)檢測(cè)等手段測(cè)試模型并減輕識(shí)別出的風(fēng)險(xiǎn)。

歐盟已指定多個(gè)機(jī)構(gòu)監(jiān)督該法規(guī)的執(zhí)行。其中包括歐盟層面的人工智能委員會(huì)，以及國(guó)家層面的法國(guó)國(guó)家信息自由委員會(huì)。

《人工智能法案》在實(shí)施層面引發(fā)了法律界與企業(yè)界的廣泛批評(píng)。46位企業(yè)高管在致歐盟委員會(huì)主席的公開(kāi)信中，直指“歐洲法規(guī)不夠清晰、相互重疊且日益復(fù)雜”。

法案的高度技術(shù)性與算法的復(fù)雜性交織，使得條款的落地困難重重。特別是在透明度義務(wù)以及責(zé)任界定方面，企業(yè)難以根據(jù)自身在價(jià)值鏈中的位置和系統(tǒng)的風(fēng)險(xiǎn)等級(jí)，清晰厘清應(yīng)盡的義務(wù)。

這隨之衍生出另一個(gè)隱憂：繁冗的合規(guī)要求可能會(huì)束縛法國(guó)及歐洲本土初創(chuàng)企業(yè)的發(fā)展步伐。在與擁有雄厚法律、技術(shù)和資金資源的美國(guó)人工智能巨頭競(jìng)爭(zhēng)時(shí)，歐洲本土企業(yè)在履行法案義務(wù)方面顯得力不從心。

值得注意的是，在多方博弈下，歐洲立法者最終于2025年2月11日放棄了一項(xiàng)關(guān)于人工智能參與者民事責(zé)任的專項(xiàng)立法。該立法原計(jì)劃協(xié)調(diào)人工智能致害的民事責(zé)任規(guī)則，以保護(hù)受害者并統(tǒng)一歐盟內(nèi)部的法律框架。

這一妥協(xié)不僅源于部分成員國(guó)的反對(duì)，也受到大型科技公司游說(shuō)團(tuán)體的強(qiáng)烈抵制。分析人士指出，科技巨頭借此警告過(guò)度監(jiān)管的風(fēng)險(xiǎn)以及可能阻礙創(chuàng)新的法律不確定性。在缺乏專項(xiàng)框架的背景下，現(xiàn)行的民事責(zé)任法律規(guī)則將繼續(xù)適用于人工智能系統(tǒng)造成的損害。

通過(guò)將數(shù)據(jù)保護(hù)、應(yīng)用場(chǎng)景規(guī)范以及對(duì)頭部企業(yè)的約束相結(jié)合，歐盟奠定了全球獨(dú)一無(wú)二的人工智能監(jiān)管基石。

這一監(jiān)管體系的成敗取決于一個(gè)關(guān)鍵前提：它的實(shí)施不能異化為歐洲本土企業(yè)的準(zhǔn)入壁壘。外界擔(dān)憂，監(jiān)管的最終結(jié)果可能適得其反，進(jìn)一步鞏固而非削弱美國(guó)科技巨頭的壟斷地位。

這種壟斷不僅體現(xiàn)在經(jīng)濟(jì)層面，更向政治領(lǐng)域滲透。歐洲企業(yè)觀察組織與游說(shuō)控制組織兩家專門監(jiān)測(cè)游說(shuō)活動(dòng)的非政府組織發(fā)布的報(bào)告顯示，大型科技公司對(duì)《人工智能法案》配套的“良好實(shí)踐準(zhǔn)則”的起草施加了重大影響，并在實(shí)質(zhì)上成功削弱了部分合規(guī)義務(wù)。

因此，歐洲監(jiān)管的真正成功，不能僅僅停留在對(duì)公民權(quán)利的防御性保護(hù)上。它更深遠(yuǎn)的意義在于，能否在這一框架下，孕育出既符合倫理規(guī)范、又具備全球競(jìng)爭(zhēng)力，且真正掌握歐洲自主權(quán)的人工智能生態(tài)。

說(shuō)到底，歐盟這套人工智能監(jiān)管走到今天，難點(diǎn)不在有沒(méi)有規(guī)則，而在規(guī)則能不能真落地，又不把自己先絆住。像給一輛正在加速的車裝剎車，剎車太松，攔不住風(fēng)險(xiǎn)；剎車太緊，車又跑不起來(lái)，最后反倒可能把路讓給本就跑在前面的巨頭。歐洲想守住權(quán)利、安全和自主空間，這一步已經(jīng)邁出去了，但這套辦法究竟能不能撐住現(xiàn)實(shí)里的較量，恐怕還得往下看。