北京
多年以來，我們不斷聽到未經(jīng)證實的報告和傳聞：由人工智能控制的武器在沒有人類操作員介入的情況下，在戰(zhàn)場上擊殺了人類士兵。這周，這個傳聞終于變成了鑿鑿事實。我們在報道中得知，在一次測試演習(xí)中，自主殺手系統(tǒng)被正式投入使用，這標(biāo)志著一個戰(zhàn)術(shù)分水嶺。但老實說，我們不該感到任何意外。這套技術(shù)已經(jīng)存在了相當(dāng)一段時間，而人類從來不曾在發(fā)明一種武器之后，忍住不去真的使用它。
既然技術(shù)已經(jīng)走到這一步，是不是意味著根本沒有回頭路？并不如此。禁止自主武器的邏輯直白得有些殘酷：如果部署AI系統(tǒng)卻完全不設(shè)人類監(jiān)督，這些武器完全可能錯誤地將友軍當(dāng)成目標(biāo)，甚至把槍口對準(zhǔn)無辜平民。更麻煩的是，倫理學(xué)者們已經(jīng)反復(fù)敲過警鐘——這種武器會剝奪戰(zhàn)斗人員在生死關(guān)頭最基本的尊嚴(yán)，會讓發(fā)動戰(zhàn)爭的決策成本被壓到不正常的低點，還會在追究致命行動的責(zé)任時攪出一本糊涂賬。一旦機器扣下扳機，該把血債算在誰頭上？程序員、指揮官，還是算法本身？這個問題至今無解。
歷史本來給世界留過窗口。如果我們真想禁止這類武器，就像當(dāng)年國際社會合意禁止集束炸彈和特意設(shè)計來致盲士兵的激光武器那樣，最理想的時間點是在它們真正鋪開之前，而不是事后來補天窗。但現(xiàn)實卻讓人血壓飆升：聯(lián)合國針對完全自主武器的正式談判已經(jīng)拖了超過十年，而根據(jù)人權(quán)觀察組織的調(diào)研，印度、以色列、俄羅斯和美國這四個國家用否決權(quán)把有實質(zhì)進(jìn)展的討論一次次按死在會議室里。
一個黑色幽默般的困境就此成型——禁止自主武器的制度框架其實是現(xiàn)成的。它們完全可以被輕松塞進(jìn)聯(lián)合國《特定常規(guī)武器公約》所劃定的武器黑名單里，這個名單專門用來管束那些被認(rèn)為具有過度殺傷力或無法區(qū)分軍事與民用目標(biāo)的彈藥。真正讓人泄氣的是另一個事實：制造這類無人機根本不要什么高精尖軍工體系。只要會從網(wǎng)上訂購一些便宜零件，再配上一套開源軟件，一個具備基本技術(shù)素養(yǎng)的青少年就能攢出一架可以獨立獵殺目標(biāo)的機器。門檻低成這樣，光靠一紙協(xié)議又能擋住誰？
烏克蘭戰(zhàn)線上的實況已經(jīng)把模糊的遠(yuǎn)景變成刺眼的近景——機器人必將主宰今后的戰(zhàn)場，這一點幾乎已經(jīng)沒有討論余地。現(xiàn)在，全人類必須咬緊牙關(guān)回答一個終極問題：每一次致命攻擊，究竟是必須由活人來承受最終負(fù)責(zé)、親自按下扳機決策的那個人；還是可以徹底放手，允許機器單獨做出剝奪生命的決定。選項只有兩個，但后果天差地別。真正緊迫的是，這個決定必須趕在技術(shù)徹底泛濫成災(zāi)之前做出來，否則等數(shù)以萬計的廉價獵殺無人機飛滿天空時，再想喊停就純屬自我安慰了。
特別聲明：以上內(nèi)容(如有圖片或視頻亦包括在內(nèi))為自媒體平臺“網(wǎng)易號”用戶上傳并發(fā)布，本平臺僅提供信息存儲服務(wù)。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
