人工智能加速軍事決策，人還能守住最后一關(guān)嗎？

導(dǎo)讀：人工智能對(duì)軍事決策的嵌入

人工智能（AI）正迅速嵌入軍事決策過(guò)程。相較于外界更熟悉的自主武器，另一類(lèi)同樣值得關(guān)注的技術(shù)正在走向前臺(tái)：人工智能驅(qū)動(dòng)的決策支持系統(tǒng)。它們能夠整合情報(bào)、識(shí)別目標(biāo)、評(píng)估風(fēng)險(xiǎn)，并將原本需要較長(zhǎng)時(shí)間完成的作戰(zhàn)判斷壓縮到更短時(shí)段。問(wèn)題也隨之出現(xiàn)：當(dāng)戰(zhàn)爭(zhēng)中的分析、篩選和建議越來(lái)越依賴(lài)算法完成，人類(lèi)是否還真正掌握著最后判斷？

AI-DSS如何重塑軍事決策與人類(lèi)道德能動(dòng)性

（一）軍事決策中AI-DSS的類(lèi)型與用途

AI-DSS能為戰(zhàn)略、作戰(zhàn)、戰(zhàn)術(shù)各層級(jí)的決策提供支撐。在戰(zhàn)略層面，AI可助力兵棋推演、黑箱系統(tǒng)運(yùn)作和敵方行為預(yù)測(cè)；在作戰(zhàn)層面，可借助計(jì)算機(jī)視覺(jué)和數(shù)據(jù)融合技術(shù)輔助目標(biāo)選擇、附帶損害評(píng)估和情報(bào)整合；在戰(zhàn)術(shù)層面，AI-DSS能在確保遵守交戰(zhàn)規(guī)則的前提下，優(yōu)化目標(biāo)打擊行動(dòng)。但在應(yīng)對(duì)新的危機(jī)場(chǎng)景時(shí)，AI-DSS仍會(huì)因受到數(shù)據(jù)匱乏、人為因素和倫理問(wèn)題的限制。

由于AI-DSS指揮上述三級(jí)的應(yīng)用是連續(xù)的，因此基于能力的分類(lèi)體系有助于對(duì)其潛在應(yīng)用場(chǎng)景進(jìn)行劃分。AI-DSS主要具備三項(xiàng)互不排斥的功能：對(duì)數(shù)據(jù)進(jìn)行描述與分析；識(shí)別模式并進(jìn)行預(yù)測(cè)；以及提出行動(dòng)方案和策略建議。使之成為一種“認(rèn)知工具”，其設(shè)計(jì)目的是處理和分析信息，并為人類(lèi)決策提供支撐。

目前，各國(guó)正探索將約翰·博伊德提出的觀察—調(diào)整—決策—行動(dòng)（OODA）循環(huán)模型融入AI-DSS，以提高快節(jié)奏沖突中的決策速度。更快的決策速度會(huì)在戰(zhàn)術(shù)層面帶來(lái)優(yōu)勢(shì)，但在高風(fēng)險(xiǎn)情境下，決策的審慎性可能隨之下降，也可能引發(fā)倫理問(wèn)題。多國(guó)軍方認(rèn)為，AI能夠提升態(tài)勢(shì)感知能力、信號(hào)探測(cè)能力和目標(biāo)定位精度，從而減少?zèng)_突中的“附帶損害”；但經(jīng)驗(yàn)性證據(jù)表明，決策周期加快可能會(huì)損害倫理審議的質(zhì)量，導(dǎo)致平民傷亡。這種決策速度與倫理審慎間的矛盾成為AI-DSS落地應(yīng)用的根本性挑戰(zhàn)。

（二）人類(lèi)道德主體性弱化的風(fēng)險(xiǎn)

隨著AI-DSS在識(shí)別大規(guī)模數(shù)據(jù)模式、預(yù)測(cè)沖突、生成目標(biāo)清單以及提出行動(dòng)方案等方面的依賴(lài)程度不斷加深，人類(lèi)與機(jī)器在戰(zhàn)爭(zhēng)中的互動(dòng)方式正被根本性重塑。因此，核心問(wèn)題在于如何將AI融入軍事決策過(guò)程，同時(shí)又不削弱人類(lèi)的倫理審議能力。

國(guó)際人道法（international humanitarian law, IHL）明確規(guī)定，由人類(lèi)承擔(dān)確保合法與倫理義務(wù)得到遵守的全部責(zé)任。支撐這些決策的價(jià)值判斷與評(píng)估，若被轉(zhuǎn)移至機(jī)器，便會(huì)法律與道德責(zé)任變得模糊不清。實(shí)踐中這種道德判斷能動(dòng)性的轉(zhuǎn)移可能降低使用暴力的門(mén)檻。另外，做出如辨別平民單位和避免過(guò)度傷害的這類(lèi)決策需要結(jié)合具體情境的倫理推理，即便對(duì)于人類(lèi)指揮者而言也并非易事。因此，在軍事決策中維護(hù)人類(lèi)的道德主體性，是堅(jiān)守倫理責(zé)任、捍衛(wèi)人格尊嚴(yán)的關(guān)鍵。

對(duì)AI工具而言，其本身的功能倫理（functional ethics）源自編程與設(shè)計(jì)；而決定是否以符合倫理的操作使用的操作倫理（operational ethics）則取決于人機(jī)互動(dòng)的方式。近期研究表明，對(duì)認(rèn)知任務(wù)的自動(dòng)化會(huì)深刻改變?nèi)祟?lèi)的行為方式，并對(duì)決策者產(chǎn)生顯著的心理影響。AI-DSS會(huì)影響用戶(hù)對(duì)世界的認(rèn)知和對(duì)倫理的界定，以及對(duì)偏好行動(dòng)或不行動(dòng)的選擇。

AI-DSS的自動(dòng)化偏見(jiàn)和擬人化傾向會(huì)進(jìn)一步加劇情境推理缺失和算法不透明等問(wèn)題。研究表明，即便存在相互矛盾的證據(jù)，人類(lèi)仍會(huì)過(guò)度依賴(lài)AI給出的建議。在高壓的軍事環(huán)境中，這種對(duì)AI輸出結(jié)果的過(guò)度信任尤為明顯，人類(lèi)存在對(duì)AI生成建議“照單全收”的風(fēng)險(xiǎn)，進(jìn)而可能導(dǎo)致判斷失誤和非預(yù)期的沖突升級(jí)。

另外，人類(lèi)會(huì)本能地對(duì)AI進(jìn)行擬人化解讀，將推理、道德、判斷等人性特質(zhì)賦予機(jī)器。那些為模仿人類(lèi)行為而設(shè)計(jì)的系統(tǒng)會(huì)進(jìn)一步強(qiáng)化這種錯(cuò)誤認(rèn)知，讓人們誤以為AI可以成為獨(dú)立的道德決策者。AI被認(rèn)為越可靠、越具有道德中立性，用戶(hù)就越有可能全盤(pán)接受其建議。

從決策加速到倫理失衡：為何需要新的倫理框架

如前所述，核心挑戰(zhàn)在于如何在危機(jī)決策中即既發(fā)揮AI的計(jì)算能力，又能維護(hù)人類(lèi)的道德主體性、明確對(duì)指揮者以及借助AI-DSS采取行動(dòng)者的問(wèn)責(zé)機(jī)制。但既有理論對(duì)這一問(wèn)題的回答存在較大的局限性。

(一）穆?tīng)柕牡赖轮黧w層級(jí)理論

詹姆斯·穆?tīng)柼岢龅赖轮黧w的四層級(jí)框架，為理解機(jī)器倫理能動(dòng)性提供了基本分類(lèi)工具，即區(qū)分為倫理影響主體、隱性倫理主體、顯性倫理主體和完全倫理主體四類(lèi)。其中，倫理影響主體指的是本身不具備倫理意識(shí)，只有其行為后果可以被倫理評(píng)價(jià)的系統(tǒng)；隱性倫理主體指的是能夠在編程或自身能力下對(duì)行為進(jìn)行倫理判斷的系統(tǒng)；顯性倫理主體指的則是更進(jìn)一步的，能夠明確表現(xiàn)出某種倫理并根據(jù)倫理知識(shí)運(yùn)作的系統(tǒng)；最后的完全倫理主體，則意味著機(jī)器能夠像人類(lèi)一樣進(jìn)行倫理推理、為其道德決策提供正當(dāng)性說(shuō)明，并作為自主的道德行動(dòng)者存在。

就目前而言，AI-DSS至多接近隱性倫理主體，部分系統(tǒng)或許朝顯性倫理主體邁進(jìn)，但距離真正意義上的完全倫理主體仍十分遙遠(yuǎn)，因?yàn)闄C(jī)器既缺乏意識(shí)、意向性與自由意志，也難以具備人類(lèi)式的道德理解、反思能力與情感敏感性。隨之浮現(xiàn)的核心倫理矛盾是：如果系統(tǒng)越來(lái)越深地參與高風(fēng)險(xiǎn)決策，卻又不能承擔(dān)道德責(zé)任，當(dāng)倫理推理的部分環(huán)節(jié)被委托給機(jī)器時(shí)，該如何防止人類(lèi)道德問(wèn)責(zé)的弱化？

（二）自上而下與自下而上的設(shè)計(jì)路徑

Wendell Wallach與Colin Allen將為AI系統(tǒng)植入倫理準(zhǔn)則的設(shè)計(jì)方法分為兩類(lèi)：自上而下（基于規(guī)則）的模型和自下而上（基于學(xué)習(xí)）的模型。自上而下的方法將源自義務(wù)論、后果論或美德倫理學(xué)的預(yù)設(shè)倫理規(guī)則應(yīng)用于AI決策指導(dǎo)；自下而上的方法借助機(jī)器學(xué)習(xí)和強(qiáng)化學(xué)習(xí)，讓AI通過(guò)實(shí)踐經(jīng)驗(yàn)形成倫理行為，而非依賴(lài)固定原則。

在實(shí)際應(yīng)用中，大多數(shù)AI-DSS采用混合方法，將結(jié)構(gòu)化的倫理準(zhǔn)則與自適應(yīng)學(xué)習(xí)機(jī)制相結(jié)合。例如，大語(yǔ)言模型（如ChatGPT）就主要采用自上而下結(jié)構(gòu)，但同時(shí)通過(guò)識(shí)別模式與基于訓(xùn)練數(shù)據(jù)和人類(lèi)互動(dòng)進(jìn)行調(diào)整，引入自下而上的元素。

（三）技術(shù)瓶頸

在AI-DSS中實(shí)現(xiàn)倫理決策面臨著諸多顯著的技術(shù)挑戰(zhàn)，其中最緊迫的問(wèn)題之一是在實(shí)時(shí)作戰(zhàn)場(chǎng)景中預(yù)測(cè)和評(píng)估行動(dòng)的后果。尤其是在高壓的軍事場(chǎng)景中，道德考量必須與作戰(zhàn)效能相平衡。一個(gè)經(jīng)典的倫理困境就是軍事版的 “電車(chē)難題”——AI-DSS需要決定是否授權(quán)對(duì)高價(jià)值目標(biāo)實(shí)施導(dǎo)彈打擊，而這一行動(dòng)將不可避免地導(dǎo)致平民傷亡時(shí)，系統(tǒng)該如何抉擇。

人類(lèi)決策者能夠憑直覺(jué)整合多種倫理考量，而AI則必須依賴(lài)預(yù)設(shè)的權(quán)重分配。包括強(qiáng)調(diào)平民的生命不可侵犯的義務(wù)論原則，計(jì)算這次打擊能否防止未來(lái)的更大傷害的結(jié)果論原則以及從德性倫理的角度出發(fā)，需要考慮軍事榮譽(yù)與行為-結(jié)果的相稱(chēng)原則。而AI對(duì)預(yù)設(shè)權(quán)重的依賴(lài)有時(shí)無(wú)法充分反映情境的道德復(fù)雜性。除此以外，AI難以判斷在復(fù)雜現(xiàn)實(shí)情境中哪些倫理因素是相關(guān)的，這一“框架問(wèn)題”（framing problem）進(jìn)一步加劇了AI倫理的復(fù)雜性。最后，獲取并維護(hù)實(shí)時(shí)的背景信息也是一項(xiàng)重大的技術(shù)挑戰(zhàn)，AI無(wú)法通過(guò)機(jī)器學(xué)習(xí)來(lái)了解哪些偏好在倫理上是可接受的。

因此，可擴(kuò)展性和適應(yīng)性仍是AI-DSS倫理落地應(yīng)用面臨的重要挑戰(zhàn)。倫理規(guī)則必須具備足夠的普適性以適用于不同場(chǎng)景，同時(shí)又要具備足夠的靈活性以適應(yīng)不斷變化的戰(zhàn)場(chǎng)環(huán)境。過(guò)于僵化的基于規(guī)則的方法，會(huì)讓AI在軍事行動(dòng)中難以發(fā)揮實(shí)際作用；而過(guò)度依賴(lài)學(xué)習(xí)-啟發(fā)式規(guī)則，則可能削弱倫理決策的明確性和嚴(yán)謹(jǐn)性。在AI決策中融入啟發(fā)式規(guī)則或許能助力應(yīng)對(duì)道德困境，但也可能損害倫理推理的精準(zhǔn)度。

（四）哲學(xué)理論路徑

后果論，尤其是其功利主義形式，主張通過(guò)評(píng)估決策和行動(dòng)的結(jié)果以實(shí)現(xiàn)整體利益的最大化。但由AI驅(qū)動(dòng)的功利主義計(jì)算難以充分考慮戰(zhàn)爭(zhēng)的不可預(yù)測(cè)性和非預(yù)期后果，無(wú)法成為倫理決策的穩(wěn)定基礎(chǔ)。

與之相對(duì)，義務(wù)論依賴(lài)固定的道德原則指導(dǎo)決策，要求人們遵守具有普遍性的道德規(guī)則。盡管這種方法為倫理決策奠定了堅(jiān)實(shí)的基礎(chǔ)，但其僵化性在瞬息萬(wàn)變的作戰(zhàn)環(huán)境中缺乏實(shí)操性，因?yàn)檫@類(lèi)環(huán)境中的決策需要具備情境靈活性。

最后，德性倫理學(xué)強(qiáng)調(diào)道德品格的塑造和情境適應(yīng)性判斷。不依賴(lài)固定規(guī)則或結(jié)果最大化，而關(guān)注在具體情境中形成恰當(dāng)判斷的能力，這使其尤其適用于高度不確定、難以完全規(guī)則化的軍事AI場(chǎng)景，但也因此更難被直接形式化。

正因如此，任何單一倫理框架都難以充分應(yīng)對(duì)AI-DSS的復(fù)雜性，更可行的路徑是將義務(wù)約束、后果評(píng)估與德性判斷結(jié)合起來(lái)，以在軍事必要性與倫理監(jiān)督之間取得平衡。

良善、正當(dāng)與效用：混合倫理框架及其現(xiàn)實(shí)應(yīng)用

（一）混合倫理框架的路徑

這一框架的關(guān)鍵在于使AI-DSS能夠以結(jié)構(gòu)化方式支持人類(lèi)倫理判斷。主張通過(guò)學(xué)習(xí)現(xiàn)實(shí)中的倫理行為范例，使AI在良善、正當(dāng)與效用三個(gè)維度之間展開(kāi)推理，其中，良善對(duì)應(yīng)德性倫理，正當(dāng)對(duì)應(yīng)義務(wù)論，效用對(duì)應(yīng)后果論。與傳統(tǒng)規(guī)則驅(qū)動(dòng)系統(tǒng)不同，這種方法允許AI依據(jù)具體情境在不同倫理邏輯之間進(jìn)行切換，例如在涉及國(guó)際人道法時(shí)優(yōu)先考慮義務(wù)約束，在比例原則與風(fēng)險(xiǎn)評(píng)估中引入后果主義，在道德不確定性較高時(shí)借助德性倫理進(jìn)行判斷。

結(jié)論：確保人類(lèi)對(duì)人類(lèi)負(fù)責(zé)，而非人工智能

AI-DSS的融入，標(biāo)志著軍事危機(jī)決策正在發(fā)生深刻轉(zhuǎn)變。盡管這類(lèi)系統(tǒng)通過(guò)提升計(jì)算速度、模式識(shí)別能力和數(shù)據(jù)整合能力優(yōu)化了決策過(guò)程，但也引入了復(fù)雜的社會(huì)-技術(shù)動(dòng)態(tài)，可能削弱人類(lèi)的道德能動(dòng)性和問(wèn)責(zé)機(jī)制，并從根本上挑戰(zhàn)傳統(tǒng)的“由人控制”的決策觀念。由此產(chǎn)生的核心問(wèn)題在于：如何在利用AI效率優(yōu)勢(shì)的同時(shí)，維持有效的倫理監(jiān)督，確保人類(lèi)的道德判斷在武力使用的決策中始終處于核心地位。