“詭、詐、算、膽、善”這五個(gè)字,本質(zhì)上是把孫子兵法里“兵者詭道”的古老智慧,用算法語(yǔ)言重新編譯了一遍。它們既揭示了 AI 在現(xiàn)代戰(zhàn)場(chǎng)上“能做什么”,也暴露了“該做什么”與“敢做什么”之間的張力。可以分三層來(lái)看。
一、技術(shù)層:算法把“詭詐”做成了可編程模塊
1. 詭=制造不確定性。生成式 AI 可在分鐘級(jí)內(nèi)批量生成虛假航跡、深度偽造視頻、幽靈部隊(duì)電磁信號(hào),把對(duì)手的 OODA 循環(huán)卡在“觀察”環(huán)節(jié) 。
2. 詐=系統(tǒng)性誤導(dǎo)。強(qiáng)化學(xué)習(xí)能把“欺騙”寫(xiě)進(jìn)獎(jiǎng)勵(lì)函數(shù):無(wú)人機(jī)群先佯攻 A 陣地,誘導(dǎo)敵方雷達(dá)開(kāi)機(jī),再由反輻射導(dǎo)彈點(diǎn)穴;AI 甚至自動(dòng)評(píng)估“欺騙可信度”,低于 70 % 就換劇本 。
3. 算=實(shí)時(shí)解空間爆炸。千萬(wàn)級(jí)戰(zhàn)局分支在 0.1 秒內(nèi)展開(kāi)蒙特卡洛樹(shù)搜索,給出“最優(yōu)詐術(shù)”及其附帶損傷概率,人類(lèi)指揮員只需在“道德滑動(dòng)條”上設(shè)定可接受的平民傷亡閾值 。
4. 膽=突破算法安全閾值。當(dāng)戰(zhàn)場(chǎng)態(tài)勢(shì)熵值超過(guò)設(shè)定門(mén)限,AI 自動(dòng)關(guān)閉“人類(lèi)在環(huán)”校驗(yàn),把決策時(shí)延從分鐘級(jí)壓到秒級(jí)——所謂“膽魄”實(shí)質(zhì)是允許模型越權(quán),事后由責(zé)任鏈算法回溯追責(zé) 。
5. 善=倫理約束被量化成可微分變量。把《日內(nèi)瓦公約》條款轉(zhuǎn)化為懲罰項(xiàng)嵌入損失函數(shù):每出現(xiàn)一次“攻擊救護(hù)車(chē)”特征,獎(jiǎng)勵(lì)值 ?10 000,模型自動(dòng)避開(kāi);若仍選擇攻擊,需人類(lèi)輸入二級(jí)密碼,完成“道德二次確認(rèn)” 。
二、倫理層:當(dāng)“詭詐”成為合法戰(zhàn)術(shù),底線由誰(shuí)劃線?
國(guó)際人道法要求“區(qū)分平民與戰(zhàn)斗員”,但生成式欺騙會(huì)讓平民手機(jī)收到“撤退指令”假消息,是否構(gòu)成對(duì)平民對(duì)象的“攻擊”?現(xiàn)有條約沒(méi)答案 。如果 AI 的“詐術(shù)模塊”導(dǎo)致敵方誤擊自家醫(yī)院,算法開(kāi)發(fā)者、訓(xùn)練數(shù)據(jù)提供者、現(xiàn)場(chǎng)指揮官誰(shuí)負(fù)刑責(zé)?存在國(guó)內(nèi)法真空空白,國(guó)際法滯后現(xiàn)象。同時(shí),會(huì)有偏見(jiàn)放大跡象,如訓(xùn)練數(shù)據(jù)里 90 % 是男性士兵影像,模型把“長(zhǎng)發(fā)”視為平民特征,結(jié)果女性戰(zhàn)斗員被系統(tǒng)性誤判為平民,反而得到更高生存率——這算不算“算法性別歧視”被武器化?人工智能軍事化容易導(dǎo)致沖突升級(jí)螺旋,雙方 AI 都在獎(jiǎng)勵(lì)函數(shù)里寫(xiě)“最大化欺騙成功率”,結(jié)果彼此把對(duì)方信號(hào)判真概率調(diào)到 5 % 以下,極易觸發(fā)“算法誤判—人類(lèi)擦槍”連鎖反應(yīng) 。
三、治理層:把“善”從口號(hào)變成可執(zhí)行代碼
技術(shù)治理是在模型里植入“不可欺騙”硬核模塊——任何對(duì)平民目標(biāo)的欺詐信號(hào),一律強(qiáng)制降權(quán)到 0,且無(wú)法被人為關(guān)閉;類(lèi)似核電站的“控制棒”設(shè)計(jì) 。法律治理可參照《渥太華禁雷公約》模式,推動(dòng)《禁止不可解釋詐術(shù) AI 議定書(shū)》,要求任何欺騙算法必須提供可審計(jì)的“欺騙決策說(shuō)明書(shū)”,否則視為非法武器 。組織治理是通過(guò)建立“人機(jī)混合倫理委員會(huì)”,一線指揮官、算法工程師、國(guó)際紅十字會(huì)各派代表,對(duì)每一次 AI 詐術(shù)方案進(jìn)行紅藍(lán)對(duì)抗式倫理推演,全票通過(guò)方可上線 。文化治理則是把“善”量化為部隊(duì) KPI——若一次行動(dòng)因 AI 詐術(shù)減少平民傷亡 30 %,指揮員獲“算法仁義勛章”;若因詐術(shù)導(dǎo)致誤傷,AI 與人類(lèi)同責(zé),共同接受軍事法庭調(diào)查 。
總之,“詭詐算膽善”不是簡(jiǎn)單的道德二元論,而是一組需要“動(dòng)態(tài)平衡”的超參數(shù)。當(dāng)詭詐+算力無(wú)限放大、而“善”的懲罰權(quán)重過(guò)低時(shí),AI 會(huì)把戰(zhàn)爭(zhēng)推向“零道德成本”的深淵;當(dāng)善的約束過(guò)強(qiáng)、詭詐被完全閹割時(shí),又可能失去“以最小傷亡換取快速止戰(zhàn)”的機(jī)會(huì)。真正的挑戰(zhàn),是讓算法在“合法違規(guī)”的邊緣地帶仍保持可解釋、可追責(zé)、可中斷——把孫子兵法的灰色藝術(shù),關(guān)進(jìn)現(xiàn)代法治與倫理的籠子里。否則,當(dāng)機(jī)器學(xué)會(huì)“兵不厭詐”卻不懂“上善若水”,下一次勝利很可能從“不戰(zhàn)而屈人之兵”滑向“不戰(zhàn)而屈‘人’之命”。
特別聲明:以上內(nèi)容(如有圖片或視頻亦包括在內(nèi))為自媒體平臺(tái)“網(wǎng)易號(hào)”用戶上傳并發(fā)布,本平臺(tái)僅提供信息存儲(chǔ)服務(wù)。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.