●掌握智能化作戰(zhàn)體系的脆弱性特征，宛如洞悉對手的“阿喀琉斯之踵”，通過有針對性的攻擊與反制，能夠贏得智能對抗的先機(jī)

作戰(zhàn)體系是各種作戰(zhàn)系統(tǒng)按照一定的指揮關(guān)系、組織關(guān)系和運行機(jī)制構(gòu)成的有機(jī)整體。與傳統(tǒng)信息化作戰(zhàn)體系相比，智能化作戰(zhàn)體系呈現(xiàn)出自主、多維、韌性等新反脆弱性特性，魯棒性得到極大提高。但是，從支撐技術(shù)、運行機(jī)理等視角看，智能化作戰(zhàn)體系仍然存在較為顯著的脆弱性，是破壞敵體系有效運行，形成相對智能優(yōu)勢，進(jìn)而奪取制智權(quán)的關(guān)鍵所在。

(資料圖)

支撐技術(shù)視角：固有缺陷無法避免

系統(tǒng)驅(qū)動過分依賴數(shù)據(jù)。基于深度神經(jīng)網(wǎng)絡(luò)的主流軍事智能技術(shù)，是一種數(shù)據(jù)驅(qū)動模型，即使用海量標(biāo)記樣本來訓(xùn)練、擬合出智能決策模型，數(shù)據(jù)測試合格后，再部署到實際環(huán)境中應(yīng)用。它并未像人一樣理解學(xué)習(xí)樣本真實含義，只不過恰好構(gòu)建了一個在預(yù)設(shè)訓(xùn)練集上運行良好的模型。由此構(gòu)建的智能模型對原始數(shù)據(jù)輕微擾動具有非線性放大效應(yīng)，一旦出現(xiàn)了預(yù)測空間之外的樣本，即不良甚至錯誤數(shù)據(jù)，就可能崩潰，作出錯誤決策，導(dǎo)致決策災(zāi)難。

決策模型適應(yīng)性偏弱。隨著技術(shù)發(fā)展，人工智能技術(shù)難點已從數(shù)據(jù)邊界轉(zhuǎn)為決策邊界。軍事人工智能模型的算法構(gòu)造和參數(shù)設(shè)定，天然地依賴于領(lǐng)域知識并受限于有限的數(shù)據(jù)集空間，須滿足確定性信息、完全信息、有限領(lǐng)域等條件，是完全信息博弈。但是，軍事決策環(huán)境恰好是典型的非完全信息博弈。此外，模型的訓(xùn)練、測試數(shù)據(jù)與知識范圍均基于已有案例產(chǎn)生，但軍事決策的對抗性決定了新的決策結(jié)論往往與既往相似決策環(huán)境中的結(jié)論存在差異甚至截然相反，智能模型尚不能夠有效產(chǎn)生這種出乎意料、合乎作戰(zhàn)藝術(shù)之中的決策結(jié)論。

算法“不可解釋”會衍生風(fēng)險。作為特殊對抗活動，軍事智能系統(tǒng)的決策過程應(yīng)當(dāng)具備“可解釋性”，也就是人能夠理解智能算法決策邏輯過程與結(jié)果。但是，當(dāng)前人工智能系統(tǒng)算法呈現(xiàn)“黑箱”特征，人無法了解并掌握它的決策過程，初始條件、權(quán)重等簡單參數(shù)的微小變化和調(diào)整，可能產(chǎn)生復(fù)雜的結(jié)果。這意味著智能系統(tǒng)存在著結(jié)構(gòu)性漏洞，存在不可預(yù)知的決策風(fēng)險，極可能產(chǎn)生錯誤甚至危險決策。同時，這還導(dǎo)致軍事智能系統(tǒng)的數(shù)據(jù)、算法、模型等可能存在難以發(fā)現(xiàn)的后門或漏洞，無法預(yù)知系統(tǒng)安全風(fēng)險。

運行機(jī)理視角：體系控制難度放大

多域交互產(chǎn)生認(rèn)知失真。智能化作戰(zhàn)體系分布于物理域、聯(lián)通于信息域、角逐于認(rèn)知域，作戰(zhàn)過程中，數(shù)據(jù)、信號、指令等信息跨域傳遞，人腦、機(jī)腦認(rèn)知結(jié)果多次交互，一組信息需要歷經(jīng)多輪交叉映射，數(shù)據(jù)失真進(jìn)而產(chǎn)生信息受損不可避免。

復(fù)雜結(jié)構(gòu)導(dǎo)致控制困難。器件小型化、系統(tǒng)集成化，是智能化武器裝備平臺的典型特征。系統(tǒng)內(nèi)部器件的小型化使得器件抗毀性、信號完整性受到挑戰(zhàn)，相鄰器件還可能相互影響造成信號干擾和信息泄露。集成的各子系統(tǒng)之間依靠各類傳感器、網(wǎng)絡(luò)交換元器件和系統(tǒng)通信協(xié)議等聯(lián)結(jié)形成新的系統(tǒng)，結(jié)構(gòu)繁復(fù)，控制信號難以流暢傳遞。在此基礎(chǔ)上疊加無序的人員意識、錯綜復(fù)雜的關(guān)系與機(jī)制等要素，進(jìn)一步放大了這種控制困難。

體系演化加劇不確定性。如果將智能化作戰(zhàn)體系視為復(fù)雜巨系統(tǒng)，除了系統(tǒng)穩(wěn)定依賴少數(shù)關(guān)鍵節(jié)點、作戰(zhàn)鏈路易損易毀等復(fù)雜系統(tǒng)共同脆弱性等外，作戰(zhàn)體系還存在著涌現(xiàn)性機(jī)制不清楚的薄弱環(huán)節(jié)，即系統(tǒng)知道1+1>2，但是等于幾不知道。傳統(tǒng)作戰(zhàn)體系可通過人的活動來有意識地控制體系演化方向。但是，智能化作戰(zhàn)體系的顯著特征就是自主性極大增強(qiáng)，除少數(shù)關(guān)鍵活動有人介入外，大部分活動均是“人在回路上”，這就導(dǎo)致體系的自主演化方向不可控，既可以趨于穩(wěn)定，也可能趨向崩潰。

人機(jī)協(xié)同視角：人機(jī)關(guān)系難以平衡

人機(jī)難以徹底信任。智能化作戰(zhàn)體系中，各級指揮機(jī)構(gòu)人機(jī)協(xié)同，人腦+機(jī)腦共同構(gòu)成指揮主體。作戰(zhàn)過程中，除人腦指令外，各級還要貫徹執(zhí)行機(jī)腦下達(dá)的指令。受人工智能技術(shù)缺陷、決策過程“黑箱”、人的主觀意識等因素影響，人很難無條件地信任并接受機(jī)器決策結(jié)果。這種不信任感可以通過長期人機(jī)協(xié)同訓(xùn)練降低，但是無法絕對消除。在戰(zhàn)場態(tài)勢發(fā)展的關(guān)鍵時刻，一旦人和機(jī)器的決策結(jié)果發(fā)生分歧，勢必影響決策速度與質(zhì)量。

戰(zhàn)爭倫理無法回避。在未來智能化作戰(zhàn)系統(tǒng)中，無論人、機(jī)以何種模式共存，人工智能系統(tǒng)的機(jī)腦都將獲取部分指揮控制權(quán)限。但是，戰(zhàn)爭活動有其特殊性，它直接帶來人的流血與死亡。按照“機(jī)器人三定律”，機(jī)器人不能對人造成傷害。但是，未來智能化戰(zhàn)爭，軍事智能系統(tǒng)的決策與行動，勢必造成人類的傷亡。軍事智能系統(tǒng)是否擁有對人攻擊的權(quán)限，其決策權(quán)限邊界在哪里，濫用這種權(quán)限是否導(dǎo)致機(jī)器人尋求主動傷害人類等，一直是科學(xué)界爭論的焦點，也是當(dāng)前各國發(fā)展軍事人工智能無法回避的問題。（顧靜超 張永亮 王光雷）

關(guān)鍵詞：