人工智能加速武器自主化進(jìn)程

■裴  帥  石海明  霍江雷

一段時(shí)間以來，在科技進(jìn)步與軍事需求雙輪驅(qū)動(dòng)下，世界各軍事強(qiáng)國正積極研發(fā)和部署各種武器自主化項(xiàng)目，使其在人工智能賦能下自主感知、學(xué)習(xí)、決策。

美國X-62A戰(zhàn)機(jī)從愛德華茲空軍基地起飛。

今年5月，美國空軍部長弗蘭克·肯德爾在愛德華茲空軍基地公開試乘人工智能控制的F-16戰(zhàn)機(jī)（X-62A），引發(fā)各方廣泛關(guān)注。分析人士認(rèn)為，人工智能賦能的自主武器不但會(huì)改變未來戰(zhàn)爭的形態(tài)，更將對(duì)當(dāng)前國際安全局勢造成新的沖擊，而其失控的風(fēng)險(xiǎn)也將成為人類社會(huì)不容忽視的問題。

加速研發(fā)的戰(zhàn)爭利器

在美軍看來，人工智能與下一代武器平臺(tái)和先進(jìn)彈藥不同，有著改變戰(zhàn)場幾乎所有方面的潛力，其中一個(gè)重要的領(lǐng)域就是加速武器的自主化。美軍在這方面投入了大量的資源，肯德爾乘坐的X-62A便是標(biāo)志性成果。在約1小時(shí)的飛行中，該戰(zhàn)機(jī)所有動(dòng)作均由人工智能自主完成。此外，美空軍正在研發(fā)的“協(xié)同作戰(zhàn)飛機(jī)”，將配裝“天空博格人”無人自主核心系統(tǒng)，在作戰(zhàn)中與有人戰(zhàn)機(jī)共同編隊(duì)，擔(dān)負(fù)監(jiān)視、打擊、電子干擾、充當(dāng)誘餌等多種任務(wù)，最大限度提高編隊(duì)的安全性和作戰(zhàn)能力。

海軍方面，在《2025年自主潛航器需求》和《未來艦隊(duì)平臺(tái)備選方案》報(bào)告中，美計(jì)劃在2030年實(shí)現(xiàn)分布式艦隊(duì)的構(gòu)想，裝備中型無人潛航器183具、可供核潛艇攜帶的大型無人潛航器48具，能在港口、國際海域及主要航道執(zhí)行為期數(shù)十天的反潛、偵察、監(jiān)視等任務(wù)。

俄羅斯對(duì)人工智能的研究也啟動(dòng)較早。俄國防部于2022年成立了人工智能武器研究部門，以加強(qiáng)人工智能技術(shù)的使用，發(fā)展新的特種裝備。俄國家技術(shù)集團(tuán)研制的“德佩沙”和“巴吉”多功能無人系統(tǒng)，不僅能運(yùn)送貨物和傷員，還能打擊敵方陣地和有生力量。此前有報(bào)道稱，俄軍的“柳葉刀”-3巡飛彈使用了卷積神經(jīng)網(wǎng)絡(luò)，可以對(duì)收集到的圖像和視頻數(shù)據(jù)進(jìn)行分析，從而實(shí)現(xiàn)精準(zhǔn)探測打擊。

以色列M-RCV型無人戰(zhàn)車。

德國、以色列等國也加大了相關(guān)領(lǐng)域的研發(fā)力度。在北約支持下，德國ARX機(jī)器人公司正在開發(fā)一系列無人地面載具。借助人工智能，這些載具可以在戰(zhàn)場上自主運(yùn)行并相互通信，必要時(shí)也可以進(jìn)行遠(yuǎn)程控制。分析人士認(rèn)為，此舉意味著北約開啟了“打造自主機(jī)器人部隊(duì)”的進(jìn)程。以軍的M-RCV型無人戰(zhàn)車，智能化水平較高，能在沒有人工干預(yù)的情況下，執(zhí)行高度自主的前沿偵察、火力打擊以及運(yùn)載和回收無人機(jī)等多樣化任務(wù)。

即將到來的軍事革命

人工智能賦能的自主武器已在地區(qū)沖突中出現(xiàn)。2020年利比亞軍事沖突中，土耳其生產(chǎn)的“卡古”-2無人機(jī)在不依靠操作員的情況下跟蹤并攻擊了正在撤退的“利比亞國民軍”。這或許是有史以來第一例記錄在案的無人機(jī)在沒有人為命令的情況下向人發(fā)動(dòng)攻擊的案例。在俄烏沖突中，烏軍不但從英美等國獲得大量人工智能加持的無人機(jī)，自身也積極開展相關(guān)研究。在本輪巴以沖突中，人工智能同樣得到應(yīng)用。以色列在進(jìn)攻加沙時(shí)，使用了一款名為“薰衣草”的人工智能系統(tǒng)來幫助識(shí)別哈馬斯武裝人員。

人工智能賦能的自主武器正在顛覆戰(zhàn)爭形態(tài)。去年9月，X-62A成功與人類飛行員駕駛的F-16戰(zhàn)斗機(jī)完成空中格斗。這被認(rèn)為是“航空航天史上的一個(gè)變革時(shí)刻”，表明未來作戰(zhàn)將局部或完全由人工智能操控。以各型無人機(jī)、無人車、無人艇和無人潛航器等無人作戰(zhàn)單元為基本構(gòu)成的無人系統(tǒng)集群，在未來作戰(zhàn)力量體系中占比將越來越大，乃至達(dá)到與有人作戰(zhàn)系統(tǒng)并駕齊驅(qū)的地位。隨著自主性和智能化程度的提高，無人系統(tǒng)集群將日益成為戰(zhàn)爭中的“主角”。研究人員認(rèn)為，與有人系統(tǒng)協(xié)同作戰(zhàn)僅是無人系統(tǒng)自主作戰(zhàn)的初始階段，最終目標(biāo)是實(shí)現(xiàn)全無人系統(tǒng)自主作戰(zhàn)。

人工智能賦能的自主武器沖擊地緣政治穩(wěn)定。地緣政治的穩(wěn)定有賴于地區(qū)軍力的相對(duì)平衡，然而無人化自主武器的大量運(yùn)用，必將沖擊原有格局，從而導(dǎo)致新的軍備競賽。以個(gè)別霸權(quán)國家為例，一旦人工智能賦能的自主武器大規(guī)模投入使用，其發(fā)動(dòng)地區(qū)軍事干預(yù)的顧忌因素減少、對(duì)外動(dòng)武門檻降低，相關(guān)地區(qū)的安全與穩(wěn)定將面臨極大挑戰(zhàn)。此外，越來越多的非國家行為體掌握自主武器技術(shù)并將其用于致命目的，也將對(duì)地區(qū)局勢構(gòu)成沖擊。

不容忽視的濫用風(fēng)險(xiǎn)

“人類正站在一個(gè)十字路口，自主武器系統(tǒng)很快將布滿世界戰(zhàn)場。這是我們這一代人的‘奧本海默時(shí)刻’?！苯衲暝诰S也納召開的自主武器國際會(huì)議上，奧地利外交部長沙倫貝格表示。人工智能雖然有助于精確化打擊、區(qū)分性作戰(zhàn)及降低物資損耗，但由于其固有的“黑箱機(jī)制”和“機(jī)器幻覺”，未來無人化戰(zhàn)爭將面臨不可回避的風(fēng)險(xiǎn)挑戰(zhàn)。

指揮失序風(fēng)險(xiǎn)。過度依賴武器的自主化，很容易增加指控系統(tǒng)失控的風(fēng)險(xiǎn)。在美軍一次模擬測試中，一架執(zhí)行壓制防空任務(wù)的無人機(jī)，為在測試中得分，選擇“殺死”了阻止自己得分的操作員。在被“告知”殺死操作員要扣分時(shí)，其又通過攻擊通信塔中斷了操作員與自己的聯(lián)絡(luò)來奪得自主權(quán)。未來的真實(shí)戰(zhàn)場上，自主武器失控的風(fēng)險(xiǎn)并不能完全排除，其帶來的后果將更加難以控制。

暴力失控風(fēng)險(xiǎn)。人工智能與武器的結(jié)合，意味著殺傷難度顯著降低、殺傷效率和烈度大幅增加，很容易導(dǎo)致武裝沖突擴(kuò)大升級(jí)。然而，人工智能所依賴的機(jī)器學(xué)習(xí)算法本質(zhì)上是不可預(yù)測的，內(nèi)部機(jī)制尚存在一些未予解釋的部分。在極端情況下，人類甚至可能徹底喪失對(duì)自主武器的控制，由此造成的人道主義災(zāi)難將難以估量。正是意識(shí)到這一問題，聯(lián)合國正多方呼吁就自主武器系統(tǒng)制訂共同的規(guī)范和準(zhǔn)則，并盡早完成相關(guān)談判。

倫理失范風(fēng)險(xiǎn)。致命性自主武器在沒有人的干預(yù)下自動(dòng)選擇和攻擊目標(biāo)，意味著將剝奪自然人生命的權(quán)利交給了冷酷無情的機(jī)器人。有專家表示，將戰(zhàn)場一線交給自主武器后，人類對(duì)戰(zhàn)爭殘酷性的感知度會(huì)直線下降，產(chǎn)生“戰(zhàn)爭游戲化”的后果，從而導(dǎo)致武力的過度使用。這既是“道義責(zé)任的缺失”，也對(duì)國際人道法和國際和平與安全提出了嚴(yán)峻的挑戰(zhàn)，是人類“無法承受之重”。

本版照片均為資料圖片