美國現(xiàn)代軍事戰(zhàn)略的重點(diǎn)是保持面對競爭對手的技術(shù)優(yōu)勢,。然而,，美國防部通過科技發(fā)展保持戰(zhàn)略優(yōu)勢的能力正受到全球化和信息革命的挑戰(zhàn)。但“自主性”的不斷進(jìn)步使國防部有能力保持其在各個領(lǐng)域的技術(shù)優(yōu)勢,，特別是無人系統(tǒng),。由于這項(xiàng)技術(shù)的革命潛力，國防部必須繼續(xù)進(jìn)行自主創(chuàng)新,，以增強(qiáng)無人系統(tǒng)與未來聯(lián)合作戰(zhàn)的結(jié)合,。

自主性是指一個實(shí)體根據(jù)對世界、自身情況的了解和理解,，自主地開發(fā)和選擇不同的行動方案以實(shí)現(xiàn)目標(biāo)的能力,。自主系統(tǒng)是由允許系統(tǒng)偏離基線的寬泛規(guī)則約束的。這與自動化系統(tǒng)形成對比，它由規(guī)定的規(guī)則控制,，不允許任何偏差,。雖然早期的機(jī)器人通常只表現(xiàn)出自動化的能力，但人工智能（AI）和機(jī)器學(xué)習(xí)（ML）技術(shù)的進(jìn)步促進(jìn)開發(fā)具有更高水平自主能力的系統(tǒng),。無人系統(tǒng)的未來將擴(kuò)展到廣泛的自主范圍,，從遠(yuǎn)程控制和自動化系統(tǒng)到近乎完全自主，根據(jù)需要支持任務(wù),。

機(jī)器學(xué)習(xí)（ML）是人工智能中迅速發(fā)展的一個領(lǐng)域,，在許多領(lǐng)域具有推進(jìn)無人系統(tǒng)的巨大潛力,，包括C2,、導(dǎo)航、感知（傳感器智能和傳感器融合）,、障礙物檢測和規(guī)避,、群體行為和戰(zhàn)術(shù)以及人類交互等。深度學(xué)習(xí)是一種很有前途的人工神經(jīng)網(wǎng)絡(luò)形式,，可以利用圖形處理單元（GPU）,、傳統(tǒng)CPU和自定義的神經(jīng)形態(tài)芯片的眾多核心來學(xué)習(xí)數(shù)據(jù)中的模式和模型。AI和ML將允許開發(fā)能夠自主學(xué)習(xí)和做出高質(zhì)量決策的系統(tǒng),。這種學(xué)習(xí)能力將直接導(dǎo)致開發(fā)具有更高自主性的無人系統(tǒng),，這將賦予擴(kuò)展和改進(jìn)的功能。此外,，自主無人系統(tǒng)將極大地增強(qiáng)戰(zhàn)場空間意識,，最大限度地利用AI/ML輔助決策，這將徹底改變戰(zhàn)場空間管理和C2,。

1.1 面臨挑戰(zhàn)

雖然人工智能正在取得重大進(jìn)展,，但這些技術(shù)在無人系統(tǒng)中的全面應(yīng)用面臨著一些挑戰(zhàn)。雖然基于AI的系統(tǒng)的安全性,、可靠性和可信性仍然是研究活躍的領(lǐng)域,，但AI必須克服重要的感知和信任問題才能被接受。政策和法律限制（包括國際）也必須發(fā)展,。M＆S和TEVV必須徹底改變以適應(yīng)AI / ML的功能,。無人系統(tǒng)在尺寸、重量和功率（SWAP）限制方面也有獨(dú)特的技術(shù)要求,。此外,，許多當(dāng)前的AI數(shù)據(jù)處理平臺在云環(huán)境中運(yùn)行計算，這可能不適合在通信隔絕環(huán)境中運(yùn)行的無人系統(tǒng),。然而,，隨著行業(yè)領(lǐng)導(dǎo)者對可嵌入無人系統(tǒng)的云解決方案的開發(fā)，未來可能會減輕這一挑戰(zhàn)。必須確定改進(jìn)的TEVV和對自主無人系統(tǒng)的最終人類控制的演示,，以便用人工智能和機(jī)器學(xué)習(xí)解決方案建立信任,。

數(shù)據(jù)質(zhì)量是將AI / ML集成到無人系統(tǒng)中必須解決的另一個問題。質(zhì)量數(shù)據(jù)是自動分析,，隨后為支持運(yùn)營而做出的決策的基礎(chǔ),。質(zhì)量不僅在起源/收集點(diǎn)受到影響，而且在系統(tǒng)轉(zhuǎn)化為各種可解釋形式時更是如此,。國防部必須建立并遵守企業(yè)數(shù)據(jù)標(biāo)準(zhǔn),，并對數(shù)據(jù)質(zhì)量進(jìn)行深思熟慮的企業(yè)評估。需要這些質(zhì)量數(shù)據(jù)來實(shí)現(xiàn)更高的自動化,，以支持機(jī)載戰(zhàn)術(shù)處理,、群體技術(shù)、時間主導(dǎo)決策以及最終實(shí)現(xiàn)完全自主,。

“我不希望人類的元素完全消失,，在那里總是會有一個命令元素。但還有更多,，我們可以做的更多,。最后，你想要什么,？你想要可操作的知識……你想盡快得到,。”

——海軍少將羅伯特·格里爾

1.2 未來之路

在短期內(nèi),，國防部應(yīng)該加強(qiáng)與私營部門的聯(lián)系,，以便隨著AI/ML解決方案的成熟，國防部能夠采購最有前途的解決方案,，并在無人系統(tǒng)中使用它們,。許多AI/ML解決方案依賴于大規(guī)模的、集成的云技術(shù)來進(jìn)行數(shù)據(jù)存儲,、處理和傳輸,。因此，國防部應(yīng)尋求大力開發(fā)云技術(shù),，并允許它們適應(yīng)于AI/ML解決方案中使用,。要實(shí)現(xiàn)這一目標(biāo)，需要在整個服務(wù)中和整個服務(wù)中解決數(shù)據(jù)收集,，標(biāo)準(zhǔn)化和共享問題,。國防部還必須繼續(xù)領(lǐng)導(dǎo)有關(guān)人工智能觀念、政策和法律的全國性和國際性討論,。

在中期階段,，AI/ML解決方案在M&S,、TEVV和SWAP使用方面可能已經(jīng)成熟，可以把它們嵌入無人系統(tǒng)中,。隨著AI/ML的發(fā)展,，國防部應(yīng)該投資于增強(qiáng)現(xiàn)實(shí)和虛擬現(xiàn)實(shí)接口，以增強(qiáng)無人系統(tǒng)和操作人員之間的交互,。國防部還需要繼續(xù)支持和鼓勵工業(yè)發(fā)展和維持AI/ML開放體系結(jié)構(gòu),，并加強(qiáng)與工業(yè)界和學(xué)術(shù)界的伙伴關(guān)系，以從中獲益,。應(yīng)當(dāng)通過改進(jìn)TEVV和演示人類對自主無人系統(tǒng)的最終控制來解決對智能機(jī)器可能對人類造成危險的擔(dān)憂,。

從長遠(yuǎn)來看，深度人工智能的進(jìn)步將允許開發(fā)應(yīng)用程序,，使人類操作員能夠控制和持續(xù)感知無人系統(tǒng),。人工智能和計算技術(shù)的進(jìn)步將使機(jī)器系統(tǒng)（包括無人系統(tǒng)）在學(xué)習(xí)和決策方面具有類人智能。

增強(qiáng)的自主性將使無人系統(tǒng)能夠執(zhí)行更大范圍的任務(wù),，這將直接提高操作能力,。更大的自主性也將消除操作人員不斷輸入的需要,。這將允許同時對多個無人系統(tǒng)進(jìn)行更高級的控制或監(jiān)督,，并且通過減少操作員的認(rèn)知負(fù)荷、允許操作員作出命令決策和執(zhí)行其他高級任務(wù)來提高效率,。自主系統(tǒng)將通過實(shí)現(xiàn)自組織,、任務(wù)劃分和活動協(xié)調(diào)來提高效率，特別是在復(fù)雜環(huán)境中,。自主系統(tǒng)攝取,、處理和分析大型復(fù)雜數(shù)據(jù)集的能力，以及通過數(shù)據(jù)可視化向人類傳達(dá)有價值的數(shù)據(jù)趨勢或相互關(guān)系的能力,，對人類和自主系統(tǒng)都有好處,。這種類型的人機(jī)交互將允許人類作出更明智和更好的決策，并通過提供頻繁的系統(tǒng)反饋來增強(qiáng)自主系統(tǒng)的學(xué)習(xí)過程,。

最后,，提高自主水平將提高無人系統(tǒng)的決策速度，并使它們能夠執(zhí)行比人類反應(yīng)時間更快的決策周期的任務(wù),，從而大大提高它們在諸如導(dǎo)彈防御等各種任務(wù)領(lǐng)域的作戰(zhàn)能力,。提高無人系統(tǒng)效率和效能的科學(xué)進(jìn)展對未來軍事的發(fā)展至關(guān)重要。

2.1 面臨挑戰(zhàn)

目前,，通過增加自主性實(shí)現(xiàn)的效率和效益的提高,，受到法律和政策、信任問題和技術(shù)挑戰(zhàn)的限制,。增加自主性將允許無人系統(tǒng)執(zhí)行以前只能由人執(zhí)行的任務(wù),。這些任務(wù)中最有爭議的將涉及使用致命武力,。支持無人系統(tǒng)的技術(shù)將使開發(fā)和部署自主系統(tǒng)成為可能，自主系統(tǒng)可以獨(dú)立地選擇和攻擊具有致命力量的目標(biāo),。

在更大范圍和更頻繁的操作場景中部署無人系統(tǒng)也將從根本上改變軍事訓(xùn)練要求,、人事管理和部隊結(jié)構(gòu)。隨著自主系統(tǒng)越來越先進(jìn),，研究,、理解和記錄它們與人類的交互作用將變得至關(guān)重要。操作員和指揮官需要高度理解這些系統(tǒng)是如何操作的,，以及它們在各種操作環(huán)境中以及當(dāng)面臨特定的操作挑戰(zhàn)時將如何響應(yīng),。通過有效地培訓(xùn)操作人員和團(tuán)隊成員，以及開發(fā)相關(guān)的機(jī)器來增強(qiáng)對共同團(tuán)隊目標(biāo),、它們各自的角色以及它們相互依賴的方式的理解,，將克服人機(jī)團(tuán)隊合作所帶來的挑戰(zhàn)。然后,，在人機(jī)團(tuán)隊的開發(fā)和運(yùn)行過程中學(xué)到的經(jīng)驗(yàn)教訓(xùn)可以適當(dāng)?shù)貞?yīng)用于更自主系統(tǒng)的后續(xù)開發(fā)和操作,。

2.2 未來之路

未來幾十年無人系統(tǒng)能力的擴(kuò)展在很大程度上將取決于在部隊結(jié)構(gòu)中有效組合人類和自主系統(tǒng)的能力。在短期內(nèi),，需要提高操作安全性和效率,，例如空中防撞和地面車輛的自動安全功能。

在中期階段,，自主算法,、改進(jìn)的傳感器和計算機(jī)處理將改進(jìn)人和機(jī)器的合作，從任務(wù)支持發(fā)展到操作支持,，并將允許機(jī)器在各種操作中直接幫助人類,。例如，無人駕駛系統(tǒng)中自主水平的提高將允許領(lǐng)導(dǎo)跟隨功能,，在后方半自主車輛跟隨在后勤車隊操作中的指定領(lǐng)導(dǎo)車輛,。類似地，自主的“機(jī)器人翼手”可以伴隨飛行飛機(jī),、地面戰(zhàn)斗機(jī)機(jī)組,、水面艦艇和水下艦艇機(jī)組。

最后,，從長遠(yuǎn)來看,，人類將形成具有幾乎完全自主的無人系統(tǒng)的集成團(tuán)隊，能夠在有爭議的環(huán)境中進(jìn)行操作,。這可能包括通過ISR或空中打擊直接支持地面士兵的異構(gòu)成群的UAS,。

信任是復(fù)雜和多維的。因此,，必須通過對行為和功能的關(guān)鍵指標(biāo)的持續(xù)評估來建立對自主系統(tǒng)的信任,，從開發(fā)階段開始,，并在系統(tǒng)生命周期的所有階段持續(xù)進(jìn)行。廣泛的保證不僅有助于提高操作員和指揮官的信任度,，還有助于提高設(shè)計師,、測試人員、政策制定者和立法者以及整個公眾的信任度,。此外,，自主系統(tǒng)必須表現(xiàn)出運(yùn)行時的透明度，并且能夠解釋決策和行動,，以及以簡明和可用的格式向人類操作員傳達(dá)目標(biāo)和計劃,。以這種方式與操作員建立信任將確保人的權(quán)力仍然是自治系統(tǒng)的任務(wù)批準(zhǔn)中心，并確保有效的人機(jī)協(xié)同,。如果操作員/指揮官和自主無人系統(tǒng)之間沒有足夠的信任,，為了在高度一致性下正常運(yùn)行，這些系統(tǒng)將不會用于任何任務(wù)集,。

3.1 面臨挑戰(zhàn)

缺乏作戰(zhàn)人員和廣大公眾的信任是國防部繼續(xù)發(fā)展和使用自主無人系統(tǒng)的主要障礙,。聯(lián)合國（UN）為考慮禁止部署具有致命性的自主系統(tǒng)的政策而作出的國際努力突顯了這種信任的缺乏。此外,，當(dāng)前人工智能在道德思維方面的能力存在技術(shù)缺陷,，這可能限制公眾對為軍事能力而開發(fā)的自主無人系統(tǒng)的信任。在軍事力量可能遇到的各種場景中,，人工智能目前無法一致地實(shí)現(xiàn)情境倫理推理,。鑒于這種限制，當(dāng)越來越多的無人系統(tǒng)被更廣泛地部署時,，確保人權(quán)、責(zé)任和維持C2的能力得以保留是至關(guān)重要的,。

3.2 未來之路

國防部將繼續(xù)更新現(xiàn)有的作戰(zhàn)命令(OPORD)和合作任務(wù)的軍事框架,，包括無人系統(tǒng)的任務(wù)指導(dǎo)和驗(yàn)證。此外,，對軍事任務(wù)的分析可以確定哪些倫理要求需要人類決策者的輸入,。這種類型的思維方式應(yīng)適用于擬議/計劃的自主無人系統(tǒng)。初始的有人/無人團(tuán)隊合作(MUM-T)學(xué)習(xí)活動可以探索人機(jī)結(jié)合的幾個要素,，以建立信任的基礎(chǔ),。

這一領(lǐng)域的成功將為指揮官、決策者,、立法者,、公眾和其他適用的利益相關(guān)者提供對道德框架的信心。無人系統(tǒng)以人為導(dǎo)向的戰(zhàn)術(shù)任務(wù)以及這些系統(tǒng)的總體性能可以而且將顯示出滿足參與規(guī)則(ROE)和《武裝沖突法》(LOAC)的所有倫理要求,。

在考慮武器系統(tǒng)的具體使用時,，國防部指令（DoDD）3000.09——武器系統(tǒng)自主化,，于2012年11月簽署，制定政策并負(fù)責(zé)制定武器系統(tǒng)中自主功能的開發(fā)和使用,，包括有人和無人系統(tǒng)平臺,。它要求自主和半自主武器系統(tǒng)的設(shè)計允許指揮官和操作員對使用武力進(jìn)行適當(dāng)程度的人類判斷。 DoDD 3000.09還要求授權(quán)使用,、直接使用或操作自主和半自動武器系統(tǒng)的人員必須在適當(dāng)?shù)谋O(jiān)督下,，并根據(jù)戰(zhàn)爭法、適用的條約,、武器系統(tǒng)安全規(guī)則和適用的ROE,。DoDD 3000.09經(jīng)歷了行政變更的強(qiáng)制性定期更新（2017年5月8日變更1），但預(yù)計將在2017年底完成更實(shí)質(zhì)性的更新,。該實(shí)質(zhì)性更新一經(jīng)發(fā)布,，預(yù)計將涉及對定義和流程的澄清而不是政策總體方向的轉(zhuǎn)變。

國防部目前沒有自主武器系統(tǒng),，可以獨(dú)立于人類操作員的輸入來搜索,、識別、跟蹤,、選擇和參與目標(biāo),。這些任務(wù)目前嚴(yán)重依賴于使用遠(yuǎn)程操作的操作人員，也稱為“遠(yuǎn)程操作”,。在未來,，武器化將是任務(wù)組中的關(guān)鍵能力，其中無人系統(tǒng)直接支持從事危險任務(wù)的部隊,。

4.1 面臨挑戰(zhàn)

在公共和國際外交領(lǐng)域,，有關(guān)國家、非政府組織和人工智能專家敦促立即加緊努力,、制定和保證一項(xiàng)限制發(fā)展,、部署和使用對人進(jìn)行目標(biāo)定位、選擇和攻擊的武器系統(tǒng)的國際條約,。針對日內(nèi)瓦某些常規(guī)武器公約（CCW）某些締約國的類似關(guān)注,，聯(lián)合國日內(nèi)瓦辦事處在2014年，2015年和2016年舉辦了關(guān)于致命自主武器系統(tǒng)（LAWS）的非正式專家會議,。中國共產(chǎn)黨成立了一個政府專家小組（GGE）,，他們在2017年更討論了法律問題，并提出修改意見,。預(yù)計將于2018年8月27日至31日舉行第二次會議,。如果對自主武器系統(tǒng)實(shí)施此類限制，并且如果美國遵循它,，禁令將嚴(yán)重限制開發(fā)和使用致命自主武器系統(tǒng)的能力,。

4.2 未來之路

在短期內(nèi),，各部門和機(jī)構(gòu)間工作組將繼續(xù)處理與法律法規(guī)有關(guān)的各種外交、政策,、法律和執(zhí)行問題,。為了通知這些工作組的部門工作，組織未來的部隊發(fā)展工作,，并通報國防部3000.09號最新情況,，國防部副部長兼參謀長聯(lián)席會議副主席委托對法律法規(guī)和人工智能進(jìn)行為期90天的評估。此外,，2018 - 2022年的國防規(guī)劃指南（DPG）包括關(guān)于自主武器發(fā)展的指導(dǎo),，未來的部門級部隊規(guī)劃指導(dǎo)可能包含有關(guān)該主題的指導(dǎo)。

在中長期內(nèi),，高度自主的無人系統(tǒng)的發(fā)展將迅速增長,，并有可能武裝起來。隨著AI能夠?qū)崿F(xiàn)越來越復(fù)雜的機(jī)器響應(yīng)能力,，這些進(jìn)步將到來,。這些系統(tǒng)將與作戰(zhàn)人員一起部署，并集中于高傷亡概率的任務(wù),。具有集成人工智能的無人系統(tǒng),，作為僚機(jī)或隊友，具有致命武器,，可以執(zhí)行與目標(biāo)識別,、跟蹤、威脅優(yōu)先和攻擊后評估相關(guān)的絕大多數(shù)操作,，同時跟蹤位置并確保藍(lán)軍的安全,，最大限度地降低人類隊友的風(fēng)險。這種自動化水平將減輕與目標(biāo)參與相關(guān)的任務(wù)級活動的人工操作員的工作量,，允許操作員將注意力集中在所識別的威脅和參與決策上,。

轉(zhuǎn)載請注明來源