“當(dāng)然,，我們希望確保該指令仍然反映部門的觀點(diǎn)以及部門應(yīng)該考慮[自主]武器系統(tǒng)的方式,，”邁克爾霍洛維茨。

五角大樓正在努力應(yīng)對(duì)人工智能的發(fā)展,。

五角大樓新興能力政策辦公室負(fù)責(zé)人,，美國國防部正在更新其關(guān)于自主武器的指導(dǎo)，以考慮人工智能的進(jìn)步,，修訂后的指令定于今年晚些時(shí)候發(fā)布,。

DoD 指令 3000.09 由當(dāng)時(shí)的國防部副部長(zhǎng) Ash Carter 于 2012 年 11 月 21 日簽署，確立了“自主和半自動(dòng)武器的設(shè)計(jì),、開發(fā),、采購、測(cè)試,、部署和使用”的政策,、責(zé)任和審查流程。-自主武器系統(tǒng),，包括可以獨(dú)立選擇和區(qū)分目標(biāo)的制導(dǎo)彈藥,?！?/span>

但自發(fā)布以來的十年中，人工智能和機(jī)器學(xué)習(xí)技術(shù)取得了巨大的飛躍,，“完全合理”可能需要進(jìn)行修改以反映五角大樓的“負(fù)責(zé)任的人工智能”倡議和該部門采用的其他道德原則，國防部新興能力政策主任邁克爾霍洛維茨說,。

 “自治和人工智能不是一回事,，”霍洛維茨在 5 月 24 日對(duì) Breaking Defense 說。確保這一點(diǎn)反映在指令中似乎是有道理的,?！?/span>

值得注意的是，根據(jù) DoD 指令 3000.09 中的定義,，軍方目前不使用任何符合自主武器條件的武器系統(tǒng)——至少公開目前沒有開發(fā)這種武器,。該部門將“自主武器”描述為一種自主或半自主系統(tǒng)，它可以選擇自己的目標(biāo)并在沒有人參與的情況下施加致命或非致命武力,。

該指令不適用于非武裝無人機(jī)或像 MQ-9 Reaper 這樣的武裝無人機(jī),，其飛行路徑和武器釋放由坐在遠(yuǎn)程位置的人類飛行員控制。它也不適用于像美國向?yàn)蹩颂m提供的Switchblade 游蕩彈藥這樣的系統(tǒng),，這些彈藥由人類操作員編程以擊中特定目標(biāo),，并且可以在需要時(shí)取消。

“這是第一個(gè)關(guān)于自主武器系統(tǒng)的國家政策,，實(shí)際上仍然是唯一公開的國家政策之一，”霍洛維茨說,。“它基本上為隨后的全球?qū)υ捲O(shè)定了標(biāo)準(zhǔn),，并展示了美國對(duì)可能將自主性納入武器系統(tǒng)的負(fù)責(zé)任態(tài)度?！?/span>

在 2012 年時(shí)任負(fù)責(zé)政策力量發(fā)展的副助理部長(zhǎng)戴維·奧赫馬內(nèi)克（David Ochmanek）將這一理論描述為“靈活的”，并強(qiáng)調(diào)在任何未來的自主武器之前都會(huì)實(shí)施“嚴(yán)格的審查程序”可以被批準(zhǔn),。

但這一承諾并沒有安撫反對(duì)者，他們將其與終結(jié)者進(jìn)行了比較,，并組織了一些努力，例如同名的“停止殺手機(jī)器人運(yùn)動(dòng)”，以先發(fā)制人地禁止這項(xiàng)技術(shù),?；袈寰S茨——一位長(zhǎng)期的無人機(jī)專家，曾撰寫過一篇題為“機(jī)器人戰(zhàn)爭(zhēng)的倫理與道德：評(píng)估關(guān)于自主武器的辯論”的論文——他非常清楚圍繞此類系統(tǒng)的辯論，同時(shí)避免直接評(píng)論這些擔(dān)憂，他指出近年來,，該部門對(duì)自主性和人工智能的日益關(guān)注一直是人類參與這一過程的想法,。

“我想說，美國對(duì)人工智能和自主系統(tǒng)的作用的方法之一就是將這些系統(tǒng)想象為增強(qiáng)作戰(zhàn)人員的一種方式,，”他說,?！斑@就是為什么在幾屆政府中,，美國一直在談?wù)?/span>人機(jī)協(xié)作之類的事情，因?yàn)樗鼉A向于將人工智能和自主系統(tǒng)視為與世界上訓(xùn)練有素的軍隊(duì)協(xié)同工作以改善其容量,?！?/span>

現(xiàn)代化的人工智能

更新的發(fā)生不是因?yàn)橹卮蠹夹g(shù)突破即將到來，而是因?yàn)椴块T標(biāo)準(zhǔn)要求每 10 年更新一次指令,。目前,，尚不清楚原始指令有多少需要修改，但霍洛維茨似乎淡化了大規(guī)模的重寫,。

霍洛維茨說：“我們進(jìn)入這個(gè)過程的直覺是,，指令中的基本方法仍然是合理的，該指令為整合自主和武器系統(tǒng)制定了一種非常負(fù)責(zé)任的方法,?！?/span>

“但我們當(dāng)然希望確保該指令仍然反映部門的觀點(diǎn)以及部門應(yīng)該考慮[自主]武器系統(tǒng)的方式，”他繼續(xù)說道,?！澳阒溃呀?jīng)十年了,。完全有可能會(huì)有一些有用的更新和說明,。”

霍洛維茨拒絕詳細(xì)說明他認(rèn)為可能需要改變的地方,，但強(qiáng)調(diào)該文件反映了 2012 年五角大樓的情況,，該文件在奧巴馬、特朗普和拜登政府執(zhí)政期間發(fā)生了變化,。例如,，原始指令中規(guī)定的審查過程提到了負(fù)責(zé)采購、技術(shù)和后勤的副國防部長(zhǎng)——這個(gè)職位已不復(fù)存在，其職責(zé)現(xiàn)在由負(fù)責(zé)采購和維持的國防部副部長(zhǎng),，副部長(zhǎng)還分擔(dān)國防研究與工程,。

他還強(qiáng)調(diào)，該指令將側(cè)重于自主武器的特定主題,，而不是整個(gè)部門存在的更廣泛的人工智能工作,。

“當(dāng)該指令于 2012 年發(fā)布時(shí)，算法的方式,、算法如何影響軍隊(duì)的概念似乎非常具有未來感,，或者似乎更遙遠(yuǎn)。自主武器系統(tǒng)是該部門選擇編寫指令的特定事物,，”他繼續(xù)說道,。“我認(rèn)為重要的是該部門考慮應(yīng)該如何影響該指令......鑒于人工智能和自主系統(tǒng)之間的交叉點(diǎn),，我故意說自主系統(tǒng)而不是自主武器系統(tǒng),。

“有很多人工智能應(yīng)用可以或已經(jīng)在影響美國軍隊(duì)，并將影響美國軍隊(duì),，你知道,，這與此無關(guān)?！?/span>

雖然霍洛維茨的辦公室——最近才成立——將向過去十年中成立的相對(duì)較新的國防組織尋求意見,，例如首席數(shù)字和人工智能官 (CDAO) 辦公室，其他可能相對(duì)的組織據(jù)本周早些時(shí)候報(bào)道,，國防部指令 3000.09 的修訂——聯(lián)合人工智能中心,、國防數(shù)字服務(wù)和推進(jìn)分析辦公室——將于 6 月 1 日成為 CDAO 辦公室的一部分。

他還希望從各軍種,、聯(lián)合參謀部和其他利益相關(guān)者那里獲得投入——他指出,，現(xiàn)在比十年前要多得多。