「致命自主武器」之爭–AI控制的無人機群殺手離我們有多遠
文/紐約時報ERIC LIPTON
成群結隊的無人機殺手可能很快就會成為世界各地戰場的標配。這引發了如何或是否對其使用進行監管的討論，並引發了人們對最終將生死決定權交給人工智慧程序這一前景的擔憂。
以下是該技術的發展簡史、正在開發的武器類型，以及相關討論是如何展開的。
這些武器是新生事物嗎？
人工智慧終將使得武器系統可以自行選擇特定類型的目標，並發起打擊。人工智慧技術的最新發展推進了圍繞這種被稱為「致命自主武器」系統的討論。
但在某種程度上，自主武器並非新鮮事物。
在人或物體從地雷上方經過時，它會自動爆炸，這種設計早在19世紀的美國內戰期間就開始使用，據信是由一位名叫加布里埃爾·雷恩斯的南方軍將軍首先發明的，他把地雷稱為「地下炮彈」。
雖然這些武器的首次使用遠早於人們對人工智慧的想像，但它們與今天的辯論存在關聯，因為它們一旦投入使用，就不會受到人為干預，也不會區分預期目標和意外受害者。
五角大廈幾十年前就開始擴充自動化武器。
從20世紀70年代末開始，美國開始擴展這一概念，推出了一種名為「捕獲者反潛地雷」的武器。這種水雷可以從飛機或船隻上投下，放置在海底，直到裝置上的傳感器探測到敵方目標時自動引爆。
從20世紀80年代開始，數十艘海軍艦艇開始使用神盾武器系統，該系統使用高功率雷達系統搜索和跟蹤任何來襲的敵方飛彈。它可以設置為自動模式，這樣在人類介入之前，它就會發射防禦性飛彈。
制導武器系統是接下來的一步。
朝著更複雜的自主武器發展的下一步以「發射後可以不管」的制導武器形式出現，比如AIM-120先進中程空對空飛彈，這種飛彈有一個雷達導引頭，可以在飛彈發射後試圖摧毀敵機時，精確定位飛彈的軌跡。
前五角大廈高級官員、《無人軍隊》(Army of None)一書的作者保羅·沙雷寫道，制導武器在發射後通常無法召回，就像「警察派去追捕嫌疑人的警犬」。它們在完善自身路徑方面有一定程度的自主權，但沙雷將其定義為「有限的自主權」。魚叉反艦飛彈的操作方式與此類似，是有限的自主權。
「遊盪武器系統」可以高度自動化。
在烏克蘭戰爭中，被稱為「遊盪武器系統」的自動化武器頗為醒目。這些設備至少可以追溯到1989年，當時一家以色列軍事承包商推出了一種名為「哈比」(Harpy)的無人機，可以在空中停留大約兩個小時，在數百公里的高空搜索敵人的雷達系統，然後對其進行攻擊。
最近，加州的AeroVironment公司等美國軍事承包商也推出了攜帶爆炸彈頭的類似遊盪武器系統。這種裝置被稱為「彈簧刀600」，它在半空飛行，直到發現坦克或其他目標，然後發射一枚反裝甲彈頭。
在武器擊中目標前仍然需要人類簽字。但是，將人類「排除在外」，使設備完全自主是相對簡單的。
「現在的技術可以讓你對這個設備說，『去給我找一輛俄羅斯T-72坦克，別跟我說話，我要發射你了，去找它吧，』」AeroVironment公司董事長瓦希德·納瓦比說。「如果它有80%以上的把握，認為找到了那輛坦克，它就會把目標幹掉。整個端到端任務都可以是完全自主的，除了一開始的發射。」
釋放無人機群可能是一個更大的轉變。
下一步的方向毫無疑問。
根據今年早些時候發布的一份通告，五角大廈正在努力建造無人機群。
預計最終結果將是一個由數百甚至數千架搭載監視設備或武器的人工智慧增強型自主無人機組成的網路。無人機最有可能部署在中國附近，這樣一旦衝突爆發，它們就可以迅速部署，並用來摧毀或至少削弱中國在其沿海和南中國海的人工島嶼上建立的廣泛的反艦和防空飛彈系統網路。
這只是五角大廈目前正在進行的一系列努力之一，其目標是在未來一兩年部署數千架廉價、自主、有時甚至致命的無人機，它們即使在GPS信號和通信受到干擾時也能繼續運行。
一些軍事承包商，包括主要的人工智慧軍事承包商Palantir科技的高管在內，曾認為完全自主的人工智慧控制的致命攻擊可能還需要數年時間，因為最先進的算法還不夠可靠，因此不能放心讓它來自主做出生死攸關的決定，而且可能在一段時間內都不會。
Palantir的高管考特尼·鮑曼在今年的一次聽證會上對英國議員說，Palantir認為，人工智慧將允許軍方官員通過快速分析傳入的數據，做出更快、更準確的目標決策。
但在聯合國內部，人們普遍擔心新系統的風險。雖然一些武器早就內置了一定程度的自主性，但新一代武器卻有著根本的不同。
「大約十年前，當這個話題開始的時候，它真的有點像科幻小說，」沙雷說。「現在一點也不是了。這項技術非常、非常真實。」
