編按：通用原子公司的YFQ-42A（近）和安杜里爾公司的YFQ-44A（遠）的CG渲染圖。這兩種戰機似乎都會具有基於AI算力而進行自動化空戰的作戰功能。（美國空軍圖片）

近年來人工智慧結合無人儎臺飛速發展，再加上自主武器逐漸問世，甚至已經具體應用在戰場，實際成為人類遂行戰爭可用戰具；隨之而生開始浮現此等科技產品，學界與政壇人士開始反思，前述科技應用在軍事領域，是否有可能顛覆人類社會針對戰爭衝突行為，為約束過度暴力與殺戮，所設置各項軍事道德、倫理與戰爭人道法規範呢？

人性心理恐懼經常係源自無知，對於無法掌握理解事物，通常都會產生失控之焦慮感；許多知識菁英對於人工智慧、無人儎臺與自主武器如此發展趨勢，自然就會因為無法確切控制其運作軌跡，因此大聲疾呼提出警語，恐懼智能武器搭配人工智慧系統，將來可能失控成為反噬其操作者之威脅源頭。

編按：人類對於無法掌握理解事物所產生的焦慮感，在面對核威懾時最為明顯—尤其是五十至八十年代初期核對抗最激烈的年代；當年中美蘇三國大量地下設施被建造出來以避免國家在核攻擊中被毀，其中尤以俄國現時在阿曼托山山下秘密設施最龐大也最神秘，現時只有假想的通道圖及兩個仍可稍為靠近的山腳礦場設施，整個建築群就在山體正下方的岩層內。這裏只標出複雜的隧道網，沒有標出核心建築群的結構及用途。(圖片來自連結1及連結2)

其實此種恐懼心理早就呈現在1984年美國電影《魔鬼終結者》(The Terminator，港譯：未來戰士)情節中，此片主軸環繞人類與人工智慧所掌控機器間發生戰爭發展，但卻也相當前瞻地表述出，人類社會對於人工智慧發展所潛藏恐懼與憂慮。

隨著資訊技術與晶片科技逐步發展，整個演算速度驚人成長，各項人工智慧產品逐漸問世，除在多個面向顛覆人類生活起居與學習模式外，更重要的是結合無人儎臺與智能武器，在戰場上透過實際戰果，展現出驚人目標偵測、辨識、追蹤與殺傷能力；更讓許多知識菁英感到焦慮，致使國際社會約制智能武器聲浪再起。

 編按：科幻劇或科幻小說中的反烏托邦派很多時都強調AI或自律性機械人可能對人類的危害，但近代最為視像化的似乎非終結者系列莫屬(尤其前兩話)。終結者加上原有美國社會末日恐慌的思潮，讓美國社會對這件事有更深的恐慌(當然，政府根本沒這樣想)……這點甚至連中國都知道，眾擎機器人（EngineAI）的第一種產品竟也叫T800……(圖片來自連結1)

此種焦慮與擔憂在本質上是否為過度反應？確實具有探索與辯論空間。先從主張約制智能武器所認為，許多智能武器在施放部署後，人類就對其幾乎完全喪失控制能力，此等武器運動軌跡、接敵程序以及最終採取攻擊行動殺傷敵手，人類完全無法加以阻斷或是干涉。此種可比照「將在外，君命有所不受」之武器啟動與施放模式，讓力主約制智能武器自主接戰功能者，找到其所認為最有利立論基礎。

但吾人必須理解到，所謂人工智慧其實是多個世紀以來人類追求自動化控制，所逐步發展再結合現代資訊科技能夠處理大量數據資料，配合既定邏輯判斷程式所獲得成果。從抽水馬桶浮球控制補充水位高低，感溫單元控制製冷設備或是空調冷氣維持特定溫度，甚至關門後門所能夠自動彈出鎖扣以便鎖門，人類運用自動化機件歷史已有十餘個世紀，因此人類社會早就存在多種自主控制系統，只是使用者視之為當然，沒有思考過此種自主功能除非加以阻斷，否則完全無法約制與干預。

編按：軍事人工智能現在最有效率的應用，不是直接上前殺敵，而是在戰術指揮層面上作為OODA循環（觀察（Observe）、定向/調整（Orient）、決定（Decide）與行動（Act））的搜索、目標識別、安排打擊及打擊後評估的戰術打擊過程，甚至是AI自動安排的戰術打擊行動。(圖片來自連結)

至於聲稱智能武器施放後無法後續加以掌控與干預，因此必須加以約制觀點，更是曝露抱持此等論調者，對於近代武器早就具備高度自主接戰能力缺乏認識。許多自動追蹤之制導武器，諸如追熱對空導彈與音響感應追蹤魚雷，在施放後都是依據其本身感測器所獲得目標迴跡，自主控制運動態勢並且攻擊目標。

假若再加上能夠辨識目標聲紋之智慧型水雷，或是依據不同目標重量所設定起爆之戰防雷以及人員殺傷雷，在佈放後其實都是屬於自主判斷攻擊武器。運用散撒系統佈放集束彈藥(子母彈)，或是運用自動化車儎機動佈雷系統佈設雷區，在武器施放後，對於後續如何接敵與殺傷目標，施放者亦是完全難以管控與干預。因此就目前各項既有武器系統對比智能武器來說，其實只是程度有所差別，但本質差異確實相當有限。

編按：俄國也推出功能上有點像機器狼的機器蜘蛛，不過這種蜘蛛機械人暫只有一種用途：自主佈雷。(YOUTUBE擷圖)

其實就目前人類社會來說，早就在日常起居多項活動高度仰賴人工智慧所負責管控系統，其中包括鐵路網列車運行、空中交通航路管制以及公路系統各種交通號誌運轉，當然許多人工智慧系統演算結果會透過所謂決策支援系統，將資訊透過銀幕顯示或是在雷達管幕產製特定符號，提醒操作者最佳選項方案，讓表面上看起來還是由操作員在管控系統運作，但實際狀況真是如此嗎？

衡情論理來說，許多透過人工智慧系統演算所得結果，轉化變成可供操作者選擇應對方案，此時操作者若是不接受人工智慧系統所提出選項方案，操作者能否提出獲得更理想結果替代方案呢？其實人類社會能夠不斷擴充許多交通運輸系統運作能量，就是高度仰賴人工智慧系統演算能力與決策支援能力。

編按：當然，就算你抗拒AI控制軍事決策，但有些需要超高速計算才能造到的防禦手段也不能不依靠掛載自動化/AI，例如反無人機自動防禦套件。其在戰場上的可部署性和伴隨性將會更高，甚至可以成為步兵班的「保護傘」。(圖片來自連結)

假若人類因為無法完全理解與掌握整個人工智慧系統演算過程以及實際運作來龍去脈，因此就拒絕接受人工智慧系統，是否算是抱殘守缺食古不化呢？儘管在人類科技發展史上，確實有許多新科技產品曾經產生過副作用，對環境生態產生過災難性衝擊，但若是因此就因噎廢食，寧可因循守舊墨守成規，拒絕接受新科技，其實這是掩耳盜鈴自欺欺人；拿出道德倫理當擋箭牌，更是諱疾忌醫對新科技視而不見鴕鳥心態。

其實針對人工智慧系統因為能夠透過自行學習過程，克服許多原先設定約束條件，展現出許多原始設計者未能預見與想像該系統可能具備能力，確實是讓知識菁英擔憂人工智慧系統有可能失控最主要原因。特別是人工智慧系統展現出許多對抗預備關閉人工智慧系統企圖之自主防禦措施，更讓人工智慧研究者認為，當人工智慧系統進化到某個階段，讓操作者無法將其關閉與停用時，確實就是人工智慧系統呈現失控現象重要節點。

編按：當然，如果AI懂搶奪電力網絡甚至自行發電，那問題就不是非常大那麼簡單了……圖為黑客帝國前傳動畫中，機械人建立的第一個自己的首都及發電設施-01。(網絡圖片)

針對此項擔憂，吾人必須牢記「巧婦難為無米之炊」，因此人工智慧系統亦無法在毫無電源供應前提下繼續運作，所以「AI難唱無電之戲」確實亦是人工智慧系統難以克服之無情現實。至於無人儎臺與自主武器亦是各有其罩門與死穴，若是堅稱人類會對其完全失控，其實仍存在極大辯論空間。