軍事 AI 開始進入「規則戰」：2026 首爾安全對話把 Responsible AI 拉進國防核心

當人工智慧第一次進入軍事新聞時，最容易吸引注意的通常是：

AI 無人機

自主戰車

自動目標辨識

機器人士兵

但到了 2026 年，國際安全討論開始出現另一個更重要的問題。

如果 AI 真的開始參與軍事決策，那誰負責告訴它什麼不能做？

2026 年 9 月 7 日至 9 日舉行的 Seoul Defense Dialogue，首爾安全對話，正好把這個問題帶回國防政策核心。

今年是第 15 屆首爾安全對話，會議在首爾 Grand Lotte Seoul 舉行，主題聚焦於高度動盪的全球安全環境、國際合作以及新的安全威脅。

在會議期間，韓國與肯亞官員進行防務合作會談，而其中被正式點名的議題之一，就是：

Responsible Artificial Intelligence in the Military Domain，軍事領域負責任人工智慧。

這個概念通常縮寫為：

REAIM

它代表的不是某一款 AI 武器，也不是某個單一軍事系統。

它更接近一套國際問題：

當人工智慧進入軍隊之後，國家應該建立什麼規則？

軍事 AI 已經從技術競賽進入治理競賽

過去幾年，各國軍方最關心的問題之一是：

誰的 AI 比較強？

誰可以更快辨識衛星影像？

誰能讓無人機自主飛行？

誰能讓 AI 協助電子戰、Cyber Defense 或 Target Recognition？

但隨著 AI 能力快速增加，問題開始改變。

現在更麻煩的是：

AI 到底可以被允許做到哪一步？

例如一套戰場 AI 系統可以：

偵測可疑車輛 ↓ 分類軍用與民用目標 ↓ 推估威脅程度 ↓ 推薦攻擊優先順序 ↓ 把結果交給指揮官

這看起來仍然是一個「人類做最後決定」的系統。

但如果再往下一步：

AI Detect ↓ AI Identify ↓ AI Track ↓ AI Select Target ↓ AI Authorize Weapon

情況就完全不同。

因此軍事 AI 治理真正需要回答的問題不是：

AI 能不能找到目標？

而是：

AI 找到目標之後，有沒有權力決定下一步？

REAIM 到底是什麼？

REAIM 全名是：

Responsible Artificial Intelligence in the Military Domain

中文可以理解為：

軍事領域負責任人工智慧。

它是一個討論軍事 AI 如何被負責任地開發、部署與治理的國際平台。

參與者並不只有軍方。

還包括：

政府

國防機構

科技公司

學術界

國際組織

民間社會

討論內容則涵蓋：

AI governance

ethical safeguards

international norms

military deployment

human oversight

accountability

換句話說，它不是在討論：

「要不要使用 AI？」

因為軍事 AI 已經正在發展。

真正的問題是：

既然軍方一定會使用 AI，那要怎麼避免它變成無法控制的黑箱決策者？

韓國其實已經把 REAIM 做成長期外交工具

韓國並不是第一次碰軍事 AI 治理。

2024 年，韓國曾與荷蘭、新加坡、英國以及肯亞共同推動在首爾舉行的 REAIM Summit。

而現在，這套機制正在繼續往下一階段移動。

肯亞國防部已經確認，下一屆全球 REAIM 高峰會將在：

2027 年 4 月 7日至8日

於奈洛比舉行。

這也是首次由非洲國家、同時也是 Global South 國家主辦這類軍事 AI 治理會議。

肯亞官方把 REAIM 定義成一個討論：

responsible development

deployment

regulation

standards

safeguards

的重要國際平台。

這件事其實很值得注意。

因為軍事 AI 的規則如果只由美國、中國、歐洲或少數科技強國制定，其他國家很可能只是被動接受。

但把 REAIM 帶到非洲，代表這套治理討論正在試圖變成真正的多邊制度。

為什麼現在一定要談 Responsible AI？

原因很簡單。

AI 正在變得太適合軍隊使用。

現代軍隊每天需要處理大量資料：

衛星影像

無人機畫面

雷達

電子情報

通訊攔截

Cyber logs

戰場感測器

後勤資訊

如果完全依賴人類分析，資料量很快就會超過人的能力。

因此 AI 最自然的用途之一就是：

幫人類從海量軍事資料中找出值得注意的東西。

例如：

Satellite Image ↓ AI Change Detection ↓ 發現新的車輛集結 ↓ 自動比對過去影像 ↓ 標出可能軍事目標 ↓ 交給情報人員確認

這種應用本身不一定有問題。

真正危險的是，AI 從「分析工具」逐漸變成「決策參與者」。

Human-in-the-loop 會成為核心問題

軍事 AI 討論裡非常重要的一個概念是：

Human-in-the-loop

也就是：

人類是否仍然存在於最後決策流程中。

最簡單可以分成三種狀態。

第一種：

Human-in-the-loop

AI 提供建議 ↓ 人類批准 ↓ 系統執行

第二種：

Human-on-the-loop

AI 可以自主行動 ↓ 人類負責監督 ↓ 必要時中止

第三種：

Human-out-of-the-loop

AI 感知 ↓ AI 判斷 ↓ AI 行動

人類不需要即時批准。

越往第三種走，效率通常越高。

但責任問題也會急速變得困難。

如果 AI 打錯人，誰負責？

這可能是整個 Responsible Military AI 最難回答的一題。

假設一套 AI 系統把：

Civilian Vehicle

錯誤分類成：

Military Vehicle

接著系統推薦攻擊。

最後人類操作員只花兩秒看了一眼，就批准武器使用。

事故發生之後，責任到底屬於：

操作員？

指揮官？

軟體工程師？

模型供應商？

資料供應商？

國防承包商？

政府？

還是 AI？

法律上當然不能簡單把責任丟給 AI。

但如果模型本身是一個高度複雜、甚至無法完整解釋決策原因的黑箱，那人類要如何證明：

當時為什麼系統做出那個判斷？

這也是 Responsible AI 不能只停在「AI 要安全」這種口號的原因。

它必須變成具體制度。

例如：

Audit logs

Decision traceability

Human authorization

Model testing

Rules of engagement

Fail-safe mechanism

AI 黑箱放進軍事 C2，問題會更加嚴重

C2 指的是：

Command and Control，指揮與控制。

如果 AI 只是分析衛星影像，出錯通常還有時間重新判讀。

但如果 AI 被整合進 C2 系統：

Sensor ↓ AI Fusion ↓ Threat Assessment ↓ Command Recommendation ↓ Weapon Assignment

決策速度可能變成以秒計算。

這對現代戰爭確實非常有吸引力。

因為在高強度衝突中：

誰先發現

誰先理解

誰先決策

誰先攻擊

往往直接決定結果。

但 AI 同時也可能把錯誤快速放大。

一個錯誤辨識如果只停留在人類報告裡，可能還能被第二個分析員發現。

如果它直接進入自動化 kill chain，錯誤可能在幾秒內完成整個鏈條。

Cyber Warfare 又是另一個難題

AI 與軍事安全的交叉也不只出現在武器系統。

Cyber Warfare 可能反而是 AI 最早大量使用的軍事領域之一。

AI 可以：

掃描漏洞

分析惡意程式

產生 exploit

識別異常流量

自動修補

模擬攻擊路徑

也能自動進行部分網路攻擊。

這讓 AI 出現一個非常麻煩的雙重角色：

AI Defense vs AI Offense

同一套技術可以幫忙阻止攻擊，也可以加速攻擊。

Reuters 近期也報導，美中正在討論可能針對 AI-directed cyberattacks 建立資訊分享與風險控制機制，顯示 AI 網路攻擊已經不只是理論問題，而正在進入國際安全談判。這部分屬於首爾安全對話之外的更廣泛背景，但與 REAIM 面對的治理問題高度相連。

軍事 AI 的另一個麻煩：盟國之間怎麼互通？

假設未來韓國、美國、日本、澳洲進行聯合作戰。

每個國家的 AI 系統可能都有不同規則。

例如：

Country A AI 可以自動追蹤目標

Country B AI 只能提供建議

Country C 所有武器釋放一定要人類批准

Country D 特定防空系統允許高度自主

那麼聯合作戰時會發生什麼？

這就不是單純的技術 interoperability。

而是：

AI Rules Interoperability。

盟國除了要讓通訊系統接得起來，未來甚至需要確認：

彼此的 AI 可以被信任到什麼程度？

哪些資料可以交換？

模型如何驗證？

決策責任怎麼分？

自主武器的交戰規則是否相容？

這也是為什麼軍事 AI 最後一定會變成國際規則問題。

中國人形機器人軍事化，讓治理問題更急迫

這個時間點還有另一件值得放在背景裡觀察的事。

Reuters 最近檢視超過 100 份中國軍事採購、研究、專利與官方文件後發現，中國國防體系正在加速研究 Humanoid Robot 的軍事用途。

潛在任務包括：

Urban Combat

Reconnaissance

Logistics

Hazardous Operations

相關研究甚至討論讓人形機器人成為城市突擊小組的一部分。

這並不是首爾安全對話的直接內容，但它很好地說明為什麼 Responsible Military AI 的討論開始變得緊迫。

因為 AI 軍事系統正在快速從：

Software

走向：

Physical Autonomous System

一旦 AI 有了可以移動、觀察甚至攜帶武器的身體，治理問題就會立刻變得更加實際。

軍事 AI 的競爭，最後可能分成兩條賽道

未來各國在 AI 國防領域可能同時競爭兩件事。

第一條是：

Capability Race

誰的模型更強？

誰的自主系統更快？

誰的感測與情報融合更準？

誰能更快完成 kill chain？

第二條則是：

Governance Race

誰定義安全標準？

誰建立軍事 AI 審核制度？

哪些 AI 系統可以出口？

哪些演算法可以接入武器？

盟國之間採用誰的規則？

後者看起來沒有無人機那麼戲劇化。

但長期可能更加重要。

因為一旦國際軍事 AI 標準形成，武器系統、國防採購、軟體供應商甚至盟國合作都可能跟著那些規則走。

韓國正在搶一個很特殊的位置

韓國目前在軍事 AI 的角色其實很有意思。

它不是美國或中國那種全球 AI 超級強權。

但韓國同時具備：

先進半導體

大型電子產業

國防工業

美韓軍事同盟

高度數位化軍隊

以及積極參與多邊安全治理的外交位置。

因此韓國很適合成為：

Military AI Governance Hub。

也就是不一定單純靠最大模型取得影響力，而是透過 REAIM、首爾安全對話與國際合作參與規則制定。

這和韓國近年積極輸出 K2、K9、FA-50 等國防產品的策略也可以形成另一條長期觀察線。

未來國防出口可能不只是：

坦克

火砲

戰機

而是：

Platform + AI Software + Sensor Fusion + Autonomy + Governance Standard

下一站：2027 奈洛比

下一屆 REAIM 高峰會已確定將於：

2027 年 4 月 7日至8日

在肯亞奈洛比舉行。

這將是 REAIM 首次由非洲國家主辦。

從 The Hague、Seoul 到 Nairobi，軍事 AI 治理正在逐漸從少數科技強國的討論，向更廣泛的國際制度擴張。

這件事值得持續觀察。

因為真正決定未來戰場 AI 長什麼樣子的，可能不只是哪家公司做出更好的模型。

還包括另一個更難回答的問題：

人類願意把多少殺傷、判斷與戰爭決策權交給演算法？

首爾安全對話透露出的訊號很明確。

各國已經開始意識到：

軍事 AI 的競賽不能只比誰跑得快。

現在也開始有人試著決定，這條路到底應該畫哪些護欄。

Tech English 專有名詞

Responsible AI（負責任人工智慧）：強調 AI 在開發與部署時必須具備安全性、可問責性、透明度、人類監督與風險控制等原則。

REAIM, Responsible Artificial Intelligence in the Military Domain（軍事領域負責任人工智慧）：聚焦軍事 AI 治理、國際規範與安全部署的多邊國際倡議與高峰會機制。

Human-in-the-loop（人在決策迴路中）：AI 可以分析或提出建議，但關鍵行動仍必須經過人類批准，常被視為降低自主武器風險的重要治理設計。

Command and Control, C2（指揮與控制）：軍隊用來整合資訊、下達命令與協調作戰的系統。AI 若進入 C2，可能大幅提升決策速度，但也會提高黑箱判斷與錯誤快速擴散的風險。

Kill Chain（殺傷鏈）：從發現目標、識別、追蹤、決策到武器攻擊的一連串流程。AI 可以壓縮這條鏈的時間，但也會引發自主決策與責任歸屬問題。

Interoperability（互通性）：不同國家、軍種或系統之間交換資訊並共同運作的能力。進入 AI 時代後，不只硬體需要互通，模型規則、資料標準與自主決策限制也可能需要彼此相容。