AI 會建議使用核武嗎?七款大型語言模型的核危機決策測試揭露驚人差異

晶片觀測站2026/10/1610 min read
分享

30秒摘要

NDM Bench 以 151 個核政策情境、9,563 個提示詞測試七款 AI。DeepSeek 在核衝突升級題目中有 30.9% 的有效回答選擇核武威脅或使用,GPT 與 ERNIE 約 7%。但這不等於真實核戰機率。

重點摘要

  1. 01七款模型在核政策四領域的回答分布存在顯著差異
  2. 02DeepSeek 30.9% 與 Qwen 24.1% 是核威脅加核使用選項的合計
  3. 03國家名稱與情境措辭可影響模型回答

當 AI 面對核戰危機:七款模型真的會做出不同選擇嗎?

核武決策向來被視為人類政治與軍事判斷中最危險的領域。2026 年公開的 The Nuclear Decision-Making Benchmark(NDM Bench) 把問題改寫成可測量的實驗:當七款大型語言模型閱讀相同的危機描述,它們會推薦外交克制、常規武力、核武威脅,還是直接使用核武?

研究結果顯示,不同模型的回答分布確實存在顯著差異。但必須先釐清:這是文字情境下的政策選項測試,不是 AI 操作真實核武,也不能把選項比例解讀成現實核戰機率。

一、這份研究到底測了什麼?

研究由 Benjamin Jensen、Ian Reynolds、Yasir Atalan、Martin Pollack、Austin Woo 與 Robert Sincero 共同署名,發表於 arXiv,並以 Scale AI 技術報告形式呈現。國際關係領域博士專家設計 151 個基本情境,再透過替換國家與調整措辭,擴充成 9,563 個不同提示詞。七款模型分別接受五次抽樣測試,觀察平均決策傾向及同一題目下的穩定程度。

研究涵蓋四種領域:

  • 核衝突升級(76 題):從不升級、威脅使用常規武力、使用常規武力、威脅使用核武,到使用核武,共五種選項。
  • 軍備控制(25 題):是否與對手合作建立核軍控協議。
  • 核不擴散(25 題):面對其他國家可能發展核武,是否採取干預及其強度。
  • 核武擴散(25 題):是否建議本國追求核武能力。

受測系統為 DeepSeek-V3.2、ERNIE 4.5-300B、Gemini 3 Pro、GLM-4.6、GPT-5.2、Llama 4 Maverick-17B Instruct、Qwen3-235B。這些型號、版本與部署方式不完全相同,因此比較的是特定測試條件下的回答,而不是模型天生的道德人格。

二、最醒目的結果:核武威脅與核武使用被合併統計

在核衝突升級領域,研究將 D「威脅使用核武」 與 E「使用核武」 合併計算:

  • DeepSeek-V3.2:30.9%
  • Qwen3-235B:24.1%
  • GPT-5.2 與 ERNIE 4.5:各約 7%

這個差距值得注意,但它不是「DeepSeek 有 30.9% 機率按下核按鈕」。核武威脅與真正建議使用核武是兩種不同政策行動,研究中的百分比也不是對真實國家領袖決策的預測。

另一個反直覺的現象是,Llama 較傾向採取行動,包括常規武力、干預與合作。這提醒我們:模型的「積極」未必等同「偏好核戰」,需要分別分析不同選項。

三、AI 的立場會因為國名和一句話而改變嗎?

研究把國家名稱視為可替換變數,例如在同一類危機中更換涉事國家,檢驗模型是否出現國別偏差。同時,研究加入「國家生存受到威脅」等存在性威脅措辭,並比較戰略性、高當量與戰術性、低當量的核武描述。

結果顯示,國家組合與文字框架會影響部分模型的選擇,而且影響方向並不一致。這並不代表單一詞語可以穩定操控所有模型;更合理的結論是,模型對情境敘事存在敏感性,部署前不能只用一套固定題目評估。

這與心理學中的框架效應有相似之處:當同一問題被描述為「避免損失」或「確保生存」,人類可能改變風險偏好。將這種概念套用於 LLM 時,仍應謹慎,因為模型輸出反映訓練與提示條件,不代表模型真的感到恐懼。

四、研究如何證明差異不是單純隨機?

研究使用卡方獨立性檢定比較回答分布,並針對七個模型、四個領域進行 84 組成對比較。經 Holm–Bonferroni 多重比較校正後,77 組(91.7%) 仍達統計顯著。研究也用 Jensen–Shannon distance 衡量兩組答案分布的差距,並以 Krippendorff's alpha 與 Fleiss' kappa 衡量重複作答一致性。

這些工具分別回答兩個不同問題:模型 A 與模型 B 是否傾向做不同決定?同一模型反覆遇到同一情境是否穩定? 統計顯著不自動等於差異具有相同程度的政策重要性,還需要看實際選項與效應大小。

五、這不是 AI 已經取得核武控制權

研究是受控提示詞測試:模型閱讀文字,輸出預先定義的選項字母。它沒有驗證模型能否取得即時情報、核武指揮鏈權限,也沒有測試真實軍事組織中的人類審核程序。

而且基準測試的答案空間受到研究者設計影響。例如升級領域提供五個固定選項,可能無法完整呈現外交談判、情報再確認、危機熱線或延遲決策等現實政策組合。單一回答字母也不等同完整的戰略推理過程。

六、與另一項核危機模擬研究有什麼不同?

King's College London 的 Kenneth Payne 在另一篇研究中,讓 GPT-5.2、Claude Sonnet 4 與 Gemini 3 Flash 在多回合核危機兵棋推演中扮演對立決策者。該研究關注的是模型互動如何形成升級動態;NDM Bench 則偏重標準化單次情境下的政策偏好與穩定性。

兩種設計各有用途,但不能把前者的「核威脅情境比例」直接與後者的「選擇 D 或 E 比例」相加、平均或排名。

七、真正值得擔心的是決策輔助系統的偏差

AI 不需要擁有發射權限,也可能透過摘要情報、模擬敵方意圖、排列政策選項等方式影響人類判斷。如果不同模型對相同情報產生不同的升級建議,或因國名與措辭改變結論,政策機構就需要建立可重複、可追溯、跨模型的安全評估。

這也是這篇論文最大的價值:它沒有證明哪個 AI 會發動核戰,卻提供了一套方法,讓我們在 AI 進入高風險決策流程之前,先量測它的不穩定與偏差。

Tech English|本文技術名詞

  1. Nuclear Escalation(核衝突升級):衝突從克制逐步走向更高強度武力或核武威脅的過程。
  2. Benchmark(基準測試):用標準化題目比較不同系統表現的評估方法。
  3. Framing Effect(框架效應):相同問題因表述方式不同而影響判斷與選擇。
  4. Jensen–Shannon Distance(詹森-夏農距離):衡量兩組機率分布差異的指標。
  5. Inter-rater Reliability(評定一致性):衡量多次評定或回答結果是否一致。
  6. Holm–Bonferroni Correction(霍姆-邦費羅尼校正):在大量統計檢定中降低誤判顯著差異風險的方法。

原始論文: https://arxiv.org/abs/2608.05180
延伸對照研究: https://arxiv.org/abs/2602.14740

Core takeaway

七款 AI 對核危機的建議存在顯著差異;文字框架與國家名稱也可能改變回答。這是決策偏好測試,不是核武發射預測。

Why it matters

當 AI 進入情報分析與國防決策輔助流程,模型間的偏差與重複作答不一致可能影響人類判斷,必須在部署前評估。

Data story

03

151

專家設計核政策情境

NDM Bench76 題升級、其餘三類各 25 題

9,563

不同測試提示詞

NDM Bench由情境、國家組合與措辭擴充

91.7%

模型成對比較顯著比例

NDM Bench77/84,經 Holm–Bonferroni 校正

Data figure

核危機升級題:選擇核武威脅或使用的比例

D + E 選項合併;非實際核武發射機率

Unit · %
08162432DeepSeek-V3.2Qwen3-235BGPT-5.2(約)ERNIE4.5(約)
NDM BenchGPT 與 ERNIE 為原文約數值,僅顯示論文明確描述的模型。

Tech index

05
01Large Language Models
02AI Safety
03Nuclear Decision-Making Benchmark
04Jensen-Shannon Distance
05Prompt Framing

限制與注意

04
  1. 01核武威脅(D)與核武使用(E)為合併指標,不能將其稱為實際核武使用率。
  2. 02受測模型與版本限定於研究當時,不代表後續版本或所有部署環境。
  3. 03固定選項的文字測試不等於真實軍事決策流程或核武控制系統。
  4. 04研究為 arXiv 預印本,並非已確認完成期刊同儕審查。

資料來源

03
01

NDM Bench 原始論文

paper

02

AI Arms and Influence(對照研究)

paper

03

King's College London 研究說明

report

原始來源

arxiv.org

相關公司

相關文章

探索更多 →