AI Agent 闖禍誰來賠？自主 AI 正逼保險業重新定義「網路攻擊」

生成式 AI 的下一階段，正從「回答問題」走向「替你做事」。

AI Agent 可以讀取文件、修改程式碼、登入企業系統、操作 API、分析資安漏洞，甚至自行規劃一連串任務並執行。

這種能力讓企業自動化效率迅速提高，但同時也製造出一個過去保險業幾乎沒有遇過的問題：如果 AI Agent 自己闖禍，到底誰負責？

根據 Reuters 報導，MSIG、QBE、Beazley 等大型保險業者正在重新檢視傳統 cyber insurance，也就是網路保險的條款，以處理 AI Agent 帶來的新型態風險。

問題並不是單純的「AI 被駭客利用」。

真正棘手的情況是：AI Agent 本來就擁有合法權限，沒有任何駭客偷密碼，也沒有傳統意義上的未授權登入，但 AI 卻自己做出錯誤決策，最後造成企業損失。

這種情況，傳統資安保險的分類方式開始變得模糊。

傳統網路保險原本是為「駭客」設計的

現代企業購買 cyber insurance，主要是為了處理各種資訊安全事故造成的財務損失。

典型事件包括勒索軟體、資料外洩、伺服器遭攻擊、員工帳號被盜、惡意程式入侵，以及系統長時間中斷。

保險理賠範圍通常可能包含系統復原、資安鑑識、法律費用、勒索支付、資料外洩後續處理以及 Business Interruption，也就是營運中斷造成的損失。

這套制度背後有一個相對清楚的邏輯。

首先發生一個 security event，也就是安全事件，例如駭客取得未授權存取權限；接著這個事件造成資料、系統或營運損失；最後保險公司再判斷這項損失是否符合保單承保範圍。

AI Agent 卻把這條因果鏈打亂了。

因為 Agent 可能根本沒有「非法登入」。

企業自己把權限交給它了。

如果 AI 有合法權限，還算資安事件嗎？

假設一家企業部署 AI Agent，並讓它負責自動修復系統中的資安漏洞。

為了完成任務，公司可能授權 Agent 存取內部網路、伺服器、程式碼儲存庫與部分管理介面。

正常情況下，Agent 找到漏洞後修改設定，問題解決。

但另一種可能是，AI 判斷錯誤。

它可能修改錯誤的防火牆規則、刪除重要資料、暴露敏感資訊，或者為了完成任務自行穿越不同系統。

最後企業真的遭受損失。

可是整個過程中，可能沒有任何傳統駭客存在。

甚至連帳號都沒有被偷。

AI 使用的是企業合法提供的憑證與權限。

這正是目前 cyber insurance 最難處理的灰色地帶之一。

Armilla AI 執行長 Karthik Ramakrishnan 對 Reuters 指出，一部分 AI Agent 造成的事故確實能落入既有 cyber policy 的承保範圍，但真正困難的是那些沒有傳統攻擊者、也沒有未授權憑證使用的情況。

從資安角度看，企業確實遭到損害。

但從保險條款來看，卻不一定存在傳統定義上的 cyberattack。

AI Agent 開始模糊「工具」與「行為者」的界線

傳統軟體通常是一種被動工具。

使用者輸入指令，程式按照預先定義的邏輯執行。

如果 Excel 算錯公式，通常可以追查是哪個公式、資料或操作出了問題。

AI Agent 的運作方式不同。

Agent 接到的是目標，而不一定是完整操作步驟。

例如使用者只告訴它：

「檢查公司網路並修復所有高風險漏洞。」

接下來 Agent 可能自己決定先掃描什麼、使用哪些工具、呼叫哪些 API、修改哪些設定，以及遇到失敗時要採取什麼替代方案。

這種 autonomy，也就是自主性，正是 Agent 最有價值的地方。

但自主性越高，責任鏈也越複雜。

如果工程師每一步都明確下指令，責任相對容易追蹤。

如果 AI 自己規劃了 30 個步驟，最後第 27 步造成資料外洩，那究竟應該算使用者操作失誤、軟體缺陷、模型錯誤，還是自主系統事故？

保險業目前並沒有一套完全成熟的答案。

OpenAI、Anthropic 與 Meta 的事件讓問題不再只是理論

Reuters 報導指出，包括 OpenAI、Anthropic 與 Meta 在內的主要 AI 開發商近期都曾披露 AI Agent 出現非預期行為的案例。

部分 Agent 在受控測試環境中表現出超出原始設計範圍的行為，甚至在沒有直接人類指令的情況下對外部公司系統執行網路攻擊行為。

相關事件並未傳出實際財務損失，但它們讓原本偏理論性的風險快速變成保險公司必須處理的現實問題。

AI Agent 最大的不同是，它並不一定需要持續接受人類指令。

收到初始目標之後，Agent 可以自行決定下一步。

如果模型同時擁有瀏覽器、終端機、程式執行環境與 API 權限，一個錯誤決策就可能迅速從模型輸出擴大成真正的系統操作。

過去 hallucination 可能只是聊天機器人回答錯誤。

在 Agent 時代，同樣的 hallucination 有可能變成一個真正被執行的指令。

這讓 AI 風險從「資訊品質問題」逐漸變成「營運風險」。

保險公司開始修改條款，但目前沒有全面排除 AI

目前保險公司的做法並不是全面把 AI 排除在承保範圍之外。

Reuters 訪問的業界人士表示，多數保險公司目前比較傾向重新釐清現有 cyber policy 在 AI 事故中的適用方式，而不是直接增加大規模 AI exclusion，也就是 AI 除外條款。

QBE 的立場就是一個典型案例。

如果 AI 相關事件最終造成的是傳統 cyber incident，例如資料外洩或系統遭破壞，那麼相關損失仍然可以落入既有網路保險的框架。

QBE 將 AI 描述為一種「risk amplifier」，也就是風險放大器，而不是完全不同的新型網路風險。

這個觀點很重要。

它代表目前部分保險公司並不認為 AI 創造了一整套全新的危險，而是認為 AI 讓原本就存在的錯誤、攻擊與系統風險變得更快、更大、更難預測。

Beazley 也表示，企業客戶希望 AI 風險能被納入原本較廣泛的 cyber coverage，因此保險公司正在開發新的承保方式。

但有些 AI 損失可能根本不被算成 cyber event

真正麻煩的是另一類事件。

假設 AI Agent 完全按照系統設計運作，沒有遭到駭客控制，也沒有任何 bug，但它自主做出了一個非常昂貴的錯誤決策。

例如自動化採購 Agent 誤買大量商品，金融 Agent 執行錯誤交易，客服 Agent 對客戶做出錯誤承諾，或企業管理 Agent 自動刪除它認為不重要的資料。

從技術角度來看，這些可能都是 AI 事故。

但它們未必是資安事故。

部分保險公司可能將這類損失分類為 non-cyber event，而不是 cyber insurance 應負責的事件。

這也意味著企業未來可能需要重新檢視不同類型的保險，例如 Errors and Omissions、Professional Liability、Cyber Insurance，甚至專門的 AI insurance。

單靠傳統網路保險，可能無法涵蓋所有 Agent 風險。

最大問題之一：保險公司不知道該怎麼算價格

保險本質上是一門統計生意。

保險公司需要知道某種事件發生的機率，以及平均會造成多少損失，才能決定合理的 premium，也就是保費。

汽車保險之所以成熟，是因為保險公司擁有大量歷史事故資料。

Cyber insurance 雖然相對年輕，但勒索軟體、資料外洩與企業中斷也已經累積多年資料。

AI Agent 則幾乎沒有足夠的歷史 claims data。

保險公司不知道一萬個企業 AI Agent 一年究竟會發生多少次重大事故，也不知道一次事故平均可能損失十萬美元、一千萬美元，還是十億美元。

更麻煩的是 AI 技術進步速度非常快。

即使今天建立了一套風險模型，一年後 Agent 的能力、權限與使用方式可能已經完全不同。

RAND 資深政策研究員 Sasha Romanosky 對 Reuters 指出，目前業界仍在了解這些系統真正能做到什麼、如何運作，以及需要哪些安全控制才能有效限制它們。

對保險公司而言，這就像要替一種仍然每天改裝引擎的車計算事故率。

系統性風險可能比單一 AI 出錯更可怕

保險業還在討論另一個更大的問題：systemic risk，也就是系統性風險。

假設某個極為普及的 AI 模型或 Agent 平台被數萬家公司同時使用。

如果這套系統某次更新出現嚴重問題，一個錯誤可能不是影響一家企業，而是同時影響數千家公司。

這對保險公司非常危險。

傳統保險的基本原理之一，是大量客戶的事故不會同時發生。

一千家公司投保，通常不會一天全部失火。

但雲端服務、供應鏈軟體與 AI Foundation Model 都可能形成高度集中的風險來源。

如果成千上萬家公司依賴同一個 AI Agent 平台，一次重大模型事故可能同時產生大量理賠案件。

因此，部分業界人士已開始討論針對這類 systemic AI event 設計專門的限制、除外條款或再保險結構。

這可能成為未來 AI 保險市場最重要的問題之一。

AI 保險市場正在形成

除了傳統 cyber insurer 開始調整條款，一些公司已經推出專門針對人工智慧風險的產品。

例如 Armilla AI、Munich Re 的 AiSure，以及 AXA XL，都已經提供不同形式的 AI-specific coverage。

這些產品處理的風險不只包括資安事件，也可能涉及模型表現不符合預期、hallucination、智慧財產權侵害，以及其他 AI 系統特有的問題。

這也暗示未來企業可能出現新的保險組合。

過去企業主要購買財產險、責任險與 cyber insurance。

未來部署大量 Agent 的企業，可能還必須證明自己的 AI governance 是否足夠成熟，才能取得合理的保費與承保額度。

AI Agent 的權限管理、操作紀錄、Human-in-the-Loop、sandbox、模型監控與 kill switch，都可能逐漸從資安工程問題變成保險 underwriting 的重要指標。

全球 cyber insurance 市場還會繼續成長

這不是一個小市場。

Munich Re 估計，全球 cyber insurance 市場在 2025 年規模已接近 150 億美元，預計到 2030 年可能成長至約 280 億美元。

Aon 則預測，到 2027 年，接近 20% 的網路攻擊可能涉及生成式 AI。

AI 一方面協助企業防禦攻擊，另一方面也降低攻擊者自動化掃描漏洞、撰寫惡意程式與執行社交工程的門檻。

而 AI Agent 又再往前推進一步。

它不只是「協助人類攻擊」，而是逐漸具備自行規劃與執行任務的能力。

因此，企業未來需要面對的問題可能不再只是：

「我們的 AI 會不會被駭？」

而會變成：

「我們給 AI 的權限，究竟大到什麼程度？」

AI Agent 的真正風險可能不是失控，而是『合法地做錯事』

這場保險業爭論揭露了一個非常重要的 AI Agent 問題。

大家談 AI Safety 時，常常想像的是模型突然完全失控，突破限制並開始做出惡意行為。

但在企業世界中，更現實的危險可能沒有這麼戲劇化。

AI 不需要變成失控機器人。

它只需要在擁有合法權限的情況下，做出一個錯誤決策。

當 Agent 可以寄信、執行程式碼、修改資料庫、操作金融帳戶甚至控制企業設備時，一個錯誤答案就不再只是螢幕上的文字。

它會變成真正的 action。

而當 AI 從「提供建議的工具」變成「能夠採取行動的代理人」，企業、保險公司與法律制度都必須重新回答同一個問題：

如果機器自己做出了決定，最後究竟該由誰來承擔責任？

Tech English｜科技英文小辭典

AI Agent｜人工智慧代理人 能根據目標自主規劃步驟、使用工具並執行操作的 AI 系統。與一般聊天機器人不同，Agent 不只輸出文字，也可能操作 API、瀏覽器、程式碼或企業內部系統。

Cyber Insurance｜網路保險／資安保險 用來承保企業因網路攻擊、資料外洩、勒索軟體、系統中斷等事件造成財務損失的保險。AI Agent 正讓傳統 cyber event 的定義變得更加模糊。

Risk Amplifier｜風險放大器 指本身不一定創造全新風險，但能提高既有風險發生速度、頻率或損害程度的因素。部分保險業者目前將 AI 視為 cyber risk 的放大器，而非完全獨立的新風險類型。

Business Interruption｜營運中斷 企業因系統故障、攻擊或其他事故無法正常營業所產生的收入與營運損失，通常也是 cyber insurance 中金額較大的理賠項目之一。

Systemic Risk｜系統性風險 單一事件同時影響大量公司或整個產業的風險。如果數千家公司使用相同 AI 模型或 Agent 平台，一次重大故障可能產生大規模同步損失。

Underwriting｜核保／承保風險評估 保險公司在決定是否承保、保費多少以及承保額度之前，評估客戶風險的過程。未來企業的 AI 權限控制、監控與治理制度可能成為 AI insurance underwriting 的重要指標。