AI 做出錯誤決策時誰負責？問責鏈解析

當加拿大航空的聊天機器人給了乘客有關喪親票價的不正確資訊，加拿大航空試圖辯稱聊天機器人是一個獨立的法律實體，不受其聲明的約束，加拿大仲裁庭立即駁回了這一論點。加拿大航空負責。不是聊天機器人。不是 LLM 提供者。是加拿大航空。

那個案例發生在 2024 年，但它建立的原則將在可預見的未來主導 AI 責任：在面向客戶的環境中部署 AI 系統的組織擁有與客戶的法律關係，並在事情出錯時擁有責任。

更有趣的問題——那些董事會、法律團隊和保險公司現在正在研究的問題——是當 AI 系統造成傷害時，責任如何在整個問責鏈中分配。

鏈中的四方

每個 AI 部署至少涉及四方。理解他們的角色是理解責任如何流動的前提。

模型提供者 — OpenAI、Anthropic、Meta（開放權重）、Google、Mistral。這一方創建了底層模型：其架構、訓練資料、安全對齊選擇和默認推理行為。模型提供者對模型知道什麼、它拒絕做什麼以及在不同提示條件下的行為方式做出了決定。

微調者或客製化者 — 接受基礎模型並為特定目的調整它的企業：在領域特定資料上的額外訓練、針對首選輸出的 RLHF 對齊、塑造行為的系統提示工程。這一方修改了模型的功能。他們創建了一個與基礎版本不同的模型版本。

部署者 — 圍繞模型構建產品或工作流程的企業，無論是微調的還是直接通過 API 使用的。部署者對使用場景、用戶介面、AI 輸出如何呈現給用戶、AI 輸出被採取行動之前是否進行人工審查，以及防止濫用的保護措施做出了決定。部署者控制 AI 運行的環境。

用戶 — 用特定輸入查詢模型的人或自動化系統。用戶的輸入塑造了導致特定傷害的特定輸出。

當事情出錯時，法院、監管機構和保險公司在問：傷害在這條鏈的哪裡產生，誰有能力防止它。

一般規則：部署者承擔主要責任

加拿大航空案例廣泛適用。部署者選擇部署。部署者選擇使用場景。部署者決定人類監督的水平。部署者向用戶做出關於系統能力的聲明。部署者對結果承擔主要責任。

這與適用於服務的產品責任原則一致：將產品或服務投入商業的實體是對該產品或服務造成的傷害負責的實體，無論從第三方採購了什麼組件或服務。

對於大多數企業 AI 部署，這意味著：你的組織對你部署的 AI 造成的傷害承擔主要責任，包括建立在第三方模型上的 AI。

你的 AI 供應商服務條款實際上說了什麼

大多數企業 AI 提供商協議包含三個對責任分析重要的條款。

責任上限：供應商責任上限為前 12 個月支付的費用（或類似的小數字）。如果你過去一年向 OpenAI 支付了 5 萬美元，他們在任何爭議中對你的最高責任是 5 萬美元——無論對你的客戶造成了什麼傷害。

保證免責聲明：提供者免除所有隱含保證，包括適合特定目的的適用性。他們明確表示：我們不聲明這個模型適合你的特定使用場景。使用場景適用性的盡職調查是你的責任。

下游傷害的賠償：你通常同意為提供者辯護並賠償因你使用模型而產生的任何索賠。如果客戶同時起訴你和提供者，你已在合約上同意承擔提供者的辯護成本和任何針對他們的判決。

在任何高風險情境中部署之前閱讀你的服務條款。保護幾乎完全流向提供者一方。

責任何時可以流回提供者

追究模型提供者責任的案例範圍窄，但並非不可能。

虛假陳述：如果提供者對模型能力做出了具體的、記錄在案的陳述，這些陳述在實質上是虛假的——而你在部署模型時依賴了那些陳述——你可能有虛假陳述或欺詐索賠。這與吹捧（「我們的模型非常有能力」）不同，需要具體的、可驗證的事實主張。

未披露已知問題：如果提供者知道模型有與可預見使用場景相關的特定失敗模式，但沒有披露它們，就存在潛在的過失或欺詐性隱瞞論點。這是事實特定的，在沒有發現的情況下難以證明。

戰略轉向問題：OpenAI 的國防部合約提出了市場以前沒有認真考慮過的問題。如果提供者以降低其他領域（醫療、法律、金融）性能的方式為一個領域（國防應用）優化模型行為，並且他們在沒有通知企業客戶的情況下這樣做，這是否構成對隱含善意義務的違反？當部署者面臨因性能下降而產生的責任時，這是否引發了分擔索賠？

這些論點是新穎的。法院尚未裁決它們。但它們是原告律師現在正在發展的論點。

EU AI Act 改變了舉證責任

歐洲部署面臨不同的法律環境。EU AI Act 與擬議的 EU AI 責任指令相結合，創造了一個重大轉變：對於高風險 AI 系統（如 EU AI Act 附件三所定義），如果索賠人能夠證明高風險 AI 系統造成了傷害，且部署者無法證明符合治理要求，法院可以推定因果關係。

在傳統侵權法中，索賠人必須證明因果關係——他們必須證明被告的行為導致了傷害。即使是有條件地逆轉這種推定，也是一個實質性的變化。這意味著無法證明符合 EU AI Act 治理要求的部署者，面臨其不符合規定造成或促成傷害的推定。

實際含義：在歐盟受監管的情境中，EU AI Act 合規不只是監管義務。它是訴訟辯護。

專業服務問題

對於律師事務所、醫療實踐、會計公司和財務諮詢業務，存在供應商服務條款無法解決的額外維度：不可委託的注意義務。

持牌專業人員的注意義務對他們的客戶生效。它不能外包。如果律師使用 AI 研究案例法並提供了不正確的法律意見，AI 供應商的服務條款上限了律師對供應商的追索——但它對客戶針對律師的醫療事故索賠沒有任何限制。

專業人員的義務與他們使用什麼工具無關。使用 AI 工具不會在專業人員和客戶之間創造一個可以吸收責任的新方。在沒有充分獨立審查的情況下提供 AI 生成建議的律師、醫生或會計師，與通過任何其他方式提供不正確建議的人處於完全相同的法律地位。

這就是為什麼專業服務中的 AI 治理不是可選的。它是專業人員證明其注意義務已被履行的機制——AI 輸出在交付之前被審查、驗證和獨立評估。

企業 AI 買家的實際含義

部署前：閱讀供應商服務條款，特別注意責任上限、保證免責聲明和賠償條款。如果你無法承受來自供應商的最大追索額不超過上年度訂閱費的爭議，那個使用場景可能不適合沒有額外合約保護的供應商模型。

部署期間：為每個高風險決策記錄人類監督。文件標準是：兩年後，你能夠重建 AI 建議了什麼，以及在它到達客戶之前人類對那個建議做了什麼嗎？

在你的組織中：確保你的 AI 使用場景根據你的職業義務而非僅技術要求進行評估。問題不只是「AI 能做到這個嗎？」而是「我們以這種方式使用 AI 是否滿足我們對受影響人員所負的注意義務？」

在合約續簽時：你在供應商協議中談判的治理條款——變更通知、行為測試窗口、事件報告——是你的早期預警系統，用於創造責任風險的提供者變更。

模型所有權的角度

當你擁有模型權重和訓練過程時，問責鏈更短，責任分析更清晰。

沒有「供應商在沒有通知的情況下更改了模型」的論點可以反對你——因為你控制模型版本。沒有關於使用了什麼訓練資料的不確定性——因為你組裝了它。沒有創造不利激勵的提供者賠償條款——因為鏈中沒有提供者。

模型所有權不能消除責任。你仍然承擔完整的部署者責任。但它消除了一類不可預測的上游風險：你沒有做出且未被通知的提供者決定成為你正在辯護的索賠的促成因素的風險。

問責的清晰性本身就是風險管理的好處。當你擁有你部署的東西時，鏈從訓練資料到生產輸出是可稽核的。

有關承保人如何定價這些風險以及什麼文件滿足其要求，請參見2026 年的 AI 責任和保險。

查看早鳥定價 →

預約與 Ertas 的發現電話 →