Back to blog
    openaidepartment-of-defenseai-governancevendor-riskenterprise-ai

    OpenAI、五角大廈,以及對沒有參與決策的企業 AI 採購商意味著什麼

    2025 年 7 月,四家前沿實驗室全都簽下五角大廈合同。到 2026 年 3 月,其中一家因拒絕放寬條款而遭列入黑名單。這對企業 AI 採購商揭示了哪些供應商風險。

    Edward Xi Yang

    2025 年 7 月,五角大廈的首席數位與人工智慧辦公室分別授予 Anthropic、Google、OpenAI 和 xAI 每家最高 2 億美元的合同。企業可能建構於其上的每一家前沿實驗室,都在同一週成為國防承包商。

    真正值得研究的部分發生在之後,教訓也比「挑一家倫理更好的供應商」更尖銳:供應商的營運條款由別人談判決定,會在您完成建構之後改變,而結果可能是產品被移除。

    實際發生了什麼

    國防部現在是每一家主要模型供應商的客戶,與在同一批模型上構建產品的企業和開發者並列。

    Anthropic 的合同帶有自家的可接受使用政策:不得用於對美國民眾的大規模國內監控,也不得用於在沒有人類介入下自行選定並攻擊目標的全自主武器。2026 年 2 月,五角大廈著手重新談判該條款,要讓 Claude 能不受限制地用於「一切合法目的」。Anthropic 拒絕放寬。2 月 27 日,聯邦機構獲指示停止使用其產品;3 月 5 日,五角大廈將該公司列為國家安全供應鏈風險,這個標籤通常只用於外國對手,從未套用在美國企業身上。Anthropic 提起訴訟,3 月 26 日取得初步禁制令,4 月又在哥倫比亞特區巡迴上訴法院輸掉緊急動議。截至 2026 年 8 月,取消仍在推進,Claude 正依 180 天的時程從國防部系統中移除。

    在 Claude 上運行的企業從未參與這一切,也不是談判的當事方,卻拿到一份由別人訂下的移除時程。這一切都與模型本身有多好無關。

    這很重要,因為 AI 模型不像傳統軟體產品那樣供應商的其他客戶與您的部署無關。模型就是產品,而模型深受訓練它的人、使用的資料、採用的反饋,以及追求的目標所塑造。同時為企業商業使用案例和國防部使用案例服務的模型正在為兩者進行優化。這些優化目標並不相同。

    Anthropic 拒絕刪除的那項條款,指向底下的張力:在致命決策背景下的某些 AI 自主程度,風險計算會發生變化。對國防應用來說「安全」的 AI 輸出與對企業商業應用來說安全的輸出不同。這兩個要求在不同的方向上拉動模型。

    對企業採購商的三個具體影響

    這不是抽象的。供應商的國防合同改變您正在使用的產品有具體的特定方式。

    1. 安全過濾將會改變

    大型語言模型的安全調整——受限的內容、允許的內容、觸發拒絕的內容——根據模型預期服務的客戶組合和使用案例進行校準。同時服務消費者和國防承包商的模型將有試圖容納兩者的安全校準。

    出於消費者安全原因受到限制的內容可能對國防批准的客戶變得允許。在商業背景下觸發拒絕的內容可能需要在機密背景下保持可用。這些不是理論上的區別。它們是 AI 公司安全團隊在每次模型發布時導航的工程權衡。

    當客戶組合包括國防時,權衡會發生變化。您的企業部署位於那個不斷變化的格局中。

    2. 訓練資料和 RLHF 反饋循環改變

    來自人類反饋的強化學習是現代大型語言模型向理想行為反覆迭代的方式。提供反饋的人以及他們提供反饋的背景決定了模型學習做什麼。

    當 OpenAI 的 RLHF 過程包括人工評估者在國防相關背景下評估模型輸出——操作規劃、對抗性場景分析、能力評估——模型從那個反饋中學習。這些改進不會與您正在使用的模型隔離。模型就是模型。

    這正是 Anthropic 力保那項條款背後的機制。把使用限制寫進合同,是要從一開始就讓某些情境不進入訓練與反饋迴圈。反過來的一面對您同樣直接:如果您是依賴供應商安全行為的企業客戶,由國防使用案例驅動的模型變化一樣會傳到您的部署,而您手上沒有屬於自己的條款。

    3. 工程和產品優先事項轉向國防要求

    OpenAI 現在有一個具有特定能力要求、採購時間表和合規義務(包括 ITAR、FedRAMP 和分類處理)的主要政府客戶。工程資源跟隨客戶要求。產品路線圖反映收入和戰略優先順序。

    國防部需要的能力——操作系統的結構化輸出、情報分析的多步推理、對抗條件下的可靠性能——可能與您的企業應用需要的功能重疊,也可能不重疊。當它們不重疊時,您的優先順序更低。

    「我們有 BAA」並不涵蓋這一點

    一些企業認為他們與 AI 供應商的資料處理協議或業務夥伴協議解決了這些問題。它沒有。

    BAA 管理您的資料發生了什麼。它不涉及模型發生了什麼。供應商的國防合同引發的問題不是資料治理問題——它們是模型行為問題。沒有任何合同條款解決模型的安全校準是否以影響您的部署的方式改變。沒有任何資料處理協議告訴您來自國防使用案例的 RLHF 反饋是否改變了模型在您領域中處理敏感主題的方式。

    合同層和技術現實在不同的維度上運作。

    先例問題

    這不是主要技術供應商的軍事合同第一次影響商業產品。國防驅動的雲端基礎設施、網路和半導體開發投資反覆重塑了商業技術市場。

    但對於 AI,效果更直接。當 AWS 簽署國防合同時,商業客戶繼續使用相同的計算基礎設施——計算資源不會因為國防客戶也在使用它而有不同的行為。當 AI 供應商簽署國防合同時,模型本身就是改變的東西。模型就是產品,而您在使用同樣的模型。

    「供應商也為國防服務」和「國防使用案例塑造您正在使用的模型」之間的差距是傳統軟體供應商風險和 AI 供應商風險之間的差距。企業採購商需要相應地更新他們的風險框架。

    沒有被討論的歷史背景

    值得承認國防部實際上做什麼。它規劃和執行軍事行動,包括致命行動。AI 系統是否應該參與這些行動——以及在什麼程度的自主性——的問題不是小眾的倫理辯論。這是一個對 AI 模型如何訓練和校準有直接影響的政策問題。

    每一家實驗室都對自家模型可以用在哪裡表明了公開立場,這些立場值得細讀,因為您的部署繼承的正是這些條款。過去一年的教訓是,它們同樣可以被您永遠不會見到的人拿去談判。請把它們當作直接影響您付費使用之產品的供應商風險問題來評估,並假設它們會變動。

    企業採購商現在應該做什麼

    明確評估您的 AI 基礎設施供應商風險。 了解您的供應商做出了什麼戰略決策以及它們對您正在使用的模型的含義。這現在是標準的盡職調查問題,而非邊緣案例。

    在主要供應商公告後對您的特定領域評估集測試模型行為。 如果 OpenAI 發布新的模型版本,運行您的評估集。行為會改變。在更改前記錄基準,以便您能夠偵測漂移。

    評估 API 依賴是否適合您最關鍵的工作負載。 如果您的產品核心功能依賴供應商的模型,您已接受該供應商的戰略決策作為您業務的操作事件。對於任務關鍵型工作負載,這可能是不可接受的。

    考慮對您最高風險應用的模型所有權。 在您的資料上訓練、有您的目標、在您的基礎設施上運行的微調模型不受供應商級別的戰略轉向影響。訓練優先順序是由您的團隊設定的。沒有任何國防合同改變您的模型被訓練來做什麼。

    您的微調模型的行為由您的訓練資料和您的目標決定。沒有任何供應商的新客戶能改變這一點。

    這是 API 依賴和模型所有權之間的結構性差異。當您擁有模型時,您企業的要求是它被優化的唯一要求。查看定價 → — Ertas 微調 SaaS 讓您上傳資料集,在雲端 GPU 上無需代碼進行微調,然後下載您在本地運行的 GGUF。

    對於受監管行業的企業,不僅僅需要微調模型——還需要帶完整稽核軌跡和氣隔操作的本地端資料準備管道——預約 Ertas 探索電話 →

    相關閱讀

    OpenAI/國防部交易是企業採購商需要框架的更廣泛供應商級別戰略變化模式的一個實例。查看完整的供應商風險框架 →

    這個交易提出的根本問題——關於 AI 在重大的、難以逆轉的決策中的適當角色——在我們的高風險 AI 部署指南中直接討論。

    如果您的企業使用 AI 進行受監管功能並且您正在評估基礎設施態勢,企業 AI 的供應商風險指南涵蓋了更廣泛的評估框架。有關 API 依賴在控制方面實際成本的最精確分析,請參見 API 依賴意味著沒有模型控制

    就本文向 AI 提問

    Ship AI that runs on your users' devices.

    Free plan with 30 credits/mo, no card required. Paid plans from $10/mo USD.

    Keep reading