Back to blog
    openaidepartment-of-defenseai-governancevendor-riskenterprise-ai

    OpenAI、五角大楼,以及对未签约企业 AI 买家的意义

    四家前沿实验室都在 2025 年 7 月签下了五角大楼的合同。到 2026 年 3 月,其中一家因拒绝放宽使用条款而被列入黑名单。这对企业 AI 买家意味着什么样的供应商风险。

    Edward Xi Yang

    2025 年 7 月,五角大楼的首席数字与人工智能办公室向 Anthropic、Google、OpenAI 和 xAI 各授出了最高 2 亿美元的合同。企业可能构建其上的每一家前沿实验室,都在同一周成了国防承包商。

    真正值得研究的部分发生在之后,而它给出的教训比「挑一家伦理更好的供应商」要锋利得多。你的供应商的经营条款由别人来谈判,它们会在你已经把系统建在上面之后被改动,而结果可能是这家供应商被清退出局。

    究竟发生了什么

    美国国防部如今是每一家主流模型提供商的客户,与那些在同一批模型上做产品的企业和开发者并列。

    Anthropic 的那份合同带着它自己的可接受使用政策:不得用于针对美国民众的大规模监控,也不得用于在没有人类介入的情况下自主选择并打击目标的全自主武器。2026 年 2 月,五角大楼提出重新谈判这一条款,要让 Claude 可以「用于一切合法目的」而不受限制。Anthropic 拒绝了。2 月 27 日,联邦机构被要求停止使用它的产品;3 月 5 日,五角大楼把这家公司认定为国家安全供应链风险,这个标签通常只留给境外敌对方,此前从未用在一家美国公司身上。Anthropic 提起诉讼,3 月 26 日拿到初步禁令,随后在 4 月于哥伦比亚特区巡回上诉法院输掉了紧急动议。截至 2026 年 8 月,合同取消仍在推进,Claude 正按 180 天的期限从国防部系统中移除。

    跑在 Claude 上的企业没有为这里的任何一步签过字,不是那场谈判的当事方,却拿到了一张由别人定下的下线时间表。这一切与模型本身好不好毫无关系。

    这件事之所以重要,是因为 AI 模型不同于传统软件产品,供应商的其他客户对你的部署并非无关紧要。模型本身就是产品,而模型深受这些因素塑造:由谁训练、用什么数据、依据什么反馈、朝什么目标优化。一个同时服务商业场景和国防场景的模型,是在为两者同时做优化。而这两套优化目标并不一致。

    Anthropic 拒绝放弃的那条款项,指向的正是底下这层张力:当 AI 在致命决策场景中的自主程度达到某个水平,风险的算法就变了。国防应用眼中「安全」的 AI 输出,与商业应用眼中的安全并不相同。这两种要求会把模型拉向不同方向。

    对企业买家的三项具体影响

    这不是抽象的讨论。供应商的国防合同会以具体的方式改变你正在使用的产品。

    1. 安全过滤会发生变化

    大语言模型上的安全调优,也就是哪些被限制、哪些被允许、什么会触发拒答,是按模型预期服务的客户构成和使用场景来校准的。一个同时服务消费者和国防承包商的模型,其安全校准会试图兼顾两边。

    出于消费者安全考虑而受限的内容,对经过国防审批的客户可能变为可用。在商业场景中会触发拒答的请求,在涉密场景中可能必须保持可用。这些不是理论上的区分,而是 AI 公司的安全团队在每次模型发布时都要权衡的工程取舍。

    当客户构成中出现了国防,取舍就会移动。你的企业部署正处在这片移动的地面上。

    2. 训练数据与 RLHF 反馈回路会发生变化

    基于人类反馈的强化学习,是现代大语言模型被逐步塑造成理想行为的方式。提供反馈的人以及他们所处的场景,决定了模型学会做什么。

    当 OpenAI 的 RLHF 流程中包含了在国防相关场景下评估模型输出的人类评分员,比如作战规划、对抗情景分析、能力评估,模型就会从这些反馈中学习。这些调整并不会与你正在使用的模型隔离开来。模型就是那一个模型。

    这正是 Anthropic 死守那条款项背后的机制。把使用限制写进合同,是想从一开始就把某些场景挡在训练和反馈回路之外。反过来的一面与你直接相关:如果你是一家依赖供应商安全行为的企业客户,那么由国防用例驱动的模型改动同样会传到你的部署里,而你手上没有属于自己的条款。

    3. 工程与产品优先级会向国防需求倾斜

    OpenAI 现在有了一个重量级政府客户,带着特定的能力要求、采购周期和合规义务(包括 ITAR、FedRAMP 和涉密信息处理)。工程资源跟着客户需求走,产品路线图反映的是收入与战略优先级。

    国防部需要的能力,比如面向作战系统的结构化输出、用于情报分析的多跳推理、在对抗条件下的可靠表现,未必与你的企业应用所需的重合。当它们不重合时,你在优先级列表上的位置就靠后了。

    「我们签了 BAA」并不能覆盖这件事

    有些企业以为,自己与 AI 供应商签订的数据处理协议或业务伙伴协议已经覆盖了这些顾虑。并没有。

    BAA 管的是你的数据会怎样,它管不到模型会怎样。供应商的国防合同引出的问题不属于数据治理,而属于模型行为。没有哪一条合同款项能告诉你,模型的安全校准是否以影响你部署的方式发生了偏移。也没有哪一份 DPA 能告诉你,来自国防场景的 RLHF 反馈是否改变了模型在你所处领域处理敏感话题的方式。

    在这里,合同层面和技术现实运行在两个不同的维度上。

    先例的问题

    这不是主流技术供应商的军方合同第一次影响商业产品。国防驱动的投资在云基础设施、网络和半导体研发上,都曾反复重塑商业技术市场。

    但对 AI 来说,这种影响更加直接。当 AWS 承接国防合同时,商业客户继续使用同一套算力基础设施,算力不会因为国防客户也在用而表现得不同。当 AI 供应商承接国防合同时,改变的是模型本身。模型就是产品,而你用的是同一个模型。

    「供应商也服务国防」和「国防场景在塑造你正在使用的模型」之间的这段距离,正是传统软件供应商风险与 AI 供应商风险之间的距离。企业买家需要据此更新自己的风险框架。

    一个没人在谈的历史背景

    值得如实指出国防部究竟在做什么。它规划并执行军事行动,包括致命行动。AI 系统是否应当参与这些行动,以及以何种自主程度参与,并不是一个小众的伦理辩论,而是一个政策问题,直接关系到 AI 模型如何被训练和校准。

    每一家实验室都就自己的模型可以用在哪里公开表过态,这些立场值得逐字读一遍,因为它们就是你的部署所继承的条款。过去一年给出的教训是:这些条款也能被一些你永远不会见到的当事方拿去重新谈判。把它们当作一项直接影响你所购产品的供应商风险来评估,并且默认它们会变。

    企业买家现在该做什么

    把 AI 基础设施的供应商风险明确纳入评估。 弄清楚你的供应商做了哪些战略决定,以及这些决定对你正在使用的模型意味着什么。这如今是一个标准的尽职调查问题,而不是边缘情况。

    在供应商发布重大公告之后,用你自己领域的评估集测试模型行为。 如果 OpenAI 发布了新版本模型,就跑一遍你的评估集。行为会变。在变化发生之前先记录基线,这样你才能察觉漂移。

    评估依赖 API 对你最关键的负载是否合适。 如果你产品的核心功能依赖某家供应商的模型,那么你已经接受了:这家供应商的战略决定会成为你业务上的运营事件。对关键业务负载而言,这可能是不可接受的。

    为风险最高的应用考虑拥有自己的模型。 一个用你的数据、按你的目标训练、跑在你自己基础设施上的微调模型,不会受供应商层面战略转向的影响。训练时的优先级是你的团队定的,任何国防合同都不会改变你的模型被训练来做什么。

    你的微调模型的行为,由你的训练数据和你的目标决定。供应商的新客户改变不了这一点。

    这就是依赖 API 与拥有模型之间的结构性差异。当模型归你所有,它被优化的目标就只有你企业的需求这一项。查看价格 →:Ertas 的微调 SaaS 让你上传数据集,无需写代码即可在云端 GPU 上微调,再下载 GGUF 在本地运行。

    对于受监管行业中需求不止于一个微调模型的企业,也就是需要一条带完整审计链路、可在物理隔离环境中运行的本地数据准备流水线的企业,预约与 Ertas 的沟通 →

    相关阅读

    OpenAI 与国防部的这笔交易,只是供应商层面战略变动这一更大规律中的一例,而企业买家需要一套框架来应对。查看完整的供应商风险框架 →

    这笔交易引出的根本问题,也就是 AI 在后果重大、难以撤回的决策中应当扮演什么角色,在我们关于高风险 AI 部署的指南中有直接讨论。

    如果你的企业把 AI 用于受监管的业务职能,并正在评估自身的基础设施姿态,面向企业 AI 的供应商风险指南覆盖了更完整的评估框架。而要最精确地理解依赖 API 在控制权上究竟让你付出了什么,请看依赖 API 意味着没有模型控制权

    就本文向 AI 提问

    Ship AI that runs on your users' devices.

    Free plan with 30 credits/mo, no card required. Paid plans from $10/mo USD.

    Keep reading