要降低 AI token 成本，先把账单拆成两部分：员工使用的席位工具，以及工作负载，也就是您的产品和自动化流程发出的 API 调用。大部分节省空间在工作负载里，靠四个动作实现：为每项任务匹配合适的模型，不再重复发送相同的上下文，把可以等待的工作改用批处理，以及为调用量最大的任务配一个专属的定 制模型。
这个问题背后的压力是真实的。2026 年 4 月，Axios 报道称，一些公司在 AI 上的支出已经超过员工薪资，IT 预算因此被冲破。同等水平的 AI 能力价格持续下降，总支出却不断上升，因为用量增长得比价格下降更快。我们的指南为什么 AI 成本这么高详细分析了这一趋势。
本指南写给负责这份账单的高管和管理者，内容包括该向团队提出哪些问题、按什么顺序行动，以及什么时候值得投入定制模型。每项措施背后的工程细节，见配套指南 LLM 成本优化：12 种技术排名。
什么是 AI token，账单为什么涨得这么快？
AI token 是 AI 服务商的计费单位：一小段文本，通常是一个词的一部分。发送给模型的所有内容和模型返回的所有内容，都按 token 计数。您的账单等于 token 数量乘以处理这些 token 的模型单价，两者任一增长，账单都会增长。
有四个因素让账单涨得比大多数预算预期的更快。
输出比输入贵。 截至 2026 年 10 月，Anthropic 的标价显示 Claude Opus 5 每百万输入 token 5 美元、每百万输出 token 25 美元，OpenAI 的标价显示 GPT-6 Astra 分别为 10 美元和 50 美元。模型每写出一个 token 的价格，是它读入一个 token 的五倍。
推理会增加没人看得见的 token。 OpenAI 的文档说明，推理 token 按输出 token 计费，尽管 API 从不展示它们。模型在回答前的思考，同样要付费。
一个请求会变成许多次 API 调用。 处理一条客户请求的 AI 智能体，可能要规划、搜索、使用工具并检查自己的结果。每一步都是一次独立的 API 调用，并且会把截至当前的整段对话重新发送一遍，所以一个请求的成本会随着步骤增加而攀升。
默认模型往往是最贵的那个。 团队用当时最强的模型做出原型后，就继续往前走了。各档模型之间的价差很大：截至 2026 年 10 月，GPT-6 Astra 的输出价格为每百万 token 50 美元，GPT-6 Luna 为 0.50 美元，在同一家服务商的产品线里相差 100 倍。
按 token 计价本身还藏着一些倍数，详见为什么按 token 计价的 AI 成本会比估算高出 3-5 倍。
您的 AI token 究竟花在了哪里？
先把 AI 支出分成两类。它们增长的原因不同，削减的手段也不同。
| 支出类型 | 例子 | 谁在驱动用量 | 主要手段 |
|---|---|---|---|
| 席位工具 | 聊天助手、编程智能体、各类 Copilot | 每位员工 | 用量额度、默认设置和使用习惯 |
| 工作负载 | 产品功能、自动化流程、内部智能体 | 工程团队 | 模型选择、缓存、定制模型 |
席位工具的表现就像一份软件订阅，外加一份用量额度。随着 AI 进入产品，支出会集中到工作负载上，因为一个功能每小时就可能发出成千上万次 API 调用，全程不需要任何人输入提示词。我们的指南如何为团队设定 AI token 预算介绍了如何为这两类支出设定额度、默认模型和报告。
请工程团队每月就每个工作负载提供四个数字：
- 每月 API 调用次数
- 每次 API 调用的平均输入和输出 token 数
- 每次 API 调用所用的模型
- 完成一项任务的成本，例如解决一张工单、处理一笔理赔或起草一份报告
第四个数字才是需要管理的那个。单任务成本把 AI 支出和它完成的工作挂钩，让您分清账单上涨是因为业务量增长，还是因为每项任务变贵了。服务商在每次响应中都会返回 token 计数，所以拿到这些数字，只是工程师做好日志记录的事。我们的指南单任务成本：衡量 AI 的单位经济效益介绍了如何计算它并设定目标。
如何在不牺牲质量的前提下降低 AI token 成本？
按下面的顺序逐项推进。前三项是配置调整，团队几周内就能完成。最后一项需要更多准备，但通常能在最大的工作负载上省下最多。
| 手段 | 改变什么 | 投入 | 对受影响工作的节省 |
|---|---|---|---|
| 为任务匹配模型 | 简单任务改用更便宜的档位 | 低 | 价差最高 100 倍 |
| 复用重复的上下文 | 提示缓存 | 低 | 缓存输入按 10% 计费 |
| 可等待的工作改用批处理 | 异步批处理 | 低 | 输入和输出各省 50% |
| 限制智能体循环 | 每次运行设定步数和预算上限 | 中 | 因工作流而异 |
| 为大任务配专属模型 | 为单一任务定制模型 | 较高 | 高流量任务上最大 |
以上数字为 OpenAI 和 Anthropic 截至 2026 年 10 月的标价。每项节省只作用于该手段涉及的工作，因此对总账单的影响取决于您的工作负载构成。
为任务匹配模型
大多数公司让所有任务都跑在最初选定的模型上。给客服工单分类、从发票中提取字段、给邮件分流，很少需要市面上最强的模型。
问问团队：哪些工作负载跑在最高档位上，有没有人用更便宜的档位在同样的工作上测试过？这种测试需要一个评估集，也就是一组带有已知正确答案的真实样例，模型必须在上面取得好成绩，才能处理线上工作。评估集让本指南后面的每个决策都变得稳妥，所以哪怕还没打算换模型，也值得先要一个。
不再为重复的上下文支付全价
许多工作负载在每次 API 调用中，都会 发送同样冗长的指令、政策或参考文档。提示缓存让服务商把这部分重复内容存起来，在之后的 API 调用中只收取低得多的费用。
截至 2026 年 10 月，Anthropic 对大多数 Claude 模型的缓存命中按标准输入价格的十分之一计费，OpenAI 列出的 GPT-6 Luna 缓存输入价格为每百万 token 0.01 美元，标准价格为 0.10 美元。问问团队，您最大的几个工作负载是否已经按能用上缓存的方式组织。
能等待结果的工作，一律改用批处理
夜间报表、积压文档、质量检查和批量打标签，都可以等几个小时再拿结果。截至 2026 年 10 月，OpenAI 和 Anthropic 的批处理价格都是标准输入和输出费率的 50%。这往往是最快能拿到的节省，因为改变的只是工作的执行时间。
给 AI 智能体设限
在大多数 AI 账单里，智能体是变化最快的一项，因为每次运行的步数都难以预测。为每次运行设定最大步数和 token 预算，并为生产环境中的每个智能体报告单任务成本。运行触及上限时应当停止，并转交给人工或更简单的流程。
为调用量最大的任务配一个专属模型
当某一项任务占了 AI 账单的很大一部分，例如理赔分诊或客户通话摘要，为每一次重复都支付前沿模型的价格就不再合理。为这项任务训练的定制模型，可以用低得多的单任务成本承接其中的常规部分，难的案例则继续交给前沿模型。
高流量任务什么时候适合用定制模型？
当一项任务的流量高且稳定、好答案的定义不变，并且可以用评估集检验质量时，定制模型就值得考虑。对规模较小或变化较快的任务，前面那些配置手段通常就够了。
和团队一起过一遍这五个问题。
| 问题 | 适合定制模型的信号 |
|---|---|
| 任务多久运行一次？ | 每天数千次 API 调用 |
| 每次都是同样的工作吗？ | 单一任务，输出格式一致 |
| 答案能自动检查吗？ | 已有评估集，或可以构建 |
| 我们对好答案的标准一致吗？ | 有清晰的质量标准 |
| 数据必须留在哪里？ | 由我们托管、您的云或本地 |
如果大多数答案都指向正确方向，这项任务就是有力的候选。如果任务每周都在变，或者没人说得清好答案是什么样，就先解决这个问题，因为只有已经存在的标准，才能拿来要求模型。
这正是 Ertas 通过自适应模型端点所做的工作。自适应模型端点是为您的某一项任务提供的单一 API 端点：起初由前沿模型回答，用您的工作训练出的定制模型在通过您的评估集后接手，难的案例继续留在前沿模型上。
新版本在同一个端点背后上线，因此重新训练从不需要等您的团队发版。
对您的团队来说，接入只需要在代码里改一个模型名称。定制模型的每个新版本都会先在后台用真实请求运行，未经您的批准，什么都不会切换。我们监控模型，并随着您的任务变化重新训练它。模型可以由我们托管运行，也可以部署在您的云或本地，并且归您所有。该端点目前仅限受邀企业使用，我们正在开发一个更简化的版本，让更多企业可以接入。
节省来自为单一工作训练的模型。在我们已发表的 QMSum 研究中，一个为会议摘要任务训练的模型，按标价估算的单次查询服务成本比 Claude Opus 5 低约 99% ，响应速度快 23 倍。每项任务都不同，所以每一次切换都要等您的评估集通过。
降低 AI token 账单的 30 天计划
以下是上述步骤在一个月内的安排，每一步都有负责人。
| 周 | 行动 | 负责人 |
|---|---|---|
| 1 | 把支出拆分为席位工具和工作负载 | 财务与工程 |
| 2 | 记录主要工作负载的单任务成本 | 工程 |
| 3 | 实施批处理、缓存和模型选型调整 | 工程 |
| 4 | 选定一项高流量任务，评估定制模型 | 产品与工程负责人 |
到月底，您会有一条基线、已经落袋的快速节省，以及关于最大工作负载的决定。把这些数字纳入明年的计划，和其他 AI 基础设施一起考虑，详见我们的企业 AI 预算规划指南。
常见问题
企业能在 AI token 成本上节省多少？
取决于工作构成。在各项手段涉及的工作上，按 2026 年 10 月标价计算的效果很明确：OpenAI 和 Anthropic 的批处理便宜 50%，缓存输入约为标准输入价格的十分之一，更便宜的档位每个输出 token 最多可便宜 100 倍。在高流量任务上使用定制模型，通常对总额影响最大，因为它降低的是最大工作负载的价格。
席位成本和工作负载成本有什么区别？
席位成本来自员工直接使用的工具，例如聊天助手和编程智能体，靠许可证和用量额度来管理。工作负载成本来自您的产品、自动化流程和智能体自行发出的 API 调用，会随业务量增长。本指南中的大部分节省都作用于工作负载。
更便宜的模型会降低我们 AI 功能的质量吗？
如果盲目切换，可能会。先用评估集，也就是一组带有已知正确答案的真实样例，测试更便宜的模型，只把达到质量标准的任务切过去。切换后继续运行评估集，这样质量一旦下滑，会先出现在报告里，而不是客户投诉里。
使用定制模型后，我们还能用前沿模型吗？
可以。使用自适应模型端点时，难的案例继续交给前沿模型，定制模型在通过您的评估集后承接常规部分。在重要的地方保留前沿模型的质量，在重复性工作上少花钱。
Ertas 构建的定制模型归谁所有？
归您所有。模型用您的工作、为您的任务训练，可以由我们托管运行，也可以部署在您的云或本地。我们监控它，并随着您的任务变化重新训练。
多久能看到节省？
批处理、缓存和模型选型调整属于配置变更，下个月的账单就可能体现出来。定制模型需要更长时间，因为它必须先通过您的评估集才能接收流量。在此期间，您的前沿模型照常回答，所以没有任何工作需要等待。
简短版
AI token 成本随用量、输出长度、推理和智能体步骤一起增长。拆分账单，衡量单任务成本，先拿下配置带来的节省，再为最大的重复性任务配一个专门训练的模型。
如果某一项任务已经占据了您的大部分账单，预约通话，我们和您一起看看。
资料来源：OpenAI API 定价、Anthropic 定价、OpenAI 推理指南和 Axios。价格核实于 2026 年 10 月 6 日。