跳到正文
    Ertas
    Back to blog

    为什么 AI 成本这么高?管理者能做什么

    AI token 的单价一直在降,企业的 AI 账单却越来越高。本文拆解成本上涨的五个原因:更新更贵的模型、更长的上下文、推理 token、智能体的多次 API 调用,以及 AI 在各团队的普及。文中还说明如何按任务判断这笔支出是否值得,以及管理者可以采取哪些措施。数据截至 2026 年 10 月。

    A pale astronomical impression in graphite and copper, with a soft amber penumbra on warm paper.An asymmetric engraved lunar crescent with cool cyan rim-light and a faint amber counter-impression.

    AI 成本之所以高,是因为企业在每项任务上消耗的 token 多了很多,执行的任务也多了很多。请求里带着更多上下文和推理,智能体把一个请求变成多次 API 调用,AI 已普及到每个团队,而大部分工作跑在最新的模型上:这些模型的价格居高不下,变便宜的是旧一代的能力。

    管理者已经在预算上感受到了压力。2026 年 5 月的 Google I/O 大会上,Sundar Pichai 提到,Google 听说许多企业已经花光了全年的 token 预算,而这一年才过去不到一半。一个月前,Axios 报道称,由于一些企业在 AI 上的支出已经超过了员工薪资,IT 预算正被不断突破。

    本文解释账单为什么会增长、如何判断这笔支出是否值得,以及管理者可以怎么做。如果您需要一步步削减账单的方法,请看如何降低企业的 AI token 成本。

    为什么 token 越来越便宜,AI 成本却在上涨?

    任何一个固定能力水平的 AI,价格都下降得很快。2024 年 11 月,a16z 估算,对同等性能的模型而言,成本每年下降约 10 倍:要达到 GPT-3 在 2021 年取得的基准测试分数,当时每百万 token 要 60 美元,三年后只要 0.06 美元。Epoch AI 在 2025 年发现,达到某个固定基准分数的价格每年下降 9 倍到 900 倍不等,具体取决于基准测试和分数。

    账单照样上涨,因为这些数字描述的是原地踏步的价格。您的 AI 账单是三个数字相乘的结果:

    1. 您实际所用模型的每 token 价格。 企业不断换用最新的模型,所以它们买到的能力,很少是正在降价的那部分。
    2. 每项任务的 token 数。 更长的上下文、推理和智能体步骤,让每项任务都变得更大。
    3. 任务的数量。 AI 已经走出试点,进入产品、工作流程和每个团队的日常工具。

    即使能力在变便宜,第一个数字也可能上涨。2026 年 7 月,摩根大通报告称,按彭博衡量每百万 token 实际价格的一项指数计算,LLM 市场的 token 价格自 2025 年 12 月以来上涨了 60% 以上,原因是数据中心算力需求激增。另外两个数字增长得更快。

    柱状图:Google 旗下所有产品每月处理的 token 数,单位为万亿,数据来自 2026 年 5 月的 Google I/O 主题演讲。两年前约 9.7 万亿,一年前约 480 万亿,2026 年 5 月超过 3,200 万亿。
    凡是按去年用量制定的预算,依据的都是一个在十二个月里涨了约七倍的数字。

    Google 的数字同时涵盖消费类和企业类产品,更多反映的是需求的走向,而非某一家企业的账单。同一场演讲也给出了一个企业层面的数字:在过去十二个月里,有超过 375 家 Google Cloud 客户各自处理了超过一万亿 token。

    是什么在推高 AI 成本?

    有五股力量在推高账单,而大多数企业同时受到全部五股力量的影响。每一股力量都会在服务商价目表毫无变化的情况下推高成本,所以在预算审查中很容易被忽略。

    工作跑在最新、最贵的档位上

    团队用当时最强的模型做原型、上线功能,之后很少回头重新选择。每次升级到更新的模型,都让这项工作继续按顶级档位计价,哪怕一个更小的模型如今只需一小部分成本就能通过同样的测试。

    价差很大。截至 2026 年 10 月,Anthropic 的标价显示 Claude Opus 5 的输出为每百万 token 25 美元,Claude Haiku 4.5 为 5 美元;OpenAI 的标价显示 GPT-6 Astra 的输出为 50 美元,GPT-6 Luna 为 0.50 美元。价格暴跌的是去年的前沿能力,而大多数团队买的是今年的。

    每个请求带的上下文更多了

    如今的应用会在每个请求里附上完整的文档、代码、对话历史和检索到的文件。OpenRouter 与 a16z 的一项研究分析了超过 100 万亿个 token,发现平均提示长度大约增长了四倍,从 2024 年初每个请求约 1,500 个 token,增长到 2025 年底的 6,000 多个。同期输出长度也接近翻了三倍,从约 150 个 token 增长到 400 个。

    价目表不会提示这种增长。截至 2026 年 10 月,Anthropic 对其完整的 100 万 token 上下文窗口按标准单价计费,所以一个长四十倍的请求,费用就是四十倍。

    柱状图:按 Claude Opus 5 标价(每百万输入 token 5 美元、每百万输出 token 25 美元)计算 1,000 个平均请求的成本。2024 年初的请求含 1,500 个输入 token 和 150 个输出 token,每千个请求 11.25 美元;2025 年底的请求含 6,000 个输入 token 和 400 个输出 token,每千个请求 40.00 美元。
    这两根柱子之间,价目表上什么都没变,所以只比较单价的审查完全看不到这种增长。

    模型在回答前先思考

    推理模型会先把问题想清楚再作答,而这些思考是要计费的。OpenAI 的文档说明,推理 token 按输出 token 计费,而输出恰恰是账单中昂贵的一侧:截至 2026 年 10 月,Claude Opus 5 的输出价格是输入价格的五倍。

    这一转变来得很快。上述 OpenRouter 研究发现,2025 年初推理模型在该平台上处理的 token 份额微不足道,到当年年底已超过一半;研究还认为,输出长度的增长大部分来自推理。

    智能体把一个请求变成多次 API 调用

    处理单个请求的智能体,会规划、搜索、使用工具并检查自己的工作。每一步都是一次独立的 API 调用,并且带着之前的全部内容,所以一个请求的成本取决于智能体走了多少步。这个步数每次运行都不一样,更多取决于智能体的行为,而不是用户问了什么。

    智能体还会在没人输入的情况下持续运行。一个客服智能体或编程智能体,在整个团队里每小时可能发出数千次 API 调用。我们的智能体 AI 成本优化指南介绍了工程师如何为每次运行设定边界。

    AI 已从试点扩展到每个团队

    正如摩根大通在 2026 年 7 月所说,两年前大家还在问企业到底会不会用 AI。如今,AI 已经进入客服队列、销售工具、文档流程和工程师的编辑器,每一种新用法都会在账单上添一行。

    定价也跟着用量走。摩根大通指出,服务商正在把企业套餐从按席位收费改为随使用量增长的计费方式,因此对许多企业来说,AI 的账单已经像水电费一样按量计算。过去受许可证数量限制的支出,如今随每一项任务增长。

    AI 的成本真的超过员工了吗?

    对一些团队来说,已经是这样。《财富》报道,英伟达应用深度学习副总裁 Bryan Catanzaro 在 2026 年 4 月对 Axios 表示,就他的团队而言,算力成本远远超过员工成本。

    这种对比适合做标题,但它回答的是一个很窄的问题。构建模型的研究团队,算力支出本来就高。对一家正常经营的企业来说,人均 AI 支出衡量的是账单的规模,而管理者需要知道的是每一份支出换来了什么。

    有用的对比要按任务来做:用 AI 解决一张工单、审阅一份合同或起草一份报告要花多少钱,与以前的成本相比如何,对业务又值多少。我们的 AI 单任务成本指南介绍了如何设定并追踪这个数字。

    管理者如何判断 AI 支出是否值得?

    逐项任务地给工作定价。不同类型的工作消耗的 token 差别极大,所以全公司的一个平均数会掩盖钱到底花在了哪里。

    柱状图:按工作类型划分的单项任务大致 token 数,数据来自摩根大通 2026 年 7 月发布的 Wolfe Research 数字。调试代码约 56,000 个 token,提取合同条款约 13,500 个,会议摘要约 9,300 个,KPI 趋势分析约 4,200 个,解析简历约 2,800 个,聊天机器人单次回复约 900 个。
    一个团队从用 AI 起草回复转向用 AI 调试代码,不增加一个用户,token 用量就可能增加六十倍。

    对每一类主要任务,三个数字就能判断这笔支出是否划算。

    数字它告诉您什么
    每项完成任务的成本一个单位的 AI 工作要花多少钱
    每项完成任务的价值节省的时间、带来的收入或避免的风险
    每月完成的任务数两者的差距总体有多大

    如果一项任务每次完成的价值远高于成本,就值得扩大规模,而且在扩大的过程中值得管好它的成本。如果利润很薄或无从得知,就需要先找到更便宜的运行方式,或者更清楚地衡量它的价值,然后再扩大。大多数让财务团队措手不及的账单,正是在这个缺口里增长起来的:用量在上涨,而这些任务的单次成本从来没人测算过。

    面对上涨的 AI 成本,管理者能做什么?

    上面的每个原因都有对应的应对办法,而且都不影响有用的工作继续运行。

    原因管理者的举措从哪里开始
    说不清去向的支出追踪主要工作负载的单任务成本单任务成本
    用量扩散到各团队设定团队 token 预算和默认档位AI token 预算
    默认使用最高档位用评估集测试更便宜的档位降低 token 成本
    上下文和推理使用缓存、精简上下文、限制推理12 种技术
    智能体步骤限制每次运行的步数和 token智能体 AI 成本
    一项任务的量极大为它配一个定制模型见下一节

    其中大多数是团队在一个季度内就能完成的配置和制度调整。最后一项改变的是工作本身的价格,当一项任务占了账单的很大一部分时,它的作用最大。

    定制模型什么时候能改变成本曲线?

    当一项任务每天在前沿模型上运行数千次,每一次重复都要支付前沿模型的价格,而其中大部分请求都是常规请求。为这项任务训练的定制模型,可以用低得多的单任务成本处理常规部分,前沿模型则继续处理难题。最大的工作负载上,单任务成本会下降,也会变得更可预测,因为常规部分由您拥有的模型来处理。

    这正是 Ertas 用自适应模型端点所做的事:为您的一项任务提供一个 API 端点。一开始,所有请求都由前沿模型回答。一个用您的请求和团队反馈训练的定制模型,会在后台用真实流量运行,在通过您的评估集并经您确认后接手。难题仍然交给前沿模型。该端点目前仅限受邀企业使用,我们正在开发一个更简化的版本,让更多企业可以接入。

    随着用量增长,新增的流量落在定制模型上,所以前沿模型的支出只随难题增长。

    您的工程师只需改一个模型名称,就能把这项任务指向该端点。我们会监控模型,并随着您的工作变化重新训练它;每个新版本在承接流量之前,都要通过同样的评估集。模型可以由我们托管运行,也可以部署在您的云或本地,并且归您所有。

    节省来自为单一工作打造的模型。在我们的 QMSum 研究中,一个为会议摘要任务训练的模型,估算的服务成本为每次查询 0.00053 美元,而按同步调用标价计算,Claude Opus 5 为 0.104 美元,GPT-5.6 Luna 为 0.0130 美元;它的响应时间为 0.39 秒,Claude Opus 5 为 9.0 秒。该估算不含训练成本。每项任务都有自己的质量标准,所以每一次切换都要等您的评估集通过。

    常见问题

    为什么 2026 年的 AI 成本这么高?

    企业用的 token 比一年前多得多。请求带着更多上下文,推理模型把思考按输出计费,智能体为每个请求发出多次 API 调用,AI 也已普及到各个团队和产品。其中很多工作跑在顶级模型上,截至 2026 年 10 月,这些模型的输出标价为每百万 token 25 到 50 美元。

    AI token 的价格是在涨还是在降?

    两者都有,取决于您衡量的是什么。据 a16z 和 Epoch AI 的研究,固定能力水平的价格每年下降 10 倍甚至更多。而按摩根大通引用的彭博指数,2025 年 12 月到 2026 年 7 月间,市场每个 token 的实际价格上涨了 60% 以上,原因是算力需求激增。

    AI 真的比人工更贵吗?

    对一些团队来说,是的。一位英伟达研究负责人在 2026 年 4 月对 Axios 表示,他的团队的算力成本远远超过员工成本。对大多数企业来说,更有用的检验是按任务计算:一项完成的任务用 AI 要花多少钱,与以前的成本相比如何,又值多少。

    我们没有增加用户,为什么 AI 账单还在涨?

    因为每个请求、每个人的用量都在增加。更长的提示、推理、智能体步骤和模型升级,都会增加每项任务背后的 token,而这些都不会以新增席位的形式出现。请工程团队提供各工作负载过去六个月的单任务 token 数,看看是哪一项变了。

    AI 成本会自己降下来吗?

    如果 a16z 和 Epoch AI 测得的趋势持续下去,任何固定能力的价格都会继续下降。但只有当有人把工作转移到更便宜的能力上时,账单才会下降,比如更小的档位、缓存的前缀、批处理任务或定制模型。如果放任不管,降价带来的空间往往会被新增用量吃掉。

    定制模型如何降低 AI 成本?

    为单一任务训练的模型只包含这项任务需要的能力,所以每个请求的服务成本要低得多。借助自适应模型端点,它在通过您的评估集后接手一项高流量任务的常规部分,难题则继续交给前沿模型。

    简短版

    AI 账单在 token 降价的同时上涨,是因为企业买的是最新的能力,在每项任务里投入更多 token,每个月执行的任务也更多。衡量单任务成本,设定预算和默认档位,拿下配置层面的节省,然后为调用量最大的任务配一个专门训练的模型。

    如果某一项任务已经占据了您的大部分账单,预约通话,我们和您一起把数字算清楚。


    资料来源:a16z 关于 LLMflation 的分析、Epoch AI 关于推理价格趋势的研究、摩根大通(含 Wolfe Research 的任务数据)、OpenRouter 与 a16z 的 State of AI 研究、Google I/O 2026 主题演讲、《财富》、Axios、Anthropic 定价和 OpenAI 推理指南。价格核实于 2026 年 10 月 6 日。