跳到正文
    Ertas
    Back to blog

    单任务成本:衡量 AI 的单位经济效益

    单任务成本把 AI token 账单变成单位经济指标。本文用一个客服智能体的完整算例,讲清单任务成本怎么算、AI 智能体每月要花多少钱、怎样为每类任务设定目标值和上限、这个数字为什么会逐月波动,以及拥有自己的模型如何让单任务成本更低、也更可预测。

    A pale astronomical impression in graphite and copper, with a soft amber penumbra on warm paper.A flowing heliospheric ribbon in copper and ivory with a soft vermilion flare.

    AI 单任务成本,是完成一件工作(比如解决一张工单、处理一笔理赔)背后的全部模型支出,包括它用到的每一次 API 调用、每一次重试和每一次升级。每月的 AI 成本就等于任务数乘以单任务成本,由此可以看出账单的增长是来自业务扩张还是来自浪费。

    token 数量是工程指标。要判断一项 AI 工作负载是否划算,管理者需要的是这项工作本身的成本,并把它和这项工作目前的成本放在一起比较。FinOps 基金会对生成式 AI 也描述了同样的演进路径:单位经济分析往往从每 token 成本起步,再扩展到以结果为导向的指标,例如每次智能体操作的成本或每个被分流案例的成本。

    本文介绍如何计算单任务成本、AI 智能体每月要花多少钱、如何设定目标值和上限,以及这个数字为什么会变动。关于降低它的手段,请参阅如何降低企业的 AI token 成本,工程视角则见 LLM 成本优化:12 种技术排名。

    什么是 AI 单任务成本?

    AI 单任务成本,是您为某一类工作在模型上花的钱,除以这类工作完成的件数。它位于一组指标的顶端,每个指标各自服务于不同的人。

    指标统计什么用途
    每 token 成本一个单位模型用量的价格比较模型和服务商
    每次 API 调用成本一次请求和响应里的 token排查单个步骤
    单任务成本一件工作背后的全部 API 调用预测月度账单
    单次成功任务的成本总支出除以达标任务数判断 AI 是否划算

    最后一行才是需要管理的指标。单次成功任务的成本计入这项工作消耗的一切:

    • 任务发出的每一次 API 调用,覆盖智能体运行中的每一个步骤
    • 回答失败或格式错误之后的重试
    • 升级到更强、更贵的模型
    • 人工审核输出,或接手 AI 转交过来的任务所花的时间

    把这个总数除以达到质量标准的任务数。失败的运行同样花了钱,这部分成本会摊到成功的任务上。

    怎样计算 AI 单任务成本?

    从一类任务和一个月的流量入手。下面是一个客服智能体的完整算例,每个假设都写明了。

    假设取值
    任务解决一张客户服务工单
    业务量每月 100,000 张工单
    模型Claude Opus 5,每百万 token 输入 5 美元、输出 25 美元
    智能体运行一次5 次 API 调用,输入 40,000 token,输出 2,000 token
    重跑每 5 张工单有 1 张需要再运行一次
    由智能体解决80% 的工单达到质量标准

    价格取自 Anthropic 的标价,截至 2026 年 10 月。输出数量包含思考 token,因为推理模型把思考部分按输出计费,OpenAI 的推理指南对其自家模型就是这样说明的。为了让算式一目了然,这个例子没有计入提示缓存。

    1. 运行一次。 40,000 个输入 token 按每百万 5 美元计是 0.20 美元,2,000 个输出 token 按每百万 25 美元计是 0.05 美元。运行一次花 0.25 美元。
    2. 一张工单。 每五张工单中有一张要运行两次,平均每张工单运行 1.2 次,所以成本是 0.30 美元。
    3. 一张已解决的工单。 当月花费为 100,000 × 0.30 美元 = 30,000 美元。智能体解决了 80,000 张工单,所以每张已解决工单的成本是 30,000 美元 ÷ 80,000 = 0.375 美元。
    柱状图,显示算例中每张客服工单的 API 成本,单位为美元。智能体运行一次花 0.25 美元。按工单计,每五张中有一张运行两次,成本为 0.30 美元。按已解决工单计,80% 的工单得到解决,成本为 0.375 美元。高于 0.25 美元的部分被突出显示,代表按单次运行计算时漏掉的成本。
    只用价目表和 token 估算做出的预测,停在第一根柱子上,所以做预算时应该以最后一根为准。

    每张已解决工单的成本比运行一次高出 50%,差额全部来自重复的或失败的工作。造成这个差距的主要是质量,而价格的影响更小:如果智能体解决的工单从 80% 降到 70%,每张已解决工单的成本会升到约 0.43 美元,而所有 token 的价格都没有变。

    另外 20,000 张工单交给您的客服团队处理,把 AI 方案与现有流程做比较时,这部分成本会重新算进来。

    AI 智能体每月要花多少钱?

    AI 智能体每月的成本,等于每月任务量乘以单任务成本。在这个例子里,按 2026 年 10 月的标价,100,000 张工单每张 0.30 美元,每月的 API 调用费用是 30,000 美元。同一个智能体处理 10,000 张工单,花费是 3,000 美元;处理一百万张,花费是 300,000 美元。任何不附带业务量和单任务成本的月度数字,都漏掉了决定它的两个数。

    把账单拆成这两个数,还能看出它为什么变了。

    示意图,把三张月度 AI 账单画成矩形,宽度代表每月工单数,高度代表每张工单的成本。本月:100,000 张工单,每张 0.30 美元,账单 30,000 美元。工单翻倍:200,000 张,每张 0.30 美元,账单 60,000 美元。单张成本翻倍:100,000 张,每张 0.60 美元,账单同样是 60,000 美元,并被突出显示。
    只看总额,两个 60,000 美元的月份显得同样惊人,于是针对账单的削减可能误伤业务增长。

    要判断这个智能体是否划算,就把它的成本和同一张工单目前的成本放在一起。从您的客服或运营报表中取出当前由人工处理一张工单的全口径成本,记为 H。AI 方案的成本就是:

    Code example
    AI 方案每张工单成本 = 每张工单的 AI 成本
                        + 升级给人工的比例 x H
                        + 每张工单的审核时间

    在这个例子里,就是 0.30 美元 + 0.2 × H,再加上您对已解决工单保留的抽查。只要 0.30 美元加审核时间低于 0.8 × H,并且质量标准相同,AI 方案就更划算。把您自己的 H 代进去,一行算式就能做出决定,这正是按任务衡量的意义所在。我们关于 AI 智能体的人机协同的文章,介绍了这些审核应该放在哪些环节。

    如何设定单任务成本的目标值?

    给每一类生产环境中的任务设定两个数:业务据以做计划的目标值,以及由代码强制执行的上限。

    设定含义负责人
    目标值计划中的单次成功任务成本该任务的业务负责人
    上限单次运行停止前最多能花的钱工程团队,在代码中强制执行
    复盘频率何时对比实际值与目标值财务与任务负责人

    根据当前成本设定目标值。 从上面的比较倒推。如果 AI 方案必须明显低于当前每张工单的成本才值得切换,这个差额就决定了目标值。在这个例子里,把目标定为每张已解决工单 0.40 美元,智能体以 0.375 美元落在目标之内,但余量很小。如果每三张工单就有一张需要再运行一次,而不是每五张一张,每张已解决工单的成本会升到约 0.42 美元,超出目标。

    根据典型运行设定上限。 上限是对每次运行的步骤数和 token 数设定的硬性限制,防止陷入循环的智能体无限制地花钱。典型运行花 0.25 美元时,把每次运行的上限设为 1.00 美元,既给长工单留出空间,也能拦住失控的运行。触及上限的运行应当把工单转给人工。

    单次运行的上限和整个团队的额度相互配合。我们关于为团队设定 AI token 预算的指南讲的是团队层面,企业 AI 预算规划指南则说明这些数字在年度计划中的位置。

    AI 单任务成本为什么会逐月变动?

    单任务成本的变动有四个来源,每一个都需要不同的信号才能发现。

    来源变动的是什么盯住什么
    智能体步骤数的波动每次运行的步骤和重发的历史第 95 百分位的单次运行成本
    模型变更价格、输出长度和成功率评估集得分与单次运行成本
    提示词变更每次 API 调用的 token 数每次发版后的单次运行成本
    价格变动每 token 的标价您所用每个价格的日期

    步骤数波动是智能体最特有的来源。 智能体每走一步都要重发历史,所以长的运行要贵得多,而且贵得不成比例。在这个例子里,假设第一次 API 调用发送 6,000 个 token 的指令和工单内容,每一步增加 1,000 个 token 的历史,每次 API 调用输出 400 个 token。五步共发送 40,000 个输入 token,也就是那次 0.25 美元的运行。十二步的运行要发送 138,000 个输入 token、输出 4,800 个,花费 0.81 美元。步骤数是 2.4 倍,成本却是 3.2 倍。对应的工程解法见我们的 智能体 AI 成本优化指南。

    模型和提示词的变更会同时改变成本和质量。 把例子中的运行换到 Claude Sonnet 5.5 或 GPT-6.1 Sol(截至 2026 年 10 月,两者的标价都是每百万 token 2 美元和 10 美元),一次运行的成本会从 0.25 美元降到 0.10 美元,前提是成功率保持不变,节省才成立。新的模型版本也可能写出更长的回答,或者解决的任务更少,这两种情况都会让单次成功任务的成本上升,哪怕 token 价格更低。每当模型或提示词变更时,都要重新跑评估集,并重新计算单次运行成本。

    按任务类型报告中位数和一个高百分位数。 平均值会掩盖昂贵运行的长尾。每个月,为每一类任务报告:

    1. 完成的任务数和成功率
    2. 单次运行成本的中位数,即典型情况
    3. 第 95 百分位的单次运行成本,即每二十次运行中最贵的那一次
    4. 单次成功任务的成本与其目标值的对比

    中位数告诉您这项工作通常花多少钱。第 95 百分位告诉您上限设得是否合适,而它一旦上升,往往就是情况有变的第一个信号。

    拥有自己的模型,单任务成本会怎样变化?

    对于高流量任务,单任务成本最大的一项变化,来自用为这项任务训练的定制模型来承接它。为单一工作训练的模型只具备这项工作所需的能力,因此每个任务的服务成本更低。

    单任务成本也会变得更可预测。模型什么时候更新由您决定:每个新版本只有在通过您的评估集之后才会上线,所以服务商发布新模型时,定制模型所承接流量的单位成本保持不变。账单仍然随业务量变化,而单位成本的变化按照您批准的节奏发生。

    这正是 Ertas 通过自适应模型端点所做的事。自适应模型端点是为您的某一项任务提供的一个 API 端点:起初由前沿模型作答;一个基于您的请求和团队反馈训练的定制模型,在通过您的评估集之后接手;困难的案例继续交给前沿模型。

    单任务成本的下降出现在您批准某个版本的那一天,因此在月度报告里一眼就能看到。

    每个新版本都会先在后台用真实请求运行,未经您批准不会切换。我们会监控模型,并随着您的任务变化重新训练。它可以由 Ertas 托管运行,或部署在您的云或本地,模型归您所有。该端点目前仅限受邀企业使用,我们正在开发一个更简化的版本,让更多企业可以接入。

    在这个客服例子里,定制模型按标准解决的每一张工单,都按它自己的成本计算,取代 0.30 美元的前沿模型运行;它转交出去的每一张工单,则仍按前沿模型的价格计算。作为量级参考,在我们已发表的 QMSum 研究中,一个为会议摘要任务训练的模型,估算服务成本为每次查询 0.00053 美元,而按同步调用标价,Claude Opus 5 为 0.104 美元,GPT-5.6 Luna 为 0.0130 美元;它的响应时间为 0.39 秒,Claude Opus 5 为 9.0 秒。该估算不含训练成本。每项任务各不相同,所以每一次切换都要等您的评估集通过。关于您自己任务的盈亏平衡算法,请参阅定制模型何时比前沿 API 更省钱。

    常见问题

    AI 单任务成本的计算公式是什么?

    把某一类任务一个月内每次 API 调用的成本加总,包括重试和升级,再除以完成的任务数。计算单次成功任务的成本时,改为除以达到质量标准的任务数,并加上这项工作仍然需要的人工审核时间。

    一个 AI 智能体每月需要多少预算?

    月度成本等于每月任务数乘以单任务成本。在我们的算例中,按 2026 年 10 月的标价使用 Claude Opus 5 的客服智能体,每张工单花 0.30 美元,所以每月 100,000 张工单的 API 调用费用是 30,000 美元。您的数字取决于业务量、模型、每次运行的步骤数以及运行被重复的频率。

    每 token 成本和单任务成本有什么区别?

    每 token 成本是模型用量的价格,由服务商决定。单任务成本是一件工作让您花的钱,取决于这件工作需要多少 token 和 API 调用,以及它成功的频率。token 价格相同的两个模型,单任务成本可能相差很大。

    人工审核应该计入 AI 单任务成本吗?

    应该,计入单次成功任务的成本。检查输出、修正输出和接手转交任务所花的时间,都是 AI 方案成本的一部分;如果把它排除在外,与现有流程比较时,AI 会显得比实际更便宜。

    token 价格没变,为什么我们的单任务成本上升了?

    通常是因为每个任务现在需要更多 token 或更多次尝试。智能体运行变长、提示词改动增加了上下文、模型版本写出更长的回答,或者成功率下降,都会在 token 价格不变的情况下推高单任务成本。第 95 百分位的单次运行成本和成功率能告诉您是哪一种。

    定制模型能让 AI 成本固定下来吗?

    定制模型能让它所承接任务的单任务成本更低、更可预测,因为每个新版本都要通过您的评估集才会上线。支出仍然随业务量增长,交给前沿模型的困难案例也仍按前沿模型的价格计算。

    简短版

    按单次成功任务的成本来管理 AI 支出:把一件工作背后的每次 API 调用、重试、升级和审核加起来,除以达到质量标准的件数。月度成本就是任务数乘以这个数字。按任务类型报告中位数和第 95 百分位,为每项任务设定目标值和上限,再为业务量最大的任务配一个自己的模型,让它的成本更低、更可预测。

    如果您已经知道自己的单任务成本并希望把它降下来,预约通话,我们和您一起梳理。


    资料来源:FinOps 基金会:Unit Economics、Anthropic 定价、OpenAI API 定价和 OpenAI 推理指南。价格核实于 2026 年 10 月 6 日。