跳到正文
    Ertas
    Back to blog

    單一任務成本:衡量 AI 的單位經濟效益

    單一任務成本把 AI token 帳單變成單位經濟指標。本文用一個客服 AI 代理的完整算例,講清楚單一任務成本怎麼算、AI 代理每月要花多少錢、怎樣為每類任務設定目標值和上限、這個數字為什麼會逐月波動,以及擁有自己的模型如何讓單一任務成本更低、也更可預測。

    A pale astronomical impression in graphite and copper, with a soft amber penumbra on warm paper.A flowing heliospheric ribbon in copper and ivory with a soft vermilion flare.

    AI 單一任務成本,是完成一件工作(例如解決一張工單、處理一筆理賠)背後的全部模型支出,包括它用到的每一次 API 呼叫、每一次重試和每一次升級。每月的 AI 成本就等於任務數乘以單一任務成本,由此可以看出帳單的成長是來自業務擴張還是來自浪費。

    token 數量是工程指標。要判斷一項 AI 工作負載是否划算,管理者需要的是這項工作本身的成本,並把它和這項工作目前的成本放在一起比較。FinOps 基金會對生成式 AI 也描述了同樣的演進路徑:單位經濟分析往往從每 token 成本起步,再擴展到以結果為導向的指標,例如每次 AI 代理操作的成本或每個被分流案件的成本。

    本文介紹如何計算單一任務成本、AI 代理每月要花多少錢、如何設定目標值和上限,以及這個數字為什麼會變動。關於降低它的手段,請參閱如何降低企業的 AI token 成本,工程視角則見 LLM 成本最佳化:12 種技術排名。

    什麼是 AI 單一任務成本?

    AI 單一任務成本,是您為某一類工作在模型上花的錢,除以這類工作完成的件數。它位於一組指標的頂端,每個指標各自服務於不同的人。

    指標統計什麼用途
    每 token 成本一個單位模型用量的價格比較模型和供應商
    每次 API 呼叫成本一次請求和回應裡的 token排除單一步驟的問題
    單一任務成本一件工作背後的全部 API 呼叫預測每月帳單
    單次成功任務的成本總支出除以達標任務數判斷 AI 是否划算

    最後一列才是需要管理的指標。單次成功任務的成本計入這項工作消耗的一切:

    • 任務發出的每一次 API 呼叫,涵蓋 AI 代理執行中的每一個步驟
    • 回答失敗或格式錯誤之後的重試
    • 升級到更強、更貴的模型
    • 人工審核輸出,或接手 AI 轉交過來的任務所花的時間

    把這個總數除以達到品質標準的任務數。失敗的執行同樣花了錢,這部分成本會攤到成功的任務上。

    怎樣計算 AI 單一任務成本?

    從一類任務和一個月的流量著手。下面是一個客服 AI 代理的完整算例,每個假設都寫明了。

    假設數值
    任務解決一張客戶服務工單
    業務量每月 100,000 張工單
    模型Claude Opus 5,每百萬 token 輸入 5 美元、輸出 25 美元
    AI 代理執行一次5 次 API 呼叫,輸入 40,000 token,輸出 2,000 token
    重新執行每 5 張工單有 1 張需要再執行一次
    由 AI 代理解決80% 的工單達到品質標準

    價格取自 Anthropic 的定價,截至 2026 年 10 月。輸出數量包含思考 token,因為推理模型把思考部分按輸出計費,OpenAI 的推理指南對其自家模型就是這樣說明的。為了讓算式一目了然,這個例子沒有計入提示快取。

    1. 執行一次。 40,000 個輸入 token 按每百萬 5 美元計是 0.20 美元,2,000 個輸出 token 按每百萬 25 美元計是 0.05 美元。執行一次花 0.25 美元。
    2. 一張工單。 每五張工單中有一張要執行兩次,平均每張工單執行 1.2 次,所以成本是 0.30 美元。
    3. 一張已解決的工單。 當月花費為 100,000 × 0.30 美元 = 30,000 美元。AI 代理解決了 80,000 張工單,所以每張已解決工單的成本是 30,000 美元 ÷ 80,000 = 0.375 美元。
    長條圖,顯示算例中每張客服工單的 API 成本,單位為美元。AI 代理執行一次花 0.25 美元。按工單計,每五張中有一張執行兩次,成本為 0.30 美元。按已解決工單計,80% 的工單獲得解決,成本為 0.375 美元。高於 0.25 美元的部分被特別標示,代表按單次執行計算時漏掉的成本。
    只用價目表和 token 估算做出的預測,停在第一根長條上,所以編列預算時應該以最後一根為準。

    每張已解決工單的成本比執行一次高出 50%,差額全部來自重複的或失敗的工作。造成這個差距的主要是品質,價格的影響反而較小:如果 AI 代理解決的工單從 80% 降到 70%,每張已解決工單的成本會升到約 0.43 美元,而所有 token 的價格都沒有變。

    另外 20,000 張工單交給您的客服團隊處理,把 AI 方案與現有流程做比較時,這部分成本會重新算進來。

    AI 代理每月要花多少錢?

    AI 代理每月的成本,等於每月任務量乘以單一任務成本。在這個例子裡,按 2026 年 10 月的定價,100,000 張工單每張 0.30 美元,每月的 API 呼叫費用是 30,000 美元。同一個 AI 代理處理 10,000 張工單,花費是 3,000 美元;處理一百萬張,花費是 300,000 美元。任何不附帶業務量和單一任務成本的每月數字,都漏掉了決定它的兩個數。

    把帳單拆成這兩個數,還能看出它為什麼變了。

    示意圖,把三張每月 AI 帳單畫成矩形,寬度代表每月工單數,高度代表每張工單的成本。本月:100,000 張工單,每張 0.30 美元,帳單 30,000 美元。工單加倍:200,000 張,每張 0.30 美元,帳單 60,000 美元。單張成本加倍:100,000 張,每張 0.60 美元,帳單同樣是 60,000 美元,並被特別標示。
    只看總額,兩個 60,000 美元的月份顯得同樣驚人,於是針對帳單的刪減可能誤傷業務成長。

    要判斷這個 AI 代理是否划算,就把它的成本和同一張工單目前的成本放在一起。從您的客服或營運報表中取出目前由人工處理一張工單的完整成本,記為 H。AI 方案的成本就是:

    Code example
    AI 方案每張工單成本 = 每張工單的 AI 成本
                        + 升級給人工的比例 x H
                        + 每張工單的審核時間

    在這個例子裡,就是 0.30 美元 + 0.2 × H,再加上您對已解決工單保留的抽查。只要 0.30 美元加審核時間低於 0.8 × H,並且品質標準相同,AI 方案就更划算。把您自己的 H 代進去,一行算式就能做出決定,這正是按任務衡量的意義所在。我們關於 AI 代理的人機協作的文章,介紹了這些審核應該放在哪些環節。

    如何設定單一任務成本的目標值?

    為每一類正式上線的任務設定兩個數:業務據以規劃的目標值,以及由程式強制執行的上限。

    設定意義負責人
    目標值規劃中的單次成功任務成本該任務的業務負責人
    上限單次執行停止前最多能花的錢工程團隊,在程式中強制執行
    檢討頻率何時比對實際值與目標值財務與任務負責人

    根據目前成本設定目標值。 從上面的比較倒推。如果 AI 方案必須明顯低於目前每張工單的成本才值得切換,這個差額就決定了目標值。在這個例子裡,把目標定為每張已解決工單 0.40 美元,AI 代理以 0.375 美元落在目標之內,但餘裕很小。如果每三張工單就有一張需要再執行一次,而不是每五張一張,每張已解決工單的成本會升到約 0.42 美元,超出目標。

    根據典型執行設定上限。 上限是對每次執行的步驟數和 token 數設定的硬性限制,防止陷入迴圈的 AI 代理無限制地花錢。典型執行花 0.25 美元時,把每次執行的上限設為 1.00 美元,既為長工單留出空間,也能攔住失控的執行。觸及上限的執行應當把工單轉給人工。

    單次執行的上限和整個團隊的額度相互配合。我們關於為團隊設定 AI token 預算的指南講的是團隊層面,企業 AI 預算規劃指南則說明這些數字在年度計畫中的位置。

    AI 單一任務成本為什麼會逐月變動?

    單一任務成本的變動有四個來源,每一個都需要不同的訊號才能發現。

    來源變動的是什麼盯住什麼
    AI 代理步驟數的波動每次執行的步驟和重送的歷史第 95 百分位數的單次執行成本
    模型變更價格、輸出長度和成功率評估集分數與單次執行成本
    提示詞變更每次 API 呼叫的 token 數每次發布新版後的單次執行成本
    價格變動每 token 的定價您所用每個價格的日期

    步驟數波動是 AI 代理最特有的來源。 AI 代理每走一步都要重送歷史,所以長的執行要貴得多,而且貴得不成比例。在這個例子裡,假設第一次 API 呼叫傳送 6,000 個 token 的指令和工單內容,每一步增加 1,000 個 token 的歷史,每次 API 呼叫輸出 400 個 token。五步共傳送 40,000 個輸入 token,也就是那次 0.25 美元的執行。十二步的執行要傳送 138,000 個輸入 token、輸出 4,800 個,花費 0.81 美元。步驟數是 2.4 倍,成本卻是 3.2 倍。對應的工程解法見我們的 AI 代理成本最佳化指南。

    模型和提示詞的變更會同時改變成本和品質。 把例子中的執行換到 Claude Sonnet 5.5 或 GPT-6.1 Sol(截至 2026 年 10 月,兩者的定價都是每百萬 token 2 美元和 10 美元),一次執行的成本會從 0.25 美元降到 0.10 美元,前提是成功率維持不變,節省才成立。新的模型版本也可能寫出更長的回答,或者解決的任務更少,這兩種情況都會讓單次成功任務的成本上升,即使 token 價格更低。每當模型或提示詞變更時,都要重新跑評估集,並重新計算單次執行成本。

    按任務類型報告中位數和一個高百分位數。 平均值會掩蓋昂貴執行的長尾。每個月,為每一類任務報告:

    1. 完成的任務數和成功率
    2. 單次執行成本的中位數,也就是典型情況
    3. 第 95 百分位數的單次執行成本,也就是每二十次執行中最貴的那一次
    4. 單次成功任務的成本與其目標值的比較

    中位數告訴您這項工作通常花多少錢。第 95 百分位數告訴您上限設得是否合適,而它一旦上升,往往就是情況有變的第一個訊號。

    擁有自己的模型,單一任務成本會怎樣變化?

    對於高流量任務,單一任務成本最大的一項變化,來自用為這項任務訓練的客製化模型來承接它。為單一工作訓練的模型只具備這項工作所需的能力,因此每個任務的服務成本更低。

    單一任務成本也會變得更可預測。模型什麼時候更新由您決定:每個新版本只有在通過您的評估集之後才會上線,所以供應商發布新模型時,客製化模型所承接流量的單位成本維持不變。帳單仍然隨業務量變化,而單位成本的變化按照您核准的節奏發生。

    這正是 Ertas 透過自適應模型端點所做的事。自適應模型端點是為您的某一項任務提供的一個 API 端點:起初由前沿模型作答;一個以您的請求和團隊回饋訓練的客製化模型,在通過您的評估集之後接手;困難的案例繼續交給前沿模型。

    單一任務成本的下降出現在您核准某個版本的那一天,因此在每月報告裡一眼就能看到。

    每個新版本都會先在背景用真實請求執行,未經您核准不會切換。我們會監控模型,並隨著您的任務變化重新訓練。它可以由 Ertas 代管,或部署在您的雲端或地端,模型歸您所有。該端點目前僅限受邀企業使用,我們正在開發一個更精簡的版本,讓更多企業可以接入。

    在這個客服例子裡,客製化模型按標準解決的每一張工單,都按它自己的成本計算,取代 0.30 美元的前沿模型執行;它轉交出去的每一張工單,則仍按前沿模型的價格計算。作為量級參考,在我們已發表的 QMSum 研究中,一個為會議摘要任務訓練的模型,估算服務成本為每次查詢 0.00053 美元,而按同步呼叫定價,Claude Opus 5 為 0.104 美元,GPT-5.6 Luna 為 0.0130 美元;它的回應時間為 0.39 秒,Claude Opus 5 為 9.0 秒。該估算不含訓練成本。每項任務各不相同,所以每一次切換都要等您的評估集通過。關於您自己任務的損益平衡算法,請參閱客製化模型何時比前沿 API 更省錢。

    常見問題

    AI 單一任務成本的計算公式是什麼?

    把某一類任務一個月內每次 API 呼叫的成本加總,包括重試和升級,再除以完成的任務數。計算單次成功任務的成本時,改為除以達到品質標準的任務數,並加上這項工作仍然需要的人工審核時間。

    一個 AI 代理每月需要多少預算?

    每月成本等於每月任務數乘以單一任務成本。在我們的算例中,按 2026 年 10 月的定價使用 Claude Opus 5 的客服 AI 代理,每張工單花 0.30 美元,所以每月 100,000 張工單的 API 呼叫費用是 30,000 美元。您的數字取決於業務量、模型、每次執行的步驟數以及執行被重複的頻率。

    每 token 成本和單一任務成本有什麼區別?

    每 token 成本是模型用量的價格,由供應商決定。單一任務成本是一件工作讓您花的錢,取決於這件工作需要多少 token 和 API 呼叫,以及它成功的頻率。token 價格相同的兩個模型,單一任務成本可能相差很大。

    人工審核應該計入 AI 單一任務成本嗎?

    應該,計入單次成功任務的成本。檢查輸出、修正輸出和接手轉交任務所花的時間,都是 AI 方案成本的一部分;如果把它排除在外,與現有流程比較時,AI 會顯得比實際更便宜。

    token 價格沒變,為什麼我們的單一任務成本上升了?

    通常是因為每個任務現在需要更多 token 或更多次嘗試。AI 代理執行變長、提示詞改動增加了上下文、模型版本寫出更長的回答,或者成功率下降,都會在 token 價格不變的情況下推高單一任務成本。第 95 百分位數的單次執行成本和成功率能告訴您是哪一種。

    客製化模型能讓 AI 成本固定下來嗎?

    客製化模型能讓它所承接任務的單一任務成本更低、更可預測,因為每個新版本都要通過您的評估集才會上線。支出仍然隨業務量成長,交給前沿模型的困難案例也仍按前沿模型的價格計算。

    簡短版

    按單次成功任務的成本來管理 AI 支出:把一件工作背後的每次 API 呼叫、重試、升級和審核加起來,除以達到品質標準的件數。每月成本就是任務數乘以這個數字。按任務類型報告中位數和第 95 百分位數,為每項任務設定目標值和上限,再為業務量最大的任務配一個自己的模型,讓它的成本更低、更可預測。

    如果您已經知道自己的單一任務成本並希望把它降下來,預約通話,我們和您一起梳理。


    資料來源:FinOps 基金會:Unit Economics、Anthropic 定價、OpenAI API 定價和 OpenAI 推理指南。價格核實於 2026 年 10 月 6 日。