AI 新創公司的毛利率明顯低於傳統軟體，因為客戶每執行一項任務，推論成本就跟著增加一次。ICONIQ 的 State of AI 2026 報告指出，AI 產品的平均毛利率在 2025 年為 45%，預估 2026 年升至 53%，2027 年升至 59%。1752vc 的指南引用 a16z 的資料，傳統軟體的毛利率在 60% 到 80% 甚至更高。差距大多來自模型帳單，而這份帳單由兩部分組成：每個 token 的價格，以及每項任務傳送的 token 數量。
本文依序說明：為什麼代理用量成長會壓縮毛利率、如何衡量成本的兩個維度、用我們的單一任務成本計算器（英文）算一個完整範例、訓練好的模型能改變什麼，以及哪些情況下它並不划算。文中資料來自我們自己的 token 測量，以及兩家設計合作夥伴的實際負載（已匿名處理）。
為什麼代理用量越大，毛利率越低？
在傳統軟體裡，多服務一位客戶幾乎不增加成本。在 AI 產品裡，客戶的每項任務都要把 token 送給模型，而每個 token 都要付費。1752vc 說得很直接："In AI, the thousandth customer sends you a bill."（在 AI 產業，第一千位客戶寄給你的是一張帳單。）
代理用量讓這份帳單比營收漲得更快，原因有三：
- 營收按席位固定，成本按任務成長。 根據 ICONIQ 2026 年第二季的調查，訂閱制仍是最常見的定價方式。越喜歡這項產品的客戶，在同樣的月費下跑的任務就越多。
- 每項任務傳送的 token 越來越多。 代理每走一步都要重新傳送歷史紀錄，所以十二步的執行成本遠不只六步的兩倍。我們的單一任務成本指南逐步示範了這筆帳。
- 任務開始前，執行框架就已經加了一批 token。 我們實測，Claude Code 在預設設定下、在一個空資料夾裡，任務本身還沒開始就已傳送 36,055 個 token（2026 年 10 月 6 日測量）。工具定義、指令和上下文會隨每次請求一起送出。快取能讓其中大部分的費用打折，但它們仍然佔用上下文視窗，並在每一步增加延遲。
1752vc 的範例說明了後果。一款合約審閱代理按每席位每月 200 美元出售，以 Anthropic 2026 年 9 月的公開價格計算，每個一般席位的營收中有 108 美元花在推論上，毛利率為 36%。一位每月執行 1,500 項任務的重度使用者，服務成本達到 560 美元，而營收同樣只有 200 美元，毛利率為負 180%。
ICONIQ 的調查也顯示了壓力的走向。三分之二的受訪者表示，每次查詢的單位經濟效益有所改善，主要歸功於推論成本管理和模型路由；隨著產品規模擴大，人才在成本中的占比下降，推論的占比上升。採用按用量計費的公司比例在六個月內從 35% 升到 42%，企業正在把營收和驅動成本的用量綁在一起。
推論成本的兩個維度是什麼？
單一任務成本等於輸入 token 數乘以輸入單價，加上輸出 token 數乘以輸出單價。推理模型會把隱藏的思考過程按輸出 token 計費，所以這部分也要算進去。帳單上的任何一個調整手段，動的都是下面兩個數字之一。
| 維度 | 由什麼決定 | 常見手段 |
|---|---|---|
| 每 token 價格 | 呼叫的模型和服務商 | 路由、批次價格、改用更便宜的模型 |
| 每任務 token 數 | 每次請求攜帶的內容 | 縮短提示詞、快取、訓練 |
多數降本工作集中在第一個維度。第二個維度可能更大，因為正式環境的提示詞每次請求都帶著同樣的指令、流程規範、範例和安全規則。這些重複的 token，每個的價格和真正變動的資料一樣。
兩家設計合作夥伴的負載顯示，重複部分可以有多大：
- 一款面向消費者的聊天應用程式，每則訊息傳送約 37,000 個輸入 token。提示詞裡帶著一份每則訊息都重複的角色和安全規則說明。我們為它設計的方案把這份說明訓練進模型，只傳送約 1,000 個 token 的結構化提示詞，每則訊息的輸入 token 減少到原來的三十七分之一。
- 一家執行模擬測試工作階段的設計合作夥伴，每個工作階段都傳送同一套固定流程。依我們的估算，把流程訓練進模型後，每個工作階段的 token 數會從約 13,000 到 37,000 之間降到約 8,000，實際多少取決於流程的長度，也就是減少約三分之一到四分之三。
聊天應用程式每則訊息 37,000 個 token 是合作夥伴自己的數據；1,000 個 token 的提示詞和每個工作階段的數字，是我們根據各自的提示詞結構估算出來的。實際能省多少，取決於每個提示詞裡有多少內容在重複，所以我們會先從正 式環境的流量裡測出這個比例，再給出數字。
提示詞快取已經在替重複輸入打折。截至 2026 年 10 月，在我們計算器收錄的模型上，OpenAI 和 Anthropic 對快取輸入的收費是標準輸入價格的十分之一到二十分之一。不過快取對輸出和推理 token 不打折，快取的 token 也照樣佔用上下文視窗、增加延遲。
用單一任務成本計算器算一個範例
以下是計算器的預設輸入，價格採用 OpenAI 截至 2026 年 10 月 28 日的 GPT-6.1 Sol 公開價：每百萬輸入 token 2.00 美元，快取輸入 0.10 美元，每百萬輸出 token 10.00 美元，來源為 OpenAI 的價格頁面。
| 輸入項目 | 數值 |
|---|---|
| 每月任務數 | 100,000 |
| 每個提示詞中的重複指令 | 4,000 個 token |
| 每次請求的資料 | 500 個 token |
| 回答 | 300 個 token |
| 隱藏推理 | 500 個 token |
訓練好的模型保留 500 個 token 的指令，不產生隱藏推理。它的每 token 價格設為與前沿模型相同，因此差額完全來自每項任務的 token 數。
| 方案 | 每任務 token 數 | 單一任務成本 | 每月成本 |
|---|---|---|---|
| 前沿模型 | 5,300 | 0.0170 美元 | 1,700 美元 |
| 前沿模型，指令走快取 | 5,300 | 0.0094 美元 | 940 美元 |
| 訓練好的模型，同樣單價 | 1,300 | 0.0050 美元 | 500 美元 |
| 訓練好的模型，單價減半 | 1,300 | 0.0025 美元 | 250 美元 |
在每 token 價格相同的情況下，訓練好的模型比不走快取的前沿模型便宜約 71%，比走快取的便宜約 47%。如果每 token 價格也更低，節省還會疊加：價格減半時，每項任務只要 0.0025 美元。最後一列僅為示意，您可以在計算器裡填入自己模型的實際價格。
再把這項任務放進一項產品裡。假設它包含在每席位每月 40 美元的方案中，而且只算推論成本，不含託管、檢索和客服。
| 方案 | 一般席位，1,000 項任務 | 重度使用者，4,000 項任務 |
|---|---|---|
| 前沿模型 | 毛利率 58% | 負 70% |
| 前沿模型，指令走快取 | 毛利率 77% | 毛利率 6% |
| 訓練好的模型，同樣單價 | 毛利率 88% | 毛利率 50% |
一般席位在每一列看起來都很健康，毛利真正流失在重度使用者身上，而代理用量越大，這類客戶就越多。您可以在單一任務成本計算器裡代入自己的數字，它會把節省拆成價格帶來的部分和用量帶來的部分。
訓練好的模型能改變什麼？
為一項任務訓練的模型，會同時改變這兩個維度。
每任務 token 數下降。 每個提示詞裡重複的指令、流程規範和範例被訓練進模型，不必再傳送。針對任務訓練的模型也會直接作答，不產生隱藏推理 token，也沒有多餘的鋪陳。每次請求的資料和回答本身維持不變。
每 token 價格可以下降。 只為一項工作訓練的模型，只需具備這項工作所需的能力，執行成本因此更低。在我們的 QMSum 研究中，一個為會議摘要任務訓練的模型，估算的每次查詢服務成本比 Claude Opus 5 低 99%，比 GPT-5.6 Luna 低 96%，回應速度是 Claude Opus 5 的 23 倍。這些數字以 2026 年 9 月的價格計算，不含訓練成本。
單一任務成本更可預測。 訓練好的模型只有在您核准新版本時才會改變，所以服務商發布新模型，不會改變它所承接流量的單位成本。帳單仍隨用量成長，但做毛利規劃時，有了一個穩定的單一任務成本作為依據。
最值得先做的，是重複而且可以核對的工作。根據 OpenRouter 截至 2026 年 10 月 12 日的 30 天公開資料，分類、資訊擷取和格式轉換占了已分類模型支出的 20.8%，每 token 價格是市場平均水準的 1.50 到 1.84 倍；在支出最多的十個模型中，75% 到 87% 的支出流向了閉源前沿模型。這類任務的輸出是標籤和結構化紀錄，可以依結構描述逐筆核對，也正是訓練好的模型最容易評估的地方。
這正是 Ertas 用自適應模型端點在做的事：為您的一項任務提供一個 API 端點。一開始由前沿模型作答；一個用您的請求和團隊回饋訓練的模型通過您的評估後接手；困難的案例仍交給前沿模型。它可以由 Ertas 託管，也可以部署在您自己的雲端或地端。該端點目前僅限受邀企業使用，我們正在開發一個更精簡的版本，讓更多企業可以接入。關於損益兩平的算法，請參閱自建模型何時比前沿 API 更省錢。
什麼情況下訓練模型並不划算？
訓練是一筆固定成本，而節省的金額隨用量和提示詞中重複內容的占比成長。以下四種情況能省下的太少。
| 情況 | 節省少的原因 |
|---|---|
| 每月只有幾 千項任務 | 建置和評估的投入超過帳單本身 |
| 提示詞主要是每次請求的資料 | 可以訓練掉的重複內容很少 |
| 已經用了快取，也沒有推理 token | 輸入端的節省大多已經拿到 |
| 任務每週都在變 | 每次變動都要重新訓練一輪 |
第二種情況最容易被忽略。假設一項任務傳送 8,000 個 token 的客戶文件和 200 個 token 的指令，回答 300 個 token，沒有隱藏推理，以上面 GPT-6.1 Sol 的價格計算。把這 200 個 token 的指令全部訓練進模型，每項任務只能省下約 2%。這時訓練模型的理由就只剩每 token 價格，以及延遲和一致性。
先從測量開始。取您用量最大那項任務一週的正式環境流量，統計重複的 token、每次請求的 token、輸出和推理，再填進計算器。如果重複部分占比大、用量也高，訓練好的模型就能拉高您的毛利率。如果其中任何一項偏小，路由和快取會用更少的投入帶來更多的效果。
常見問題
AI 新創公司的毛利率多少才算好？
ICONIQ 的 State of AI 2026 報告指出，AI 產品的平均毛利率在 2025 年為 45%，預估 2026 年為 53%，2027 年為 59%，低於傳統軟體 60% 到 80% 甚至更高的水準。投資人通常會把趨勢和可信的提升路徑，看得和目前的數字一樣重要。
為什麼 AI 公司的毛利率比 SaaS 低？
AI 產品的每項任 務都要消耗模型推論，所以服務一位客戶的成本會隨他的用量成長。在 SaaS 中，多一位使用者幾乎不影響託管帳單。代理類產品會進一步拉大差距，因為每項任務要發出多次 API 呼叫，而且每一步都要重新傳送上下文。
微調一個大型語言模型要花多少錢？
截至 2026 年 10 月 28 日，OpenAI 的監督式微調收費為：GPT-4.1 mini 每百萬訓練 token 5 美元，GPT-4.1 和 GPT-4o 為 25 美元，並將於 2027 年 1 月 6 日停止接受新的訓練任務。在 Ertas Studio 裡自行訓練開放模型可以免費開始，截至 2026 年 10 月，付費方案每月 10 美元起。由 Ertas 代為建置則是固定費用，在免費評估後確定。
哪個大型語言模型最適合微調？
在預留評估集上能達到您品質標準的最小開放權重模型，而且授權允許商業使用。為一項任務訓練的模型可以比通用模型小得多，卻在這項任務上表現相當，而模型大小決定了大部分執行成本。
提示詞快取能解決推論的毛利問題嗎？
它能降低輸入成本。截至 2026 年 10 月，OpenAI 和 Anthropic 對快取輸入的收費是標準價格的十分之一到二十分之一。輸出和推理 token 仍按全價計費，快取的 token 也照樣佔用上下文視窗，所以快取能緩解每任務 token 數的問題，卻無法消除它。
簡短版
AI 產品的平均毛利率在 2025 年為 45%，2026 年預估為 53%，原因是推論成本隨用量成長，而代理類產品每年每項任務傳送的 token 都在增加。帳單有兩個維度：每 token 價格和每任務 token 數。為一項高用量任務訓練的模型能同時壓低這兩項，讓單一任務成本更可預測，前提是用量夠高，而且每個提示詞的大部分內容是重複的。想了解閉源實驗室退出微調對這個選擇的意義，請閱讀微調已死？。如果您在 OpenAI 上做過微調，我們的遷移指南整理了 2027 年 1 月的各個截止日期。
資料來源，均於 2026 年 10 月 28 日查閱：ICONIQ，State of AI 2026；1752vc，AI Gross Margins: Inference Costs and Pricing for Startups；OpenAI，API 價格。我們的測量：QMSum 研究（arXiv 2609.25028）、OpenRouter 結構化任務報告，以及 2026 年 10 月 6 日測得的執行框架 token 數。