跳到正文
    Ertas
    Back to blog

    為什麼 AI 成本這麼高?管理者能做什麼

    AI token 的單價一直在降,企業的 AI 帳單卻越來越高。本文拆解成本上漲的五個原因:更新更貴的模型、更長的上下文、推理 token、AI 代理的多次 API 呼叫,以及 AI 在各團隊的普及。文中也說明如何按任務判斷這筆支出是否值得,以及管理者可以採取哪些措施。資料截至 2026 年 10 月。

    A pale astronomical impression in graphite and copper, with a soft amber penumbra on warm paper.An asymmetric engraved lunar crescent with cool cyan rim-light and a faint amber counter-impression.

    AI 成本之所以高,是因為企業在每項任務上消耗的 token 多了很多,執行的任務也多了很多。請求裡帶著更多上下文和推理,AI 代理把一個請求變成多次 API 呼叫,AI 已普及到每個團隊,而大部分工作跑在最新的模型上:這些模型的價格居高不下,變便宜的是舊一代的能力。

    管理者已經在預算上感受到壓力。2026 年 5 月的 Google I/O 大會上,Sundar Pichai 提到,Google 聽說許多企業已經花光了全年的 token 預算,而這一年才過去不到一半。一個月前,Axios 報導指出,由於一些企業在 AI 上的支出已經超過員工薪資,IT 預算正不斷被突破。

    本文解釋帳單為什麼會成長、如何判斷這筆支出是否值得,以及管理者可以怎麼做。如果您需要一步步削減帳單的方法,請看如何降低企業的 AI token 成本。

    為什麼 token 越來越便宜,AI 成本卻在上漲?

    任何一個固定能力水準的 AI,價格都下降得很快。2024 年 11 月,a16z 估算,對同等效能的模型而言,成本每年下降約 10 倍:要達到 GPT-3 在 2021 年取得的基準測試分數,當時每百萬 token 要 60 美元,三年後只要 0.06 美元。Epoch AI 在 2025 年發現,達到某個固定基準分數的價格每年下降 9 倍到 900 倍不等,視基準測試和分數而定。

    帳單照樣上漲,因為這些數字描述的是原地踏步的價格。您的 AI 帳單是三個數字相乘的結果:

    1. 您實際所用模型的每 token 價格。 企業不斷換用最新的模型,所以它們買到的能力,很少是正在降價的那部分。
    2. 每項任務的 token 數。 更長的上下文、推理和 AI 代理的步驟,讓每項任務都變得更大。
    3. 任務的數量。 AI 已經走出試行階段,進入產品、工作流程和每個團隊的日常工具。

    即使能力在變便宜,第一個數字也可能上漲。2026 年 7 月,摩根大通的報告指出,依彭博衡量每百萬 token 實際價格的一項指數計算,LLM 市場的 token 價格自 2025 年 12 月以來上漲了 60% 以上,原因是資料中心的算力需求激增。另外兩個數字成長得更快。

    長條圖:Google 旗下所有產品每月處理的 token 數,單位為兆,資料來自 2026 年 5 月的 Google I/O 主題演講。兩年前約 9.7 兆,一年前約 480 兆,2026 年 5 月超過 3,200 兆。
    凡是依去年用量制定的預算,依據的都是一個在十二個月裡漲了約七倍的數字。

    Google 的數字同時涵蓋消費型和企業型產品,反映的多半是需求的走向,而非某一家企業的帳單。同一場演講也給出一個企業層面的數字:在過去十二個月裡,有超過 375 家 Google Cloud 客戶各自處理了超過一兆個 token。

    是什麼在推高 AI 成本?

    有五股力量在推高帳單,而大多數企業同時受到全部五股力量的影響。每一股力量都會在供應商價目表毫無變化的情況下推高成本,所以在預算審查中很容易被忽略。

    工作跑在最新、最貴的等級上

    團隊用當時最強的模型做原型、上線功能,之後很少回頭重新選擇。每次升級到更新的模型,都讓這項工作繼續以頂級等級計價,哪怕一個更小的模型如今只需一小部分成本就能通過同樣的測試。

    價差很大。截至 2026 年 10 月,Anthropic 的定價顯示 Claude Opus 5 的輸出為每百萬 token 25 美元,Claude Haiku 4.5 為 5 美元;OpenAI 的定價顯示 GPT-6 Astra 的輸出為 50 美元,GPT-6 Luna 為 0.50 美元。價格崩跌的是去年的前沿能力,而大多數團隊買的是今年的。

    每個請求帶的上下文更多了

    如今的應用程式會在每個請求裡附上完整的文件、程式碼、對話紀錄和檢索到的檔案。OpenRouter 與 a16z 的一項研究分析了超過 100 兆個 token,發現平均提示長度大約成長了四倍,從 2024 年初每個請求約 1,500 個 token,成長到 2025 年底的 6,000 多個。同期輸出長度也接近三倍,從約 150 個 token 成長到 400 個。

    價目表不會提示這種成長。截至 2026 年 10 月,Anthropic 對其完整的 100 萬 token 上下文視窗按標準單價計費,所以一個長四十倍的請求,費用就是四十倍。

    長條圖:依 Claude Opus 5 定價(每百萬輸入 token 5 美元、每百萬輸出 token 25 美元)計算 1,000 個平均請求的成本。2024 年初的請求含 1,500 個輸入 token 和 150 個輸出 token,每千個請求 11.25 美元;2025 年底的請求含 6,000 個輸入 token 和 400 個輸出 token,每千個請求 40.00 美元。
    這兩根長條之間,價目表上什麼都沒變,所以只比較單價的審查完全看不到這種成長。

    模型在回答前先思考

    推理模型會先把問題想清楚再作答,而這些思考是要計費的。OpenAI 的文件說明,推理 token 按輸出 token 計費,而輸出恰恰是帳單中昂貴的一側:截至 2026 年 10 月,Claude Opus 5 的輸出價格是輸入價格的五倍。

    這個轉變來得很快。上述 OpenRouter 研究發現,2025 年初推理模型在該平台上處理的 token 占比微不足道,到當年年底已超過一半;研究也認為,輸出長度的成長大多來自推理。

    AI 代理把一個請求變成多次 API 呼叫

    處理單一請求的 AI 代理,會規劃、搜尋、使用工具並檢查自己的工作。每一步都是一次獨立的 API 呼叫,而且帶著之前的全部內容,所以一個請求的成本取決於 AI 代理走了多少步。這個步數每次執行都不一樣,更多取決於 AI 代理的行為,而不是使用者問了什麼。

    AI 代理還會在沒人輸入的情況下持續運作。一個客服代理或程式設計代理,在整個團隊裡每小時可能發出數千次 API 呼叫。我們的 AI 代理成本最佳化指南介紹了工程師如何為每次執行設定上限。

    AI 已從試行擴展到每個團隊

    正如摩根大通在 2026 年 7 月所說,兩年前大家還在問企業到底會不會用 AI。如今,AI 已經進入客服佇列、銷售工具、文件流程和工程師的編輯器,每一種新用法都會在帳單上多添一行。

    定價也跟著用量走。摩根大通指出,供應商正把企業方案從按席位收費改為隨使用量成長的計費方式,因此對許多企業來說,AI 的帳單已經像水電費一樣按量計算。過去受授權數量限制的支出,如今隨每一項任務成長。

    AI 的成本真的超過員工了嗎?

    對一些團隊來說,已經是這樣。《財星》報導,輝達應用深度學習副總裁 Bryan Catanzaro 在 2026 年 4 月對 Axios 表示,就他的團隊而言,算力成本遠遠超過員工成本。

    這種對比適合做標題,但它回答的是一個很窄的問題。打造模型的研究團隊,算力支出本來就高。對一家正常營運的企業來說,人均 AI 支出衡量的是帳單的規模,而管理者需要知道的是每一分支出換來了什麼。

    有用的對比要按任務來做:用 AI 解決一張客服單、審閱一份合約或起草一份報告要花多少錢,與以前的成本相比如何,對業務又值多少。我們的 AI 單任務成本指南介紹了如何設定並追蹤這個數字。

    管理者如何判斷 AI 支出是否值得?

    逐項任務地為工作定價。不同類型的工作消耗的 token 差別極大,所以全公司的一個平均數會掩蓋錢到底花在了哪裡。

    長條圖:依工作類型劃分的單項任務大致 token 數,資料來自摩根大通 2026 年 7 月發布的 Wolfe Research 數字。除錯程式碼約 56,000 個 token,擷取合約條款約 13,500 個,會議摘要約 9,300 個,KPI 趨勢分析約 4,200 個,解析履歷約 2,800 個,聊天機器人單次回覆約 900 個。
    一個團隊從用 AI 起草回覆改為用 AI 除錯程式碼,不增加一位使用者,token 用量就可能增加六十倍。

    對每一類主要任務,三個數字就能判斷這筆支出是否划算。

    數字它告訴您什麼
    每項完成任務的成本一個單位的 AI 工作要花多少錢
    每項完成任務的價值節省的時間、帶來的營收或避免的風險
    每月完成的任務數兩者的差距整體有多大

    如果一項任務每次完成的價值遠高於成本,就值得擴大規模,而且在擴大的過程中值得管好它的成本。如果利潤很薄或無從得知,就需要先找到更便宜的執行方式,或者更清楚地衡量它的價值,然後再擴大。大多數讓財務團隊措手不及的帳單,正是在這個缺口裡成長起來的:用量在上漲,而這些任務的單次成本從來沒人估算過。

    面對上漲的 AI 成本,管理者能做什麼?

    上面的每個原因都有對應的做法,而且都不影響有用的工作繼續運作。

    原因管理者的做法從哪裡開始
    說不清去向的支出追蹤主要工作負載的單任務成本單任務成本
    用量擴散到各團隊設定團隊 token 預算和預設等級AI token 預算
    預設使用最高等級用評估集測試更便宜的等級降低 token 成本
    上下文和推理使用快取、精簡上下文、限制推理12 種技術
    AI 代理的步驟限制每次執行的步數和 tokenAI 代理成本
    一項任務的量極大為它配一個客製化模型見下一節

    其中大多數是團隊在一季內就能完成的設定和制度調整。最後一項改變的是工作本身的價格,當一項任務占了帳單的很大一部分時,它的作用最大。

    客製化模型什麼時候能改變成本曲線?

    當一項任務每天在前沿模型上執行數千次,每一次重複都要支付前沿模型的價格,而其中大部分請求都是例行請求。為這項任務訓練的客製化模型,可以用低得多的單任務成本處理例行部分,前沿模型則繼續處理難題。最大的工作負載上,單任務成本會下降,也會變得更可預測,因為例行部分由您擁有的模型來處理。

    這正是 Ertas 用自適應模型端點所做的事:為您的一項任務提供一個 API 端點。一開始,所有請求都由前沿模型回答。一個用您的請求和團隊回饋訓練的客製化模型,會在背景以真實流量執行,在通過您的評估集並經您確認後接手。難題仍然交給前沿模型。該端點目前僅限受邀企業使用,我們正在開發一個更精簡的版本,讓更多企業可以接入。

    隨著用量成長,新增的流量落在客製化模型上,所以前沿模型的支出只隨難題成長。

    您的工程師只要改一個模型名稱,就能把這項任務指向該端點。我們會監控模型,並隨著您的工作變化重新訓練它;每個新版本在承接流量之前,都要通過同樣的評估集。模型可以由 Ertas 代管,也可以部署在您的雲端或地端,並且歸您所有。

    節省來自為單一工作打造的模型。在我們的 QMSum 研究中,一個為會議摘要任務訓練的模型,估算的服務成本為每次查詢 0.00053 美元,而依同步呼叫定價計算,Claude Opus 5 為 0.104 美元,GPT-5.6 Luna 為 0.0130 美元;它的回應時間為 0.39 秒,Claude Opus 5 為 9.0 秒。該估算不含訓練成本。每項任務都有自己的品質標準,所以每一次切換都要等您的評估集通過。

    常見問題

    為什麼 2026 年的 AI 成本這麼高?

    企業用的 token 比一年前多得多。請求帶著更多上下文,推理模型把思考按輸出計費,AI 代理為每個請求發出多次 API 呼叫,AI 也已普及到各個團隊和產品。其中很多工作跑在頂級模型上,截至 2026 年 10 月,這些模型的輸出定價為每百萬 token 25 到 50 美元。

    AI token 的價格是在漲還是在降?

    兩者都有,取決於您衡量的是什麼。根據 a16z 和 Epoch AI 的研究,固定能力水準的價格每年下降 10 倍甚至更多。而依摩根大通引用的彭博指數,2025 年 12 月到 2026 年 7 月間,市場每個 token 的實際價格上漲了 60% 以上,原因是算力需求激增。

    AI 真的比人力更貴嗎?

    對一些團隊來說,是的。一位輝達研究主管在 2026 年 4 月對 Axios 表示,他的團隊的算力成本遠遠超過員工成本。對大多數企業來說,更有用的檢驗是按任務計算:一項完成的任務用 AI 要花多少錢,與以前的成本相比如何,又值多少。

    我們沒有增加使用者,為什麼 AI 帳單還在漲?

    因為每個請求、每個人的用量都在增加。更長的提示、推理、AI 代理的步驟和模型升級,都會增加每項任務背後的 token,而這些都不會以新增席位的形式出現。請工程團隊提供各工作負載過去六個月的單任務 token 數,看看是哪一項變了。

    AI 成本會自己降下來嗎?

    如果 a16z 和 Epoch AI 測得的趨勢持續下去,任何固定能力的價格都會繼續下降。但只有當有人把工作轉移到更便宜的能力上時,帳單才會下降,例如更小的等級、快取的前綴、批次處理工作或客製化模型。如果放任不管,降價帶來的空間往往會被新增用量吃掉。

    客製化模型如何降低 AI 成本?

    為單一任務訓練的模型只包含這項任務需要的能力,所以每個請求的服務成本要低得多。透過自適應模型端點,它在通過您的評估集後接手一項高流量任務的例行部分,難題則繼續交給前沿模型。

    簡短版

    AI 帳單在 token 降價的同時上漲,是因為企業買的是最新的能力,在每項任務裡投入更多 token,每個月執行的任務也更多。衡量單任務成本,設定預算和預設等級,拿下設定層面的節省,然後為呼叫量最大的任務配一個專門訓練的模型。

    如果某一項任務已經佔據了您的大部分帳單,預約通話,我們和您一起把數字算清楚。


    資料來源:a16z 關於 LLMflation 的分析、Epoch AI 關於推理價格趨勢的研究、摩根大通(含 Wolfe Research 的任務資料)、OpenRouter 與 a16z 的 State of AI 研究、Google I/O 2026 主題演講、《財星》、Axios、Anthropic 定價和 OpenAI 推理指南。價格核實於 2026 年 10 月 6 日。