開放權重模型與前沿模型之間的取捨,歸結起來是能力和成本兩件事。在通用能力上,最好的開放權重模型大約落後前沿四個月,這是 Epoch AI 在 2026 年 5 月提出的測量結果。在價格上,截至 2026 年 10 月,開放權重模型每個 token 的價格比旗艦前沿模型低好幾倍。而在一個明確的任務上,用這項任務訓練開放模型可以補上能力差距:在我們已發表的 QMSum 研究中,訓練過的模型在 ROUGE-1 上的得分高於我們測試的全部五個託管專有模型,相關限制條件見下文。
本文介紹兩類模型的差別、整體差距有多大、開放權重為什麼比較便宜、目前領先的開放模型有哪些、訓練過的開放模型在哪裡勝出(附我們的實測結果),以及從兩個成本維度來看每類模型的單一任務成本。
開放權重模型和前沿模型有什麼差別?
前沿模型指的是某一時期能力最強的一批模型,其中幾乎全部是閉源權重:您只能透過開發者的 API 使用,訓練、部署、定價和下架都由開發者決定。開放權重模型會公開訓練好的參數,任何人都可以下載、自行託管,並用自己的資料繼續訓練。
Artificial Analysis 的劃分方式和業界多數人一致:只要模型"where their weights are accessible to download"(權重可以下載),就算開放權重,這代表可以"self-hosting on your own infrastructure"(在自己的基礎設施上託管),也可以透過微調等方式客製模型(2026 年 10 月 29 日查閱)。開放權重的含義比開源更窄。訓練資料和訓練程式碼通常仍然保密,商業上能做什麼由授權條款決定,詳見我們的開放模型授權指南。
| 面向 | 前沿模型(閉源權重) | 開放權重模型 |
|---|---|---|
| 取得方式 | 開發者的 API 或其雲端合作夥伴 | 下載權重,或使用任一託管商 |
| 誰來定價 | 開發者 | 互相競爭的託管商,或您自己的算力 |
| 用您的資料訓練 | 僅限開發者提供此功能時 | 可以,在授權範圍內 |
| 下架 | 依開發者的時程 | 權重始終可供您使用 |
| 能力 | 目前最強 | 平均落後約四個月 |
英國 AI 安全研究所(UK AI Security Institute)在 2026 年 7 月這樣概括開放模型的好處:它們"can be hosted privately, with no data returning to the model providers, adapted to specific tasks, and run only at the cost of compute"(可以私有託管,資料不會回流到模型提供者,可以針對特定任務調整,運行成本只有算力)。一旦投入使用,它們就是提供者無法更改或下架的可靠基礎。
開放權重模型落後前沿模型多少?
在通用能力上大約四個月。Epoch AI 發現,自 2026 年 1 月以來,"the most capable open-weight models have lagged frontier closed models by an average of four months"(能力最強的開放權重模型平均落後閉源前沿模型四個月),這是依其 Epoch Capabilities Index 計算的,平均差距為 8 個指數點,"similar to the gap between GPT-5 and GPT-5.5"(與 GPT-5 和 GPT-5.5 之間的差距相當),見 Epoch AI 2026 年 5 月 29 日的資料。它先前的分析顯示,2023 年 1 月到 2025 年 10 月期間的落後時間約為三個月。
針對更具體能力的測量也落在同一區間。英國 AI 安全研究所測試了資安能力,發現 GLM-5.2(2026 年 6 月)和 DeepSeek V4-Pro 的表現與比它們早 4 到 7 個月發布的閉源前沿模型相當,比它在 2025 年大部分時間測得的 6 到 10 個月更短(AISI,2026 年 7 月 17 日)。
這兩項測量涵蓋的都是一大批任務。一家企業如果只是大量執行某一項任務,要回答的問題更具體:模型做這項工作做得如何,每次回答要花多少錢。整體差距只是起點,用這項任務訓練模型會改變答案,下文的 QMSum 結果說明了這一點。
為什麼開放權重模型比較便宜?
開放權重模型比較便宜,是因為任何人都可以部署同一份權重,託管商之間要在每個 token 的價格上競爭;閉源模型則只有開發者訂下的一個價格。2026 年 10 月 29 日,OpenRouter 上的 GLM-5.2 有 25 家供應商的 34 個端點,輸出價格從每百萬 token 1.44 美元到 8.00 美元不等。Claude Opus 5.5 有 5 家供應商的 11 個端點,價格全部等於或高於 Anthropic 的牌價,也就是每百萬 token 輸入 4 美元、輸出 20 美元。
| 模型(每百萬 token 價格,2026 年 10 月 29 日) | 輸入 | 輸出 |
|---|---|---|
| GPT-6 Astra(OpenAI,標準) | $10.00 | $50.00 |
| Claude Fable 5.1(Anthropic) | $10.00 | $50.00 |
| Claude Opus 5.5(Anthropic) | $4.00 | $20.00 |
| GLM-5.2,開放權重(Together AI serverless) | $1.40 | $4.40 |
| DeepSeek V4 Pro,開放權重(Together AI serverless) | $1.32 | $3.96 |
| GPT-6 Luna(OpenAI,標準) | $0.10 | $0.50 |
價差背後還有兩個原因。大多數開放權重不需要託管商付費給開發者,所以價格只需涵蓋部署成本。此外,您可以選擇模型大小:開放模型有多種尺寸,模型越小,每個 token 的運行成本越低。
表中最後一列是需要說明的例外。前沿實驗室也販售低價方案,GPT-6 Luna 每個 token 的價格甚至比託管的開放模型更低。面對低價方案,訓練模型的優勢在於第二個成本維度,也就是每個任務用的 token 更少,再加上品質:低價方案能不能在您的任務上達到您的標準。
最好的開放權重模型是哪一個?
就通用能力而言,截至 2026 年 10 月 29 日,Artificial Analysis 將 DeepSeek V4.1 Flash 1017 和 GLM-5.3(皆為最高推理強度)列為智慧程度最高的開放模型,其次是 MiMo-V2.6-Pro 和 Ling 3.1 Flash 1019(Artificial Analysis)。這類排名變動很快,引用任何排名時都要確認日期。
對一項業務任務來說,最好的開放權重模型,是用您自己的範例訓練之後仍能達到品質標準的最小模型,而且授權允許您的用途。排行榜衡量的是通用能力,您的評估集衡量的才是您付錢要完成的工作,它選出的模型可能比榜首小得多。
訓練過的開放模型什麼時候勝過前沿模型?
當一項任務大量重複、輸出可以驗證、品質標準由這項任務本身決定時,訓練過的開放模型就會勝出。我們的 QMSum 研究(arXiv 2609.25028)在以查詢為導向的會議摘要任務上展示了這個效果,所有系統都在完整的 281 筆測試查詢上用同一套實作評分。
| 系統(QMSum 測試集) | 參數量 | ROUGE-1 |
|---|---|---|
| 以檢索片段訓練的 406M 專用模型 | 406M | 36.33 |
| Ertas 微調的 1.2B 模型 | 1.2B + 33M | 35.41 |
| GPT-5.6 Luna,零樣本 | 未公開 | 32.43 |
| GPT-5.6 Sol,零樣本 | 未公開 | 30.92 |
| 1.2B 基礎模型,未訓練,相同輸入 | 1.2B + 33M | 30.12 |
| Claude Opus 5,零樣本 | 未公開 | 28.87 |
| Claude Haiku 4.5,零樣本 | 未公開 | 28.66 |
| Claude Sonnet 5,零樣本 | 未公開 | 27.89 |
這組比較中有三個結果值得關注。
訓練讓開放模型在 ROUGE-1 上超越了託管模型。 未訓練的 1.2B 開放模型 ROUGE-1 為 30.12,低於最好的託管專有模型的 32.43。用它在推論時讀取的同一種檢索片段輸入進行微調後,ROUGE-1 提高了 5.29(95% 區間為 +4.02 到 +6.56),最終達到 35.41。而在訓練之前,把逐字稿開頭的文字換成檢索到的片段,只在測試集上提高了 1.55、在驗證集上提高了 0.29,所以大部分提升來自訓練。
兩個訓練過的模型得分都高於全部五個託管專有模型。 託管模型在同一個簡潔提示詞下以零樣本方式執行,得分介於 27.89 到 32.43 之間。論文對這個排序有明確限定:託管模型的回答比較長,這在以參考文本重疊度計算的指標上會拉大差距,而且研究沒有進行人工評估或事實性評估。論文結論僅限於 QMSum 和自動指標。QMSum 上最強的已發表系統在各自論文中報告了更高的分數,最高為 ROUGE-1 38.82,因此這項研究的貢獻在於統一評分下的比較和成本結論。研究所測試的託管模型版本是當時的最新版本,之後又有更新的版本推出。
更小的訓練模型守住了品質。 406M 專用模型得分 36.33,1.2B 系統為 35.41,QMSum 無法在統計上區分這個差異,而前者的推論峰值記憶體不到後者的一半。對於大量執行的任務,這個佔用決定了部 署成本,所以我們會依任務決定每個模型的大小。
支出的去向也呈現相同的規律。在 OpenRouter 截至 2026 年 10 月 12 日的 30 天公開資料中,分類、擷取和轉換佔已分類模型支出的 20.8%,而在這些任務上,閉源前沿模型佔前十名模型支出的 75% 到 87%。這些任務的輸出可以驗證,訓練過的模型可以被精確評估。更完整的論述見《微調已死?》。
開放權重模型和前沿模型的單一任務成本是多少?
單一任務成本等於每個 token 的價格乘以每個任務用掉的 token 數,訓練過的開放模型能同時降低這兩項。價格下降,是因為開放權重以競爭性價格提供服務,而規模合適的模型需要的硬體更少。token 數下降,是因為通用模型每次提示都需要的指令、規範和範例被訓練進模型本身,不必再傳送。
下表使用一個示意任務:輸入 6,000 個 token,其中 4,500 個是重複的指令和範例,輸出 500 個 token。訓練模型這一列保留 1,500 個 token 的單次請求資料,並給出較短的回答。價格為各供應商 2026 年 10 月 29 日的牌價。
| 配置 | 輸入 / 輸出 token | 單一任務成本 | 每百萬次任務 |
|---|---|---|---|
| Claude Opus 5.5,完整提示詞 | 6,000 / 500 | $0.0340 | $34,000 |
| Together AI 上的 GLM-5.2,完整提示詞 | 6,000 / 500 | $0.0106 | $10,600 |
| 用該任務訓練的開放模型,依 GLM-5.2 價格 | 1,500 / 400 | $0.0039 | $3,860 |
| GPT-6 Luna,完整提示詞 | 6,000 / 500 | $0.0009 | $850 |
訓練模型這一列沿用 GLM-5.2 的價格,以便單獨看出 token 數的影響。為單一任務訓練的模型可以比通用模型小得多(我們 QMSum 研究中訓練的摘要模型分別為 406M 和 1.2B 參數),因此它每個 token 的價格可以遠低於 GLM-5.2。GPT-6 Luna 這一列說明了以 token 價格論證的界線:面對低價方案,節省來自 token 數,決定性的問題是您的任務上的品質。
提示詞越重的智慧代理,節省越多。當每次請求都帶著護欄、作業流程、工具定義和範例時,起始提示詞可以達到 10,000 個 token,而每次請求之間變化的只有單次請求的資料。把這些內容訓練進模型後,只需傳送同樣的 1,500 個 token 資料:
| 配置 | 輸入 / 輸出 token | 單一任務成本 | 每百萬次任務 |
|---|---|---|---|
| Claude Opus 5.5,完整提示詞 | 10,000 / 500 | $0.0500 | $50,000 |
| Together AI 上的 GLM-5.2,完整提示詞 | 10,000 / 500 | $0.0162 | $16,200 |
| 用該任務訓練的開放模型,依 GLM-5.2 價格 | 1,500 / 400 | $0.0039 | $3,860 |
| GPT-6 Luna,完整提示詞 | 10,000 / 500 | $0.0013 | $1,250 |
輸入 token 減少 85%。訓練模型的成本不到同一開放模型使用完整提示詞時的四分之一,約為 Claude Opus 5.5 的十三分之一。依這些牌價,GPT-6 Luna 的單一任務成本仍然較低;要縮小這個差距,需要較小的訓練模型帶來的較低價格,其餘由您任務上的品質決定。
token 這個維度要依您自己的流量來校準。它取決於每次提示中有多少是重複的固定內容、有多少是單次請求的資料,也取決於您目前使用的模型是否對推理 token 計費。提示詞快取已經能為重複輸入打折:截至 2026 年 10 月 29 日,Anthropic 對 Claude Opus 5.5 的快取命中以每百萬 token 0.20 美元計費,是輸入價格的二十分之一。如果您的快取做得好,輸入端能省下的就少一些,輸出和推理 token 在成本論證中的份量更重。
可以用單一任務成本計算器算算您自己的數字,它把每個 token 的價格和每個任務的 token 數作為兩個獨立輸入。我們關於 AI 單一任務成本和客製模型何時在成本上勝過前沿 API 的指南,在計入訓練和託管成本後算出了損益平衡點。
什麼時候應該用前沿模型?
任務範圍廣、剛起步或量不大時,租用前沿模型;任務明確、穩定且反覆出現時,訓練一個開放模型。
| 情況 | 先用 |
|---|---|
| 每次請求都不同的開放式工作 | 前沿模型 |
| 任務定義還在每週變動 | 前沿模型,同時記錄範例 |
| 每月幾千次任務 | 前沿模型 |
| 同一任務大量重複 | 訓練過的開放模型 |
| 每次提示都重複的長指令 | 訓練過的開放模型 |
| 可以依格式或標籤驗證的輸出 | 訓練過的開放模型 |
| 必須留在自有基礎設施內的資料 | 訓練過的開放模型 |
兩者可以搭配使用。用提示詞呼叫前沿模型,是摸清任務需求最快的方式;過程中累積的範例和評估集,會成為訓練模型的資料和品質標準。困難或少見的請求可以繼續交給前沿模型,訓練過的模型承擔大部分流量。
Ertas 是一家應用型 AI 實驗室,為此提供自適應模型端點:一個用您的任務訓練的模型,透過相容 OpenAI 的 API 提供服務。新版本在背景用您的代理程式流量訓練,依您的評估評分,只有經您核准才會上線。如果新版本沒有達到標準,目前的模型會繼續服務。它可以由 Ertas 託管,也可以部署在您自己的雲端或地端,您的資料始終保持私密。該端點目前僅限受邀企業使用,我們正在開發一個更精簡的版本,讓更多企業可以接入。

