跳到正文
    Ertas
    Back to blog

    開放權重模型與前沿模型:成本與品質比較

    開放權重模型與前沿模型比較:依 Epoch AI 的測量,開放模型在通用能力上落後約四個月,但每個 token 便宜好幾倍。本文說明價差從何而來、目前領先的開放模型有哪些,以及用您的任務訓練出的模型在什麼情況下勝過租用的前沿模型,並附上我們的 QMSum 實測結果與單一任務成本試算。

    A pale astronomical impression in graphite and copper, with a soft amber penumbra on warm paper.An oblique elliptical aperture built from dense engraved curves, lit by a single distant blue-white edge.

    開放權重模型與前沿模型之間的取捨,歸結起來是能力和成本兩件事。在通用能力上,最好的開放權重模型大約落後前沿四個月,這是 Epoch AI 在 2026 年 5 月提出的測量結果。在價格上,截至 2026 年 10 月,開放權重模型每個 token 的價格比旗艦前沿模型低好幾倍。而在一個明確的任務上,用這項任務訓練開放模型可以補上能力差距:在我們已發表的 QMSum 研究中,訓練過的模型在 ROUGE-1 上的得分高於我們測試的全部五個託管專有模型,相關限制條件見下文。

    本文介紹兩類模型的差別、整體差距有多大、開放權重為什麼比較便宜、目前領先的開放模型有哪些、訓練過的開放模型在哪裡勝出(附我們的實測結果),以及從兩個成本維度來看每類模型的單一任務成本。

    開放權重模型和前沿模型有什麼差別?

    前沿模型指的是某一時期能力最強的一批模型,其中幾乎全部是閉源權重:您只能透過開發者的 API 使用,訓練、部署、定價和下架都由開發者決定。開放權重模型會公開訓練好的參數,任何人都可以下載、自行託管,並用自己的資料繼續訓練。

    Artificial Analysis 的劃分方式和業界多數人一致:只要模型"where their weights are accessible to download"(權重可以下載),就算開放權重,這代表可以"self-hosting on your own infrastructure"(在自己的基礎設施上託管),也可以透過微調等方式客製模型(2026 年 10 月 29 日查閱)。開放權重的含義比開源更窄。訓練資料和訓練程式碼通常仍然保密,商業上能做什麼由授權條款決定,詳見我們的開放模型授權指南。

    面向前沿模型(閉源權重)開放權重模型
    取得方式開發者的 API 或其雲端合作夥伴下載權重,或使用任一託管商
    誰來定價開發者互相競爭的託管商,或您自己的算力
    用您的資料訓練僅限開發者提供此功能時可以,在授權範圍內
    下架依開發者的時程權重始終可供您使用
    能力目前最強平均落後約四個月

    英國 AI 安全研究所(UK AI Security Institute)在 2026 年 7 月這樣概括開放模型的好處:它們"can be hosted privately, with no data returning to the model providers, adapted to specific tasks, and run only at the cost of compute"(可以私有託管,資料不會回流到模型提供者,可以針對特定任務調整,運行成本只有算力)。一旦投入使用,它們就是提供者無法更改或下架的可靠基礎。

    開放權重模型落後前沿模型多少?

    在通用能力上大約四個月。Epoch AI 發現,自 2026 年 1 月以來,"the most capable open-weight models have lagged frontier closed models by an average of four months"(能力最強的開放權重模型平均落後閉源前沿模型四個月),這是依其 Epoch Capabilities Index 計算的,平均差距為 8 個指數點,"similar to the gap between GPT-5 and GPT-5.5"(與 GPT-5 和 GPT-5.5 之間的差距相當),見 Epoch AI 2026 年 5 月 29 日的資料。它先前的分析顯示,2023 年 1 月到 2025 年 10 月期間的落後時間約為三個月。

    針對更具體能力的測量也落在同一區間。英國 AI 安全研究所測試了資安能力,發現 GLM-5.2(2026 年 6 月)和 DeepSeek V4-Pro 的表現與比它們早 4 到 7 個月發布的閉源前沿模型相當,比它在 2025 年大部分時間測得的 6 到 10 個月更短(AISI,2026 年 7 月 17 日)。

    這兩項測量涵蓋的都是一大批任務。一家企業如果只是大量執行某一項任務,要回答的問題更具體:模型做這項工作做得如何,每次回答要花多少錢。整體差距只是起點,用這項任務訓練模型會改變答案,下文的 QMSum 結果說明了這一點。

    為什麼開放權重模型比較便宜?

    開放權重模型比較便宜,是因為任何人都可以部署同一份權重,託管商之間要在每個 token 的價格上競爭;閉源模型則只有開發者訂下的一個價格。2026 年 10 月 29 日,OpenRouter 上的 GLM-5.2 有 25 家供應商的 34 個端點,輸出價格從每百萬 token 1.44 美元到 8.00 美元不等。Claude Opus 5.5 有 5 家供應商的 11 個端點,價格全部等於或高於 Anthropic 的牌價,也就是每百萬 token 輸入 4 美元、輸出 20 美元。

    模型(每百萬 token 價格,2026 年 10 月 29 日)輸入輸出
    GPT-6 Astra(OpenAI,標準)$10.00$50.00
    Claude Fable 5.1(Anthropic)$10.00$50.00
    Claude Opus 5.5(Anthropic)$4.00$20.00
    GLM-5.2,開放權重(Together AI serverless)$1.40$4.40
    DeepSeek V4 Pro,開放權重(Together AI serverless)$1.32$3.96
    GPT-6 Luna(OpenAI,標準)$0.10$0.50

    價差背後還有兩個原因。大多數開放權重不需要託管商付費給開發者,所以價格只需涵蓋部署成本。此外,您可以選擇模型大小:開放模型有多種尺寸,模型越小,每個 token 的運行成本越低。

    表中最後一列是需要說明的例外。前沿實驗室也販售低價方案,GPT-6 Luna 每個 token 的價格甚至比託管的開放模型更低。面對低價方案,訓練模型的優勢在於第二個成本維度,也就是每個任務用的 token 更少,再加上品質:低價方案能不能在您的任務上達到您的標準。

    最好的開放權重模型是哪一個?

    就通用能力而言,截至 2026 年 10 月 29 日,Artificial Analysis 將 DeepSeek V4.1 Flash 1017 和 GLM-5.3(皆為最高推理強度)列為智慧程度最高的開放模型,其次是 MiMo-V2.6-Pro 和 Ling 3.1 Flash 1019(Artificial Analysis)。這類排名變動很快,引用任何排名時都要確認日期。

    對一項業務任務來說,最好的開放權重模型,是用您自己的範例訓練之後仍能達到品質標準的最小模型,而且授權允許您的用途。排行榜衡量的是通用能力,您的評估集衡量的才是您付錢要完成的工作,它選出的模型可能比榜首小得多。

    訓練過的開放模型什麼時候勝過前沿模型?

    當一項任務大量重複、輸出可以驗證、品質標準由這項任務本身決定時,訓練過的開放模型就會勝出。我們的 QMSum 研究(arXiv 2609.25028)在以查詢為導向的會議摘要任務上展示了這個效果,所有系統都在完整的 281 筆測試查詢上用同一套實作評分。

    系統(QMSum 測試集)參數量ROUGE-1
    以檢索片段訓練的 406M 專用模型406M36.33
    Ertas 微調的 1.2B 模型1.2B + 33M35.41
    GPT-5.6 Luna,零樣本未公開32.43
    GPT-5.6 Sol,零樣本未公開30.92
    1.2B 基礎模型,未訓練,相同輸入1.2B + 33M30.12
    Claude Opus 5,零樣本未公開28.87
    Claude Haiku 4.5,零樣本未公開28.66
    Claude Sonnet 5,零樣本未公開27.89

    這組比較中有三個結果值得關注。

    訓練讓開放模型在 ROUGE-1 上超越了託管模型。 未訓練的 1.2B 開放模型 ROUGE-1 為 30.12,低於最好的託管專有模型的 32.43。用它在推論時讀取的同一種檢索片段輸入進行微調後,ROUGE-1 提高了 5.29(95% 區間為 +4.02 到 +6.56),最終達到 35.41。而在訓練之前,把逐字稿開頭的文字換成檢索到的片段,只在測試集上提高了 1.55、在驗證集上提高了 0.29,所以大部分提升來自訓練。

    兩個訓練過的模型得分都高於全部五個託管專有模型。 託管模型在同一個簡潔提示詞下以零樣本方式執行,得分介於 27.89 到 32.43 之間。論文對這個排序有明確限定:託管模型的回答比較長,這在以參考文本重疊度計算的指標上會拉大差距,而且研究沒有進行人工評估或事實性評估。論文結論僅限於 QMSum 和自動指標。QMSum 上最強的已發表系統在各自論文中報告了更高的分數,最高為 ROUGE-1 38.82,因此這項研究的貢獻在於統一評分下的比較和成本結論。研究所測試的託管模型版本是當時的最新版本,之後又有更新的版本推出。

    更小的訓練模型守住了品質。 406M 專用模型得分 36.33,1.2B 系統為 35.41,QMSum 無法在統計上區分這個差異,而前者的推論峰值記憶體不到後者的一半。對於大量執行的任務,這個佔用決定了部署成本,所以我們會依任務決定每個模型的大小。

    支出的去向也呈現相同的規律。在 OpenRouter 截至 2026 年 10 月 12 日的 30 天公開資料中,分類、擷取和轉換佔已分類模型支出的 20.8%,而在這些任務上,閉源前沿模型佔前十名模型支出的 75% 到 87%。這些任務的輸出可以驗證,訓練過的模型可以被精確評估。更完整的論述見《微調已死?》。

    開放權重模型和前沿模型的單一任務成本是多少?

    單一任務成本等於每個 token 的價格乘以每個任務用掉的 token 數,訓練過的開放模型能同時降低這兩項。價格下降,是因為開放權重以競爭性價格提供服務,而規模合適的模型需要的硬體更少。token 數下降,是因為通用模型每次提示都需要的指令、規範和範例被訓練進模型本身,不必再傳送。

    下表使用一個示意任務:輸入 6,000 個 token,其中 4,500 個是重複的指令和範例,輸出 500 個 token。訓練模型這一列保留 1,500 個 token 的單次請求資料,並給出較短的回答。價格為各供應商 2026 年 10 月 29 日的牌價。

    配置輸入 / 輸出 token單一任務成本每百萬次任務
    Claude Opus 5.5,完整提示詞6,000 / 500$0.0340$34,000
    Together AI 上的 GLM-5.2,完整提示詞6,000 / 500$0.0106$10,600
    用該任務訓練的開放模型,依 GLM-5.2 價格1,500 / 400$0.0039$3,860
    GPT-6 Luna,完整提示詞6,000 / 500$0.0009$850

    訓練模型這一列沿用 GLM-5.2 的價格,以便單獨看出 token 數的影響。為單一任務訓練的模型可以比通用模型小得多(我們 QMSum 研究中訓練的摘要模型分別為 406M 和 1.2B 參數),因此它每個 token 的價格可以遠低於 GLM-5.2。GPT-6 Luna 這一列說明了以 token 價格論證的界線:面對低價方案,節省來自 token 數,決定性的問題是您的任務上的品質。

    提示詞越重的智慧代理,節省越多。當每次請求都帶著護欄、作業流程、工具定義和範例時,起始提示詞可以達到 10,000 個 token,而每次請求之間變化的只有單次請求的資料。把這些內容訓練進模型後,只需傳送同樣的 1,500 個 token 資料:

    配置輸入 / 輸出 token單一任務成本每百萬次任務
    Claude Opus 5.5,完整提示詞10,000 / 500$0.0500$50,000
    Together AI 上的 GLM-5.2,完整提示詞10,000 / 500$0.0162$16,200
    用該任務訓練的開放模型,依 GLM-5.2 價格1,500 / 400$0.0039$3,860
    GPT-6 Luna,完整提示詞10,000 / 500$0.0013$1,250

    輸入 token 減少 85%。訓練模型的成本不到同一開放模型使用完整提示詞時的四分之一,約為 Claude Opus 5.5 的十三分之一。依這些牌價,GPT-6 Luna 的單一任務成本仍然較低;要縮小這個差距,需要較小的訓練模型帶來的較低價格,其餘由您任務上的品質決定。

    token 這個維度要依您自己的流量來校準。它取決於每次提示中有多少是重複的固定內容、有多少是單次請求的資料,也取決於您目前使用的模型是否對推理 token 計費。提示詞快取已經能為重複輸入打折:截至 2026 年 10 月 29 日,Anthropic 對 Claude Opus 5.5 的快取命中以每百萬 token 0.20 美元計費,是輸入價格的二十分之一。如果您的快取做得好,輸入端能省下的就少一些,輸出和推理 token 在成本論證中的份量更重。

    可以用單一任務成本計算器算算您自己的數字,它把每個 token 的價格和每個任務的 token 數作為兩個獨立輸入。我們關於 AI 單一任務成本和客製模型何時在成本上勝過前沿 API 的指南,在計入訓練和託管成本後算出了損益平衡點。

    什麼時候應該用前沿模型?

    任務範圍廣、剛起步或量不大時,租用前沿模型;任務明確、穩定且反覆出現時,訓練一個開放模型。

    情況先用
    每次請求都不同的開放式工作前沿模型
    任務定義還在每週變動前沿模型,同時記錄範例
    每月幾千次任務前沿模型
    同一任務大量重複訓練過的開放模型
    每次提示都重複的長指令訓練過的開放模型
    可以依格式或標籤驗證的輸出訓練過的開放模型
    必須留在自有基礎設施內的資料訓練過的開放模型

    兩者可以搭配使用。用提示詞呼叫前沿模型,是摸清任務需求最快的方式;過程中累積的範例和評估集,會成為訓練模型的資料和品質標準。困難或少見的請求可以繼續交給前沿模型,訓練過的模型承擔大部分流量。

    Ertas 是一家應用型 AI 實驗室,為此提供自適應模型端點:一個用您的任務訓練的模型,透過相容 OpenAI 的 API 提供服務。新版本在背景用您的代理程式流量訓練,依您的評估評分,只有經您核准才會上線。如果新版本沒有達到標準,目前的模型會繼續服務。它可以由 Ertas 託管,也可以部署在您自己的雲端或地端,您的資料始終保持私密。該端點目前僅限受邀企業使用,我們正在開發一個更精簡的版本,讓更多企業可以接入。

    常見問題

    英文應該寫 "open weights models" 還是 "open-weight models"?

    兩種寫法都有人用。"open-weight model" 要加連字號,因為 "open-weight" 用來修飾名詞,和 "open-source model" 的寫法一樣。不加連字號的 "open weights" 是名詞片語,例如 "the model has open weights"。Epoch AI 寫作 "open-weight models",英國 AI 安全研究所寫作 "open weight models"。中文一般稱為開放權重模型。

    ChatGPT 是前沿模型嗎?

    ChatGPT 是 OpenAI 的聊天產品,背後運行的是 OpenAI 的前沿模型。這些模型是閉源權重:您只能透過 ChatGPT 或 OpenAI 的 API 使用,權重不公開。

    ChatGPT 是開源還是閉源?

    閉源。OpenAI 不公開 ChatGPT 背後模型的權重。它另外以 gpt-oss 為名發布了開放權重模型,任何人都可以下載和託管;Epoch AI 將 gpt-oss-120b 標為無使用限制。

    有哪些開放權重模型的例子?

    Z.ai 的 GLM-5.2、DeepSeek V4 Pro、Moonshot 的 Kimi K2.6、Google DeepMind 的 Gemma 4 以及 OpenAI 的 gpt-oss 都是開放權重模型。授權各不相同:Epoch AI 將 Kimi K2.6 標為無使用限制,將 Gemma 4 31B 標為限制使用,商用前請先確認條款。

    為什麼運行開放權重模型比較便宜?

    許多託管商部署同一份開放權重並在價格上競爭,您還可以選擇與任務相符的模型大小。閉源模型只有開發者訂下的一個牌價。截至 2026 年 10 月 29 日,GLM-5.2 在 Together AI 上的輸出價格為每百萬 token 4.40 美元,而 Claude Opus 5.5 為 20 美元。

    開放權重模型能和前沿模型競爭嗎?

    在通用能力上,最好的開放模型平均落後約四個月,這是 Epoch AI 在 2026 年 5 月的結論。在單一明確的任務上,訓練會改變比較結果:在我們的 QMSum 研究中,訓練過的開放模型在 ROUGE-1 上的得分高於五個託管專有模型,但需要注意,託管模型的回答比較長,而且研究沒有進行人工評估或事實性評估。

    簡短版

    前沿模型在通用能力上領先幾個月,開放權重模型每個 token 的價格比旗艦模型低好幾倍。對於大量執行的單一任務,一個規模合適、用這項任務訓練過的開放模型,可以在這項任務自己的衡量標準上超越託管模型,同時每次請求傳送的 token 少得多。任務範圍廣或剛起步時用前沿模型,任務穩定且反覆出現後再訓練模型。把您自己的價格和 token 數輸入單一任務成本計算器,就能看到您的交叉點在哪裡。

    什麼時候一項任務值得擁有自己的模型,可參閱基礎模型與特定任務模型。訓練好的模型上線後如何持續改進,可參閱AI 智慧代理的持續學習。


    資料來源,均於 2026 年 10 月 29 日查閱:Epoch AI,"Open models lag state-of-the-art closed models by 4 months"(2026 年 5 月 29 日);英國 AI 安全研究所,"How Far Behind the Frontier are Leading Open Weight Models on Cyber?"(2026 年 7 月 17 日);Artificial Analysis 開放權重模型比較;價格來自 OpenAI、Anthropic 和 Together AI;供應商列表來自 OpenRouter。我們的研究:QMSum 研究和 OpenRouter 結構化任務報告。