跳到正文
    Ertas
    Back to blog

    开放权重模型与前沿模型:成本与质量对比

    开放权重模型与前沿模型对比:按 Epoch AI 的测量,开放模型在通用能力上落后约四个月,但每个 token 便宜好几倍。本文解释价差从何而来、目前领先的开放模型有哪些,以及用您的任务训练出的模型在什么情况下胜过租用的前沿模型,并附上我们的 QMSum 实测结果和单任务成本测算。

    A pale astronomical impression in graphite and copper, with a soft amber penumbra on warm paper.An oblique elliptical aperture built from dense engraved curves, lit by a single distant blue-white edge.

    开放权重模型与前沿模型之间的取舍,归结起来是能力和成本两件事。在通用能力上,最好的开放权重模型大约落后前沿四个月,这是 Epoch AI 在 2026 年 5 月给出的测量结果。在价格上,截至 2026 年 10 月,开放权重模型每个 token 的价格比旗舰前沿模型低好几倍。而在一个明确的任务上,用这项任务训练开放模型可以弥补能力差距:在我们已发表的 QMSum 研究中,训练过的模型在 ROUGE-1 上的得分高于我们测试的全部五个托管专有模型,相关限制条件见下文。

    本文介绍两类模型的区别、整体差距有多大、开放权重为什么更便宜、目前领先的开放模型有哪些、训练过的开放模型在哪里胜出(附我们的实测结果),以及从两个成本维度看每类模型的单任务成本。

    开放权重模型和前沿模型有什么区别?

    前沿模型指的是某一时期能力最强的一批模型,其中几乎全部是闭源权重:您只能通过开发者的 API 使用,训练、部署、定价和下线都由开发者决定。开放权重模型会公开训练好的参数,任何人都可以下载、自行托管,并用自己的数据继续训练。

    Artificial Analysis 的划分方式和业内大多数人一致:只要模型"where their weights are accessible to download"(权重可以下载),就算开放权重,这意味着可以"self-hosting on your own infrastructure"(在自己的基础设施上托管),并且可以通过微调等方式定制模型(2026 年 10 月 29 日查阅)。开放权重的含义比开源窄。训练数据和训练代码通常仍然保密,商业上能做什么由许可证决定,详见我们的开放模型许可证指南。

    方面前沿模型(闭源权重)开放权重模型
    获取方式开发者的 API 或其云合作伙伴下载权重,或使用任一托管商
    谁来定价开发者相互竞争的托管商,或您自己的算力
    用您的数据训练仅限开发者提供该功能时可以,在许可证范围内
    下线按开发者的时间表权重始终归您使用
    能力当前最强平均落后约四个月

    英国 AI 安全研究所(UK AI Security Institute)在 2026 年 7 月这样概括开放模型的好处:它们"can be hosted privately, with no data returning to the model providers, adapted to specific tasks, and run only at the cost of compute"(可以私有托管,数据不会回流到模型提供方,可以针对具体任务调整,运行成本只有算力)。一旦投入使用,它们就是提供方无法更改或下线的可靠底座。

    开放权重模型落后前沿模型多少?

    在通用能力上大约四个月。Epoch AI 发现,自 2026 年 1 月以来,"the most capable open-weight models have lagged frontier closed models by an average of four months"(能力最强的开放权重模型平均落后闭源前沿模型四个月),这是按其 Epoch Capabilities Index 计算的,平均差距为 8 个指数点,"similar to the gap between GPT-5 and GPT-5.5"(与 GPT-5 和 GPT-5.5 之间的差距相当),见 Epoch AI 2026 年 5 月 29 日的数据。它此前的分析显示,2023 年 1 月到 2025 年 10 月期间的落后时间约为三个月。

    针对更具体能力的测量也落在同一区间。英国 AI 安全研究所测试了网络安全能力,发现 GLM-5.2(2026 年 6 月)和 DeepSeek V4-Pro 的表现与比它们早 4 到 7 个月发布的闭源前沿模型相当,比它在 2025 年大部分时间测得的 6 到 10 个月更短(AISI,2026 年 7 月 17 日)。

    这两项测量覆盖的都是一大批任务。一家企业如果只是大量运行某一项任务,它要回答的问题更具体:模型做这项工作做得怎么样,每次回答要花多少钱。整体差距只是起点,用这项任务训练模型会改变答案,下文的 QMSum 结果说明了这一点。

    为什么开放权重模型更便宜?

    开放权重模型更便宜,是因为任何人都可以部署同一份权重,托管商之间要在每个 token 的价格上竞争;闭源模型则只有开发者定下的一个价格。2026 年 10 月 29 日,OpenRouter 上的 GLM-5.2 有 25 家提供商的 34 个端点,输出价格从每百万 token 1.44 美元到 8.00 美元不等。Claude Opus 5.5 有 5 家提供商的 11 个端点,价格全部等于或高于 Anthropic 的标价,即每百万 token 输入 4 美元、输出 20 美元。

    模型(每百万 token 价格,2026 年 10 月 29 日)输入输出
    GPT-6 Astra(OpenAI,标准)$10.00$50.00
    Claude Fable 5.1(Anthropic)$10.00$50.00
    Claude Opus 5.5(Anthropic)$4.00$20.00
    GLM-5.2,开放权重(Together AI serverless)$1.40$4.40
    DeepSeek V4 Pro,开放权重(Together AI serverless)$1.32$3.96
    GPT-6 Luna(OpenAI,标准)$0.10$0.50

    价差背后还有两个原因。大多数开放权重不需要托管商向开发者付费,所以价格只需覆盖部署成本。另外,您可以选择模型大小:开放模型有多种尺寸,模型越小,每个 token 的运行成本越低。

    表中最后一行是需要说明的例外。前沿实验室也卖低价档模型,GPT-6 Luna 每个 token 的价格比托管的开放模型还低。面对低价档,训练模型的优势在于第二个成本维度,也就是每个任务用的 token 更少,再加上质量:低价档能不能在您的任务上达到您的标准。

    最好的开放权重模型是哪个?

    就通用能力而言,截至 2026 年 10 月 29 日,Artificial Analysis 将 DeepSeek V4.1 Flash 1017 和 GLM-5.3(均为最高推理强度)列为智能水平最高的开放模型,其后是 MiMo-V2.6-Pro 和 Ling 3.1 Flash 1019(Artificial Analysis)。这类排名变化很快,引用任何排名时都要看清日期。

    对一项业务任务来说,最好的开放权重模型,是用您自己的样例训练之后仍能达到质量标准的最小模型,而且许可证允许您的用途。排行榜衡量的是通用能力,您的评估集衡量的才是您付钱要完成的工作,它选出的模型可能比榜首小得多。

    训练过的开放模型什么时候胜过前沿模型?

    当一项任务大量重复、输出可以核验、质量标准由这项任务本身决定时,训练过的开放模型就会胜出。我们的 QMSum 研究(arXiv 2609.25028)在面向查询的会议摘要任务上展示了这种效果,所有系统都在完整的 281 条测试查询上用同一套实现打分。

    系统(QMSum 测试集)参数量ROUGE-1
    用检索片段训练的 406M 专用模型406M36.33
    Ertas 微调的 1.2B 模型1.2B + 33M35.41
    GPT-5.6 Luna,零样本未公开32.43
    GPT-5.6 Sol,零样本未公开30.92
    1.2B 基础模型,未训练,相同输入1.2B + 33M30.12
    Claude Opus 5,零样本未公开28.87
    Claude Haiku 4.5,零样本未公开28.66
    Claude Sonnet 5,零样本未公开27.89

    这组比较中有三个结果值得关注。

    训练让开放模型在 ROUGE-1 上超过了托管模型。 未训练的 1.2B 开放模型 ROUGE-1 为 30.12,低于最好的托管专有模型的 32.43。用它在推理时读取的同一种检索片段输入对它进行微调,ROUGE-1 提高了 5.29(95% 区间为 +4.02 到 +6.56),最终达到 35.41。而在训练之前,把转录稿开头的文字换成检索到的片段,只在测试集上提高了 1.55、在验证集上提高了 0.29,所以大部分提升来自训练。

    两个训练过的模型得分都高于全部五个托管专有模型。 托管模型在同一个简洁提示词下以零样本方式运行,得分在 27.89 到 32.43 之间。论文对这个排序有明确限定:托管模型的回答更长,这在基于参考文本重合度的指标上会拉大差距,而且研究没有进行人工评估或事实性评估。论文结论仅限于 QMSum 和自动指标。QMSum 上最强的已发表系统在各自论文中报告了更高的分数,最高为 ROUGE-1 38.82,因此这项研究的贡献在于统一评分下的比较和成本结论。研究所测试的托管模型版本是当时的最新版本,此后又有更新的版本发布。

    更小的训练模型保住了质量。 406M 专用模型得分 36.33,1.2B 系统为 35.41,QMSum 无法在统计上区分这一差异,而前者的推理峰值内存不到后者的一半。对于大批量运行的任务,这个占用决定了部署成本,所以我们会按任务确定每个模型的大小。

    支出的去向也呈现同样的规律。在 OpenRouter 截至 2026 年 10 月 12 日的 30 天公开数据中,分类、抽取和转换占已分类模型支出的 20.8%,而在这些任务上,闭源前沿模型占前十名模型支出的 75% 到 87%。这些任务的输出可以核验,训练过的模型可以被精确评估。更完整的论述见《微调已死?》。

    开放权重模型和前沿模型的单任务成本是多少?

    单任务成本等于每个 token 的价格乘以每个任务用掉的 token 数,训练过的开放模型能同时降低这两项。价格下降,是因为开放权重以竞争性价格提供服务,而规模合适的模型需要的硬件更少。token 数下降,是因为通用模型每次提示都需要的指令、规范和示例被训练进了模型本身,不必再发送。

    下表使用一个示意任务:输入 6,000 个 token,其中 4,500 个是重复的指令和示例,输出 500 个 token。训练模型这一行保留 1,500 个 token 的单次请求数据,并给出更短的回答。价格为各供应商 2026 年 10 月 29 日的标价。

    配置输入 / 输出 token单任务成本每百万次任务
    Claude Opus 5.5,完整提示词6,000 / 500$0.0340$34,000
    Together AI 上的 GLM-5.2,完整提示词6,000 / 500$0.0106$10,600
    用该任务训练的开放模型,按 GLM-5.2 价格1,500 / 400$0.0039$3,860
    GPT-6 Luna,完整提示词6,000 / 500$0.0009$850

    训练模型这一行沿用 GLM-5.2 的价格,以便单独看出 token 数的影响。为单一任务训练的模型可以比通用模型小得多(我们 QMSum 研究中训练的摘要模型分别为 406M 和 1.2B 参数),因此它每个 token 的价格可以远低于 GLM-5.2。GPT-6 Luna 这一行说明了按 token 价格论证的边界:面对低价档,节省来自 token 数,决定性的问题是您的任务上的质量。

    提示词越重的智能体,节省越多。当每次请求都带着护栏、操作流程、工具定义和示例时,起始提示词可以达到 10,000 个 token,而每次请求之间变化的只有单次请求的数据。把这些内容训练进模型后,只需发送同样的 1,500 个 token 数据:

    配置输入 / 输出 token单任务成本每百万次任务
    Claude Opus 5.5,完整提示词10,000 / 500$0.0500$50,000
    Together AI 上的 GLM-5.2,完整提示词10,000 / 500$0.0162$16,200
    用该任务训练的开放模型,按 GLM-5.2 价格1,500 / 400$0.0039$3,860
    GPT-6 Luna,完整提示词10,000 / 500$0.0013$1,250

    输入 token 减少 85%。训练模型的成本不到同一开放模型使用完整提示词时的四分之一,约为 Claude Opus 5.5 的十三分之一。按这些标价,GPT-6 Luna 的单任务成本仍然更低;要缩小这一差距,需要更小的训练模型带来的更低价格,其余由您任务上的质量决定。

    token 这个维度要按您自己的流量来校准。它取决于每次提示中有多少是重复的固定内容、有多少是单次请求的数据,也取决于您现在用的模型是否对推理 token 计费。提示词缓存已经能给重复输入打折:截至 2026 年 10 月 29 日,Anthropic 对 Claude Opus 5.5 的缓存命中按每百万 token 0.20 美元计费,是输入价格的二十分之一。如果您的缓存做得好,输入端能省下的就少一些,输出和推理 token 在成本论证中的分量更重。

    可以用单任务成本计算器算一算您自己的数字,它把每个 token 的价格和每个任务的 token 数作为两个独立输入。我们关于 AI 单任务成本和定制模型何时在成本上胜过前沿 API 的指南,在计入训练和托管成本后计算了盈亏平衡点。

    什么时候应该用前沿模型?

    任务范围宽、刚起步或量不大时,租用前沿模型;任务明确、稳定且反复出现时,训练一个开放模型。

    情况先用
    每次请求都不同的开放式工作前沿模型
    任务定义还在每周变化前沿模型,同时记录样例
    每月几千次任务前沿模型
    同一任务大量重复训练过的开放模型
    每次提示都重复的长指令训练过的开放模型
    可以按格式或标签核验的输出训练过的开放模型
    必须留在自有基础设施内的数据训练过的开放模型

    两者可以配合使用。用提示词调用前沿模型,是摸清任务需求最快的方式;这个过程中积累的样例和评估集,会成为训练模型的数据和质量标准。困难或少见的请求可以继续交给前沿模型,训练过的模型承担大部分流量。

    Ertas 是一家应用型 AI 实验室,为此提供自适应模型端点:一个用您的任务训练的模型,通过兼容 OpenAI 的 API 提供服务。新版本在后台用您的智能体流量训练,按您的评估打分,只有经您批准才会上线。如果新版本没有达到标准,当前模型继续服务。它可以由 Ertas 托管,也可以部署在您自己的云上或本地,您的数据始终保持私密。该端点目前仅限受邀企业使用,我们正在开发一个更简化的版本,让更多企业可以接入。

    常见问题

    英文应该写 "open weights models" 还是 "open-weight models"?

    两种写法都有人用。"open-weight model" 要加连字符,因为 "open-weight" 用来修饰名词,和 "open-source model" 的写法一样。不加连字符的 "open weights" 是名词短语,例如 "the model has open weights"。Epoch AI 写作 "open-weight models",英国 AI 安全研究所写作 "open weight models"。中文一般称为开放权重模型。

    ChatGPT 是前沿模型吗?

    ChatGPT 是 OpenAI 的聊天产品,背后运行的是 OpenAI 的前沿模型。这些模型是闭源权重:您只能通过 ChatGPT 或 OpenAI 的 API 使用,权重不公开。

    ChatGPT 是开源还是闭源?

    闭源。OpenAI 不公开 ChatGPT 背后模型的权重。它另外以 gpt-oss 为名发布了开放权重模型,任何人都可以下载和托管;Epoch AI 将 gpt-oss-120b 标为无使用限制。

    有哪些开放权重模型的例子?

    Z.ai 的 GLM-5.2、DeepSeek V4 Pro、Moonshot 的 Kimi K2.6、Google DeepMind 的 Gemma 4 以及 OpenAI 的 gpt-oss 都是开放权重模型。许可证各不相同:Epoch AI 将 Kimi K2.6 标为无使用限制,将 Gemma 4 31B 标为限制使用,商用前请先核对条款。

    为什么运行开放权重模型更便宜?

    许多托管商部署同一份开放权重并在价格上竞争,您还可以选择与任务相匹配的模型大小。闭源模型只有开发者定下的一个标价。截至 2026 年 10 月 29 日,GLM-5.2 在 Together AI 上的输出价格为每百万 token 4.40 美元,而 Claude Opus 5.5 为 20 美元。

    开放权重模型能和前沿模型竞争吗?

    在通用能力上,最好的开放模型平均落后约四个月,这是 Epoch AI 在 2026 年 5 月的结论。在单一明确的任务上,训练会改变比较结果:在我们的 QMSum 研究中,训练过的开放模型在 ROUGE-1 上的得分高于五个托管专有模型,但需要注意,托管模型的回答更长,而且研究没有进行人工评估或事实性评估。

    简短版

    前沿模型在通用能力上领先几个月,开放权重模型每个 token 的价格比旗舰模型低好几倍。对于大批量运行的单一任务,一个规模合适、用这项任务训练过的开放模型,可以在这项任务自己的衡量标准上超过托管模型,同时每次请求发送的 token 少得多。任务范围宽或刚起步时用前沿模型,任务稳定且反复出现后再训练模型。把您自己的价格和 token 数输入单任务成本计算器,就能看到您的交叉点在哪里。

    什么时候一项任务值得拥有自己的模型,可参阅基础模型与特定任务模型。训练好的模型上线后如何持续改进,可参阅AI 智能体的持续学习。


    资料来源,均于 2026 年 10 月 29 日查阅:Epoch AI,"Open models lag state-of-the-art closed models by 4 months"(2026 年 5 月 29 日);英国 AI 安全研究所,"How Far Behind the Frontier are Leading Open Weight Models on Cyber?"(2026 年 7 月 17 日);Artificial Analysis 开放权重模型对比;价格来自 OpenAI、Anthropic 和 Together AI;提供商列表来自 OpenRouter。我们的研究:QMSum 研究和 OpenRouter 结构化任务报告。