跳到正文
    Ertas
    Back to blog

    微调已死?闭源实验室退出意味着什么

    微调被证伪了吗?OpenAI 和 Mistral 正在逐步停止自助微调,这是一项产品决策。本文梳理三家服务商的变化,用我们的 QMSum 实测结果说明训练好的开放模型在哪些任务上胜出,在哪些情况下写好提示词就够了,以及在 OpenAI 上做过微调的团队接下来该怎么办。

    A pale astronomical impression in graphite and copper, with a soft amber penumbra on warm paper.An oblique elliptical aperture built from dense engraved curves, lit by a single distant blue-white edge.

    微调被证伪了吗?没有。OpenAI 和 Mistral 正在逐步停止自家模型的自助微调,而用团队自己的任务数据训练开放模型,依然能带来可测量的提升,我们已发表的 QMSum 研究中最大的一项单一提升就来自这里。

    "微调已经过时"的说法有明确的出处。Latent Space 的 AINews 通讯在 2026 年 5 月 13 日发表的 "The End of Finetuning" 中,在 OpenAI 弃用微调之后,把微调称为"the next casualty of the 2026 Side Quest massacre"(2026 年砍掉支线项目浪潮中的下一个牺牲品),并认为 AI 工程行业里八成的从业者"大概本来就在往这个方向走"。同一篇文章也提到,以 Cursor 和 Cognition 为代表的头部团队,反而加大了对开放模型的强化微调和使用。

    本文介绍闭源实验室停掉了什么、为什么说这是产品决策、训练好的开放模型在哪些场景胜出(附我们的实测结果),以及什么时候写好提示词就够了。

    闭源实验室停掉了什么,为什么?

    三家服务商先后收缩了自家模型的微调服务,各有各的时间表。以下信息均于 2026 年 10 月 28 日从各服务商的官方文档查得。

    服务商变化
    OpenAI2027 年 1 月 6 日起不再接受新的微调任务
    Mistral微调 API 已弃用,不再积极维护
    GoogleGemini API 于 2025 年 5 月取消微调

    OpenAI 正在分阶段关闭,详见其弃用说明页面。从未做过微调的组织在 2026 年 5 月 7 日失去权限;60 天内没有调用过微调模型的组织在 2026 年 7 月 2 日失去权限;其余客户可以创建任务到 2027 年 1 月 6 日。微调模型会一直可用,直到其基础模型下线,而 GPT-4o、GPT-4o mini、GPT-4.1 和 GPT-4.1 mini 将于 2027 年 1 月 14 日下线。

    Mistral 把微调 API 列入已弃用功能,原文是:"This feature is deprecated and is no longer actively supported."(该功能已弃用,不再积极维护。)

    Google 随着 Gemini 1.5 Flash-001 在 2025 年 5 月弃用,从 Gemini API 和 AI Studio 中取消了微调,但仍通过 Gemini Enterprise Agent Platform 为多款 Gemini 模型提供监督式微调。

    OpenAI 的公告没有说明原因。Latent Space 把它看作各家实验室 2026 年砍掉支线项目的一部分,算力紧张也能解释这一点。无论原因是什么,这都是服务商对自己要托管什么所做的决定。每个微调模型都是一个单独的模型,服务商要为一位客户的流量去部署、维护版本,最后还要下线;一家专注于通用模型的实验室,有充分的理由停掉这项服务。这些理由关乎服务商的生意。训练到底有没有用,要靠测量训练好的模型来回答,下一节就是这样做的。这些弃用倒是说明了租用训练好的模型要付出的代价:基础模型一下线,微调模型也随之消失。

    训练好的开放模型在哪里胜出?

    当同一项任务大量重复、输出可以核对、指令在每个提示词里重复出现时,训练好的模型就会胜出。我们研究中的四项结果说明了这一点。

    针对任务训练,比改进输入的作用更大。 在我们的 QMSum 研究(arXiv 2609.25028)中,任务是按查询生成会议摘要。我们固定一个基础模型,每次只改变一个条件。给它更好的输入,也就是用检索出的会议记录片段代替记录开头的文字,在测试集上把 ROUGE-1 提高了 1.55,在验证集上提高了 0.29。再用同样形式的片段输入训练它,ROUGE-1 又提高了 5.29,95% 置信区间为 +4.02 到 +6.56。一个第三方发布的专用模型在不重新训练的情况下换成新的输入形式,ROUGE-1 下降了 6.30,用新形式训练之后,损失又全部补了回来。

    更小的训练模型保住了质量。 一个比我们主系统小得多、用同样方式训练的专用模型,ROUGE-1 为 36.33,我们的系统为 35.41,这个差距在该基准上无法从统计上区分。它所需的推理峰值内存还不到一半。

    训练好的模型,运行成本只是零头。 一个专为这项任务训练的模型,估算的每次查询服务成本比 Claude Opus 5 低 99%,比 GPT-5.6 Luna 低 96%,响应速度是 Claude Opus 5 的 23 倍。这些数字按 2026 年 9 月的价格计算,不含训练成本。论文对它与托管前沿模型的质量比较设了限定:那些模型的回答更长,而且没有做人工评估或事实性评估。因此,我们依据的结论是成本、速度和训练带来的提升幅度。

    支出集中在可重复的工作上。 根据 OpenRouter 截至 2026 年 10 月 12 日的 30 天公开数据,分类、信息抽取和格式转换占了已分类模型支出的 20.8%,每 token 价格是平均水平的 1.50 到 1.84 倍;在这些任务上,支出最多的十个模型里有 75% 到 87% 的支出流向闭源前沿模型。这类任务的输出是标签和结构化记录,训练好的模型可以在上面得到精确的评估。

    训练好的模型还会改变 token 数量。前沿模型在每个提示词里都需要的指令、流程规范和示例,被训练进了模型,每项任务发送的 token 因此变少。我们关于 AI 初创公司毛利率的文章,用真实负载的提示词大小把两个成本维度算了一遍。

    什么时候写好提示词就够了?

    对多数新任务来说,给前沿模型写提示词是正确的起点,有些任务一直这样做也没问题。

    情况从这里开始
    每月只有几千项任务用提示词调用前沿模型
    任务定义每周都在变写提示词,同时记录示例
    每次请求都不同的开放式工作前沿模型
    经常变化的事实信息检索(RAG)
    同一项任务大量重复训练好的模型
    每个提示词都带着很长的重复指令训练好的模型
    输出可以按模式核对训练好的模型

    这样分工遵循我们在每个项目里都用的一条原则:行为、格式和任务技能放进模型,会变化的事实交给检索。提示词是摸清任务需要什么的最快方式。等任务稳定、用量上来,记录下来的示例就成了训练集,而写提示词期间建立的评估集,就成了训练好的模型必须达到的标准。两种技术的取舍,可以参阅微调与 RAG 的比较。

    在 OpenAI 上做过微调,接下来怎么办?

    保留好您的训练数据、评估集和生产日志,因为微调模型本身留在 OpenAI 的 API 上,会随基础模型一起下线。用开放模型重新训练这项任务,通过兼容 OpenAI 的 API 提供服务,并在 2027 年 1 月 14 日之前与旧的微调模型做对比,趁原模型还在,可以作为基准。我们的迁移指南讲解了四个步骤,单任务成本计算器(英文)则能算出切换后账单会怎样变化。

    Ertas 的自适应模型端点正是为此准备的:一个用您的任务训练的模型,通过兼容 OpenAI 的 API 提供服务;每个新版本都要先通过您的评估集,并经您的团队批准后才接入流量。它可以由 Ertas 托管,也可以部署在您自己的云上或本地。该端点目前仅限受邀企业使用,我们正在开发一个更简化的版本,让更多企业可以接入。

    常见问题

    微调被证伪了吗?

    没有。OpenAI 和 Mistral 正在逐步停止自家模型的自助微调,这是关于托管什么的产品决策。用任务数据训练开放模型依然能带来实测的提升:在我们的 QMSum 研究中,同一个基础模型经过训练,ROUGE-1 提高了 5.29,是改进输入所带来提升的三倍多。

    微调还有人用吗?

    有。团队每天都在训练开放模型,让模型在某项任务上稳定可靠;截至 2026 年 10 月,Google 也仍通过 Gemini Enterprise Agent Platform 提供 Gemini 的监督式微调。宣告微调终结的 Latent Space 通讯本身也提到,领先的 AI 公司加大了强化微调和开放模型的使用。

    微调一个大语言模型要花多少钱?

    截至 2026 年 10 月 28 日,OpenAI 的监督式微调收费为:GPT-4.1 mini 每百万训练 token 5 美元,GPT-4.1 和 GPT-4o 为 25 美元,仅限现有客户,截止到 2027 年 1 月 6 日。在 Ertas Studio 里自行训练开放模型可以免费起步,截至 2026 年 10 月,付费套餐每月 10 美元起。由 Ertas 代为构建则是固定费用,在免费评估后确定。

    哪个大语言模型最适合微调?

    在预留评估集上能达到您质量标准的最小开放权重模型,并且许可证允许商用。用您自己的示例比较几种规模。为一项任务训练的模型可以比通用模型小得多,却在这项任务上表现相当。

    什么时候该微调,而不是只写提示词?

    当任务稳定、用量大、每个提示词都带着很长的指令,或者输出可以按模式核对时。用量小、开放式的工作,以及仍在定义中的任务,写提示词仍是更好的选择。

    Gemini 支持微调吗?

    通过 Gemini Enterprise Agent Platform 可以:截至 2026 年 10 月 28 日,Google 为 Gemini 3.5 Flash、Gemini 3.5 Flash-Lite、Gemini 3.1 Flash-Lite 以及三款 Gemini 2.5 模型提供监督式微调。Gemini API 和 AI Studio 自 2025 年 5 月起已没有可微调的模型。

    简短版

    闭源实验室正在退出托管自家模型微调版本的业务。用您自己的任务训练模型依然有效,训练好的开放模型想用多久就能用多久。任务还新、用量还小时,用提示词;任务稳定、重复、成本高时,就训练一个模型。如果您最关心的是钱,可以先读AI 初创公司的推理成本花在了哪里。


    资料来源,均于 2026 年 10 月 28 日查阅:Latent Space,"The End of Finetuning"(2026 年 5 月 13 日);OpenAI,弃用说明和 API 价格;Mistral,微调 API(旧版);Google,Gemini API 微调和 Gemini Enterprise Agent Platform 监督式微调。我们的研究:QMSum 研究和 OpenRouter 结构化任务报告。