跳到正文
    Ertas
    Back to blog

    基础模型与特定任务模型:区别与选择

    基础模型与特定任务模型有什么区别?本文讲清两者各是什么、什么时候为单一任务训练的模型胜出、今天就能下载的特定任务模型示例,以及如何把一家企业的工作拆分给多个专用模型,再通过路由把它们组合起来。基础模型则继续承担开放式的工作,并为超出范围的请求兜底。

    A pale astronomical impression in graphite and copper, with a soft amber penumbra on warm paper.A copper-engraved planetary limb with an amber atmosphere and a sweeping orbital band.

    基础模型与特定任务模型的区别,归根结底是广度与专注之间的取舍。基础模型用广泛的数据训练,可以适配许多任务。特定任务模型只为一项工作而训练,而且大多数一开始就是一个基础模型,之后再用这项工作的示例继续训练。工作还开放、还在变化、或者用量不大时,基础模型是更好的选择。一旦同一项工作大量重复、输出可以核对,特定任务模型就会胜出,因为它每项任务的成本更低,也更容易稳定在既定的质量标准上。

    本文介绍两类模型各是什么、各自在什么时候胜出、今天就能下载的特定任务模型示例,以及它们与领域专用模型的区别。最后谈谈我们实验室的出发点:一家企业的工作可以拆分给多个专用模型,每个只为一项工作训练,再通过路由组合起来。

    什么是基础模型?

    基础模型是用广泛数据训练、可以适配各种任务的大模型。这个术语出自 Rishi Bommasani 等人 2021 年在斯坦福基础模型研究中心(CRFM)发表的报告 "On the Opportunities and Risks of Foundation Models"。报告把这类模型描述为"在大规模的广泛数据上训练,并能适配各种下游任务"的模型,当时举的例子是 BERT、DALL-E 和 GPT-3。如今这个标签涵盖 GPT、Claude、Gemini 系列,以及 Llama、Qwen、Gemma 等开放权重模型系列。

    适配基础模型有两种方式:一是写提示词,在每次请求里放入指令和示例;二是用自己的数据继续训练它。同一份报告也点出了其中的隐患:"基础模型的缺陷会被下游所有适配模型继承。"每个建立在基础模型之上的特定任务模型,都会同时带着底座的长处和短处出发,所以专用模型需要有自己的评估。

    什么是特定任务模型?

    特定任务模型是为一项明确工作而训练的模型,输入类型固定,输出类型也固定。给客服工单分类、从发票中抽取字段、决定智能体该调用哪个工具、给搜索结果排序、针对某个问题总结一场会议,这些都各是一项任务。因为工作范围窄,它就有测试集:您可以说清楚正确答案长什么样,并衡量模型给出正确答案的频率。

    如今大多数特定任务模型,是在基础模型之上用任务示例继续训练得到的,方法是微调,或者从更大的模型蒸馏。模型大小取决于任务。我们 QMSum 研究中的检索模型只有 33M 参数,而一项困难的推理任务可能需要大模型。更贴切的说法是"大小合适":能守住任务质量标准的最小模型。

    基础模型特定任务模型
    训练数据大规模的广泛数据单一任务的示例
    能做什么许多任务,由提示词引导一项工作,输入输出固定
    规模通常很大按任务确定合适大小
    每次请求的提示词每次都带指令和示例很短,指令已训练进模型
    任务上的质量不经任务训练也不错由训练决定,用留出示例核对
    每项任务成本每 token 价格更高,token 更多每 token 价格更低,token 更少
    典型失误格式漂移、回答冗长遇到所学任务之外的输入
    最适合开放、多变或用量小的工作稳定、重复、可核对的工作

    哪种 AI 系统只能完成特定任务?

    特定任务模型,在较早的术语里叫作弱人工智能(narrow AI)。IBM 把弱人工智能描述为"可以被训练来执行单一或狭窄任务"的 AI,并且无法在其限定任务之外工作。IBM 还认为,如今在用的所有 AI 系统都属于弱人工智能,聊天助手也包括在内,所以实际的分界在模型这一层。垃圾邮件过滤器、段落排序模型、内容安全分类器都是为一项工作而建,也只做这一项工作。聊天助手背后的基础模型,则是提示词让它做什么,它就做什么。

    特定任务模型什么时候胜过基础模型?

    当同一项任务大量重复、输出可以核对、同样的指令在每个提示词里重复出现时。用量能摊薄构建模型的成本,可核对的输出提供了训练所对照的评估,而重复的指令正是训练能从每次请求中省掉的部分。我们已发表的结果在一项任务上展示了这个规律。

    针对任务训练,比改进输入更能提升质量。 在我们的 QMSum 研究(arXiv 2609.25028)中,任务是按查询生成会议摘要。我们固定了一个 1.2B 的基础模型。把会议记录开头的 4,500 个词换成检索出的 2,000 个词,测试集上 ROUGE-1 提高 1.55,验证集上提高 0.29。再用同样的检索片段对它做微调,ROUGE-1 又提高 5.29,95% 置信区间为 +4.02 到 +6.56。

    更小的专用模型守住了标准。 一个用同样方式训练的 406M 专用模型,ROUGE-1 为 36.33,我们的 1.2B 系统为 35.41,这个差距在 QMSum 上无法从统计上区分,而它的推理峰值内存还不到一半。

    在该基准的指标上,专用模型得分高于托管的通用模型。 在同一个简洁提示词和基于参考文本重叠的评分方式下,一个已公开发布的 406M 专用模型,ROUGE-1 比受测的五个专有托管模型中的每一个都高出至少 6.2。论文对这个排序设了限定:托管模型的输出偏长,而且没有做人工评估或事实性评估。以上所有结论都只限于 QMSum 和自动指标。

    支出集中在可重复的工作上。 根据 OpenRouter 截至 2026 年 10 月 12 日的 30 天公开数据,分类、信息抽取和格式转换占了已分类模型支出的 20.8%,每 token 价格是平均水平的 1.50 到 1.84 倍。这类任务的输出是标签和结构化记录,专用模型可以在上面得到精确的评估。

    成本从两方面下降。特定任务模型的每 token 价格低于它所替代的前沿模型;每项任务需要的 token 也更少,因为每个提示词里重复的指令和示例已经训练进模型本身。第二方面能省多少,取决于每个提示词里有多少是重复的固定内容;前沿 API 的提示词缓存本来就给重复上下文打了折,所以请用您自己的流量来衡量。每项任务成本计算器可以为一项工作负载同时算出这两个数字。

    NVIDIA 的研究人员对智能体也提出了同样的观点。Peter Belcak 等人在 2025 年的立场论文 "Small Language Models are the Future of Agentic AI" 中指出,在智能体应用里,语言模型"重复执行少量专门任务,变化很小"。他们认为,对智能体系统中的许多调用来说,小模型"能力足够、本质上更合适,而且必然更经济"。

    什么时候基础模型是更好的选择?

    当工作是开放的、仍在定义之中,或者用量太小、不值得训练时。以下四种情况更适合基础模型:

    • 新任务。 写提示词是弄清任务需要什么的最快方法。
    • 每次都不一样的请求, 比如调研、起草和开放式对话。
    • 用量小。 每月只有几千项任务,通常不值得专门构建模型。
    • 知识面广或变化快。 基础模型配合检索,可以覆盖不断变化的事实。

    专用模型的训练数据,也正是在写提示词的阶段积累起来的。记录提示词和输出,改正错误的输出,并留出一组测试集。任务稳定下来之后,这些记录就成为训练数据,留出的测试集就成为专用模型必须达到的标准。我们关于微调是否已死的文章,在提示词和训练之间划出了同样的界线。

    特定任务模型有哪些例子?

    公开的特定任务模型有很多。下面列出五个,均于 2026 年 10 月 29 日查阅其模型卡或论文:

    模型任务基于
    BART-large-CNN新闻摘要BART,在 CNN Daily Mail 上微调
    ms-marco-MiniLM-L6-v2按查询给段落排序在 MS MARCO 上训练的交叉编码器
    Llama Guard 3-1B内容安全分类Llama 3.2 1B,经过微调
    FunctionGemma函数调用Gemma 3 270M
    QMSum 定位器与摘要器按查询生成会议摘要Ertas 研究模型

    BART-large-CNN 是在 CNN Daily Mail 上微调过的 BART,这个数据集是"大量文本与摘要配对的集合"。它的模型卡只列出一种预期用途:文本摘要。

    ms-marco-MiniLM-L6-v2 接收一个查询和一个段落,给段落回答该查询的程度打分,搜索系统就能据此给结果排序。

    Llama Guard 3-1B 用 Meta 自己的话说,是"经过微调、用于内容安全分类的 Llama-3.2-1B 预训练模型"。它把提示词或回复标记为安全或不安全,并列出违反的类别;Meta 设计它的目的之一是降低内容审核的部署成本。

    FunctionGemma 处在更早的一步。Google 发布它,是"作为基础,用来打造您自己的专用函数调用模型"。它基于 Gemma 3 270M,"旨在针对您的特定函数调用任务进行微调"。它本身就是一个专用底座,供您用自己的工具再做一次专门化。

    我们的 QMSum 系统由两个专用模型组成。一个 33M 的定位器根据问题给会议记录的各个窗口打分,一个摘要器再根据得分最高的片段写出回答。两者都发布在 Hugging Face 的 ErtasAI 账户下。

    特定任务模型和领域专用大语言模型有什么区别?

    领域专用大语言模型懂一个领域,特定任务模型做一项工作。领域模型学习法律、医疗或金融等领域的术语、事实和惯例,然后服务该领域内的许多任务,从回答问题到起草文件。特定任务模型由一种输入和一种输出来定义,比如从合同中提取当事方和日期,而这样的工作可以出现在任何领域。两者可以很好地结合:领域专用大语言模型可以作为训练任务模型的底座,让专用模型一开始就懂这个领域的语言。我们关于领域专用大语言模型的指南,介绍了领域知识如何进入模型。

    企业的工作能拆分给多个专用模型吗?

    这正是我们实验室的出发点,而且早有先例。亚当·斯密在《国富论》第一卷第一章描述过一家制针作坊:制作一枚针被"分成大约十八道不同的工序"。十名工人,其中有人兼做两三道工序,一天能做"四万八千多枚针",平均每人约 4,800 枚。斯密判断,如果各自单独干,"他们每人一天肯定做不出二十枚,也许连一枚都做不出来"。

    把分工用在模型上,大致是这样的。以客服流程为例,处理一张工单可以拆成几步:给请求分类,提取其中的账户信息,找到相关政策,起草回复,再对照政策检查草稿。每一步都有自己的输入、输出和测试集,所以每一步都可以有一个专为它训练、大小合适的专用模型。路由器把每一步交给对应的专用模型,超出这些专用模型所学范围的请求则交给基础模型。由于路由由工作本身的结构决定,您总能知道是哪个模型给出了回答,以及它被训练来做什么。

    斯密的作坊也说明,怎么拆分是一项设计决策,毕竟有些工人要兼做两三道工序。小到不值得单独建模的步骤,可以和相邻的步骤共用一个模型;开放式的步骤则留给基础模型。

    到目前为止,我们实测过的证据覆盖的是单项任务,以及 QMSum 研究中的双模型流程。一个经路由组合的专用模型网络,能否在企业的全部工作负载上与前沿通用模型相当,是我们实验室正在研究的问题,结果出来后我们会陆续发表。NVIDIA 的论文也主张,在智能体同时需要通用对话能力时采用同样的架构,即"异构智能体系统(也就是调用多个不同模型的智能体)"。路由的具体做法,请参阅 LLM 路由策略和词汇表中的模型路由条目。

    怎样把一项任务从基础模型迁移到专用模型?

    从一个重复的步骤开始,并保留基础模型作为兜底。

    1. 选定任务。 选择账单最高的重复步骤,用每项任务成本来衡量。
    2. 做好记录。 保留基础模型在生产环境中的提示词和输出,并改正错误的输出。
    3. 建立评估集。 留出专用模型在训练中从未见过的示例,并在训练前商定及格线。
    4. 训练并确定大小。 用记录下来的示例训练几种不同大小的模型,保留能通过评估的最小那个。
    5. 路由并观察。 先让专用模型在基础模型旁边影子运行,再把流量切过去,超出范围的请求仍由基础模型处理。

    Ertas 把这套做法做成了自适应模型端点:一个用您智能体的任务训练、通过 OpenAI 兼容 API 提供服务的专用模型。新版本在后台用您智能体的流量训练,用您的评估打分,只有经您批准才会上线。如果新版本没有达到标准,当前模型会继续服务。它可以由 Ertas 托管,也可以部署在您自己的云上或本地。端点目前仅限受邀使用,我们正在开发一个更精简的版本,以便更广泛地开放。

    常见问题

    哪种 AI 最适合特定任务?

    为这项任务训练的模型,具体选哪个,要用您自己留出的示例测试几个候选模型来决定。公开排行榜衡量的是通用能力,您这项任务的评估集衡量的才是您需要的东西。先用提示词驱动基础模型,记录结果,等任务稳定、重复之后再训练专用模型。

    特定任务的小语言模型有哪些例子?

    用于新闻摘要的 BART-large-CNN、用于段落排序的 ms-marco-MiniLM 交叉编码器、用于内容安全分类的 Llama Guard 3-1B,以及基于 Gemma 3 270M、用于函数调用的 FunctionGemma。每个模型都附有模型卡,说明它所做的那一项工作。

    特定任务模型一定很小吗?

    它们通常比基础模型小,具体大小取决于任务。排序或检索这类步骤,几千万参数的模型就能胜任;困难的推理任务则可能需要大模型。原则是选用在留出示例上能守住任务质量标准的最小模型。

    微调过的模型还算基础模型吗?

    微调过的模型是经过适配的基础模型。一旦为一项工作训练完成,它的表现就是特定任务模型,同时也保留了底座原有的缺陷:斯坦福的报告提醒过,基础模型的缺陷会"被下游所有适配模型继承"。请在它自己的任务上对它进行评估。

    特定任务模型收到任务范围之外的请求会怎样?

    回答质量会下降,因为它从没学过这类输入。两种办法可以配合使用:用它应当拒绝的示例训练它,并在请求到达它之前,把超出范围的请求路由给基础模型。

    简短版

    工作还新、开放或用量小时,用基础模型。同一项工作大量重复、输出可以核对时,训练一个特定任务模型:它每项任务的成本更低,价格和 token 数量都会下降,质量也能稳定在既定标准上。把工作流程拆成若干步骤,给重复的步骤配上各自的专用模型,其余的交给路由器转给基础模型。如果您最关心的是钱,可以先从每项任务成本读起。


    资料来源,均于 2026 年 10 月 29 日查阅:Bommasani 等,"On the Opportunities and Risks of Foundation Models"(斯坦福 CRFM,2021);Belcak 等,"Small Language Models are the Future of Agentic AI"(NVIDIA,2025);IBM,"Types of Artificial Intelligence";亚当·斯密,《国富论》第一卷第一章(Project Gutenberg 英文版);BART-large-CNN、ms-marco-MiniLM-L6-v2、Llama Guard 3-1B 和 FunctionGemma 的模型卡。我们的研究:QMSum 研究和 OpenRouter 结构化任务报告。