What is 持续学习?

Definition

持续学习（continual learning）是让同一个模型随着时间推移，在一系列任务或数据上依次训练，使它在获得新能力的同时保留已有的能力。每一轮都从模型的上一个版本出发，用新数据更新它。核心难点是灾难性遗忘：一次对新数据有帮助的更新，可能会覆盖之前各轮教给模型的东西。这个研究领域可以追溯到 McCloskey 和 Cohen 在 1989 年对这种干扰的描述。

在 AI 智能体中，这个词的用法更宽。LangChain 的 Harrison Chase 在 "Continual learning for AI agents"（2026 年 4 月 5 日）中把智能体的持续学习分成三层：模型，其权重会改变；harness，即驱动智能体的代码和内置指令；以及上下文，即提供给它的记忆和按用户设置的指令。Harness 和上下文的改动做起来快，回滚也容易。模型层的持续学习则用智能体自己的流量训练下一个模型版本，改变的是模型本身能做什么。

产品文章常用 continuous learning 表达同一个意思。Arize 的开发者指南（最近一次审阅于 2026 年 8 月 16 日）指出，在产品讨论中这两个词可以互换。

Why It Matters

只训练一次的模型，从上线那天起就开始过时。用户的提问方式会变，工具和上游数据的形态会变，新的边缘情况也会出现。Google Research 关于 sleep framework 的文章（2026 年 10 月 27 日）指出，已部署的大型语言模型在很大程度上是静态的，知识截止日期固定不变。持续学习让模型跟上它正在做的工作。

对于大量重复同一项任务的智能体，模型层还决定了成本。每个提示词都要携带的指令和示例可以训练进模型，因此每项任务需要的 token 更少，而针对任务训练的专用模型，每个 token 的价格通常也低于前沿模型。每一轮训练也都可能丢掉一些能力，所以每个新版本在接收流量之前都需要一道评估门槛。

How It Works

在模型层，持续学习作为一个循环在后台运行，当前模型照常提供服务。系统记录智能体的请求、响应和结果，从这些流量中挑出候选训练样本，由负责该智能体的团队批准。新版本在批准的样本上训练，并混入之前几轮的样本（重放），以保留之前几轮学到的东西。然后用团队的评估给新版本打分：一套定义质量标准的任务集，加上一套收录当前模型已经处理得很好的案例的回归集。新版本只有在团队签字确认后才会上线，如果没有达标，当前模型继续提供服务。

能够减轻各轮之间遗忘的技术包括：重放、弹性权重巩固等正则化方法、LoRA 等参数高效训练方法，以及 O-LoRA 和 OSFT 等正交子空间方法。每一种都能降低风险，而每个版本在发布前仍要经过测量。

Example Use Case

一个客服智能体负责给收到的工单分类并起草回复。一次产品发布后，出现了一类新问题，模型总是把它分错。团队从智能体的流量中批准了几百条更正后的样本，新版本模型在这些样本和之前几轮的样本上训练。新版本在任务集上打分，也在覆盖当前模型已经处理好的各类问题的回归集上打分。它在两套集合上都达到标准，团队签字确认，新版本替换了当前模型。如果它在回归集上退步，当前模型就会继续提供服务，失败的案例则进入下一轮训练。

Key Takeaways

• 持续学习让一个模型分多轮训练，同时保留之前各轮学到的东西。
• 对 AI 智能体来说，持续学习发生在三层：模型、harness 和上下文。
• 在模型层，智能体自己的流量训练出每个新的模型版本。
• 灾难性遗忘是主要风险，重放、正则化、LoRA 和正交子空间方法都能减轻它。
• 带回归集的评估门槛决定新版本能否替换当前版本。