跳到正文
    Ertas
    Back to blog

    AI 智能体的持续学习:模型层

    AI 智能体在模型层的持续学习:智能体自己的流量训练出每个新的模型版本,新版本先用您的评估打分,通过后才上线,未达标时当前模型继续服务。本文介绍 LangChain 的模型、harness、上下文三层框架,发布门槛和回归集的设计,以及持续学习与一次性微调的区别。

    A pale astronomical impression in graphite and copper, with a soft amber penumbra on warm paper.Two fine engraved orbital fields crossing in deep space, with cool cyan light and a warm distant seam.

    AI 智能体的持续学习(continual learning),是指智能体上线之后能从自己的工作中变得更好。LangChain 的 Harrison Chase 把它分成三层:模型、包在模型外面的 harness,以及提供给模型的上下文。本文讲的是模型层:智能体自己的流量训练出下一个模型版本,而这个版本只有在您的评估中达到标准后才会上线。

    关于智能体持续学习的文章,大多讲的是记忆、提示词和 harness 代码,这几层改起来最快。模型层决定了一项重复任务的成本,也决定了智能体完成它的可靠程度,所以本文聚焦这一层:持续学习对大型语言模型意味着什么,什么时候该训练模型,发布门槛如何运作,以及它和一次性微调有什么区别。

    AI 智能体的持续学习是什么?

    AI 智能体的持续学习,是把智能体在生产环境中的表现转化为改进,让它之后的运行变得更好。在 "Continual learning for AI agents"(2026 年 4 月 5 日)一文中,LangChain 的 Harrison Chase 指出这种学习可以发生在三层,而多数讨论一上来就跳到了模型权重。

    三层分别改变什么:

    层改变的内容例子
    模型模型权重在运行轨迹上做监督微调或强化学习
    Harness智能体代码、内置工具和指令编程智能体根据日志提出 harness 修改
    上下文记忆、技能和按用户设置的指令智能体更新自己的记忆文件

    Harness 和上下文的改动做起来快,回滚也容易,所以多数团队从这里起步。Arize 的持续学习开发者指南(最近一次审阅于 2026 年 8 月 16 日)也观察到同样的情况:生产环境中的改进循环,通常先改进模型周围的系统,再去更新模型本身。三层之中,权重改动触及最深,因此它在到达用户之前需要一道评估门槛。

    持续学习对大型语言模型意味着什么?

    在机器学习研究中,持续学习是指让一个模型在一系列任务或数据上依次训练,同时保留之前学到的能力。其中的难点有个名字,叫灾难性遗忘:用新数据训练会削弱模型原本会做的事。Michael McCloskey 和 Neal J. Cohen 在 1989 年描述了这一现象,至今它仍是这个领域的核心问题之一。

    Google Research 的 sleep framework(2026 年 10 月 27 日)就从这个问题出发。文章指出,已部署的大型语言模型在很大程度上是静态的,知识截止日期固定不变,并提出一个离线的"睡眠"阶段,让模型把见过的内容整合进权重。a16z 的 "Why We Need Continual Learning"(2026 年 4 月 22 日)把各种方法放在一条光谱上:一端是权重冻结的检索,中间是可挂载的模块,另一端是权重更新,并称后者最为深入,也最难投入生产。

    研究中的含义和生产中的含义,在模型层交汇。一个团队用智能体的流量重新训练它的模型,就是在做研究意义上的持续学习,也会继承研究中的那个难题。我们关于大型语言模型微调中的灾难性遗忘的文章介绍了缓解方法。

    什么时候该训练模型,什么时候改 harness 或上下文?

    当智能体大量重复同一项任务、每个提示词都带着同样的指令,或者输入已经偏离了模型训练时的样子,就该训练模型。改 harness 和上下文,调整的是告诉模型的内容;更新权重,改变的是模型拿这些内容能做什么。

    重复的指令在每次 API 调用中都要消耗 token。 一个智能体如果每次请求都发送同样的流程说明、示例和上下文,每次都要为它们付费。针对任务训练的专用模型把这些内容装进了模型,因此每项任务需要的 token 更少,而且每个 token 的价格通常也低于它所替代的前沿模型。第二项节省有多大,取决于每个提示词里重复内容的比例,以及您是否需要为推理 token 付费。单任务成本计算器把这两个维度都算了一遍,我们关于 AI 初创公司毛利率的文章则用真实的提示词规模展示了它们。

    输入会漂移,按旧形态训练的模型在新形态上会掉质量。 在我们的 QMSum 研究(arXiv 2609.25028)中,一个已公开发布的会议摘要专用模型,从读取长篇会议记录改为读取检索出的记录片段后,ROUGE-1 下降了 6.30。用新的输入形态训练它之后,损失得到了恢复。一个智能体的工具、用户或上游数据会随着时间变化,也会遇到同样的效应,而用近期流量重新训练,就是让模型跟上变化的办法。

    在任务上训练带来的质量提升最大。 在同一项研究中,在同一个基础模型内,用片段输入训练带来了 5.29 的 ROUGE-1 提升,而单纯改进输入只带来 1.55。这只是公开基准上的一轮训练。它说明了杠杆在哪里,至于在真实流量上一轮接一轮的提升,目前还没有结论。

    模型层的持续学习如何运作?

    在模型层,持续学习是一个五步循环,在后台运行,当前模型照常提供服务:

    1. 采集。 记录智能体的请求和响应,以及它们的结果:用户的更正、失败的工具调用、下游的检查。
    2. 筛选。 从这些流量中挑出候选训练样本,由您的团队批准模型从哪些样本中学习。
    3. 训练。 新版本在批准的样本上训练,并混入之前几轮的样本,以保留之前几轮学到的东西。
    4. 评估。 用您的评估给新版本打分:一套定义质量标准的任务集,加上一套回归集,收录当前模型已经处理得很好的案例。
    5. 发布或保留。 新版本只有在您签字确认后才会上线。如果它没有达标,当前模型继续提供服务。

    第 4 步和第 5 步的门槛承担了大部分分量,我们研究中的两个习惯在这里同样适用。QMSum 研究遵循冻结的协议:一个评分器、完整的官方测试集,每个系统最多在测试集上运行一次。研究还测量了分数会因偶然因素波动多少:只改变训练随机种子,两次运行之间验证集 ROUGE-1 就相差 1.59,足以抹掉一项 1.5 分的配置提升。发布门槛需要这两个习惯:在给新版本打分之前就定好规则,并设定一个大于运行间噪声的容差。

    门槛比较的对象,和阈值本身同样重要。只看触发这次重新训练的那些案例,看到的是修复效果。回归集收录当前模型答对的案例,再按 Arize 指南的建议加入少量无关案例,就能同时看到这次修复弄坏了什么。我们的指南用真实对话构建评估数据集介绍了如何把这两部分都建起来。

    持续学习和微调有什么区别?

    微调是在固定数据集上进行的一次训练;持续学习则是随着时间推移在新数据上反复微调,并且必须保留之前几轮学到的东西。两者使用相同的训练方法,区别在于围绕训练的那套流程。

    微调持续学习
    数据固定的训练集持续的生产流量
    产出一个训练好的模型一系列模型版本
    主要风险对训练集过拟合丢掉之前几轮学到的东西
    检查上线前一次评估每次发布前做回归评估

    持续学习的每一轮都是一次微调。多出来的工作是围绕它的记录与管理:每一轮看到哪些数据,每个版本和什么比较,由谁签字确认。至于什么时候单次微调就是合适的工具,可以读微调已死?。

    什么时候智能体的模型应该保持不变?

    当任务还在定义之中、用量很小,或者变化的是事实性信息时,就保留当前模型。每周都在变的任务,在稳定下来之前,用提示词和 harness 来引导更划算。每月只有几千项任务时,一轮训练的成本会高于它省下的钱。价格、政策、库存这类经常变化的事实,应该放进检索,更新在下一次请求时就会生效。

    一个实用的分工:行为、格式和任务技能放进模型,会变化的事实放进检索或上下文。模型层的持续学习,让前一部分随着智能体工作的变化保持最新。

    Ertas 端点在其中处于什么位置?

    Ertas 的自适应模型端点在模型层运行持续学习。它通过一个 API 提供一个用您的智能体工作训练出的专用模型。上线后,这个专用模型持续从您的智能体流量中学习:每个新版本在后台训练,并用您的评估打分。训练样本和每一次发布都由您批准,如果新版本没有达标,当前模型继续提供服务。

    Harness 和上下文这两层仍由您的智能体工具负责,端点作为模型位于它们之下。它可以由 Ertas 托管,也可以部署在您的云中或本地。端点目前仅限受邀使用,我们正在开发一个更精简的版本,以便更多团队使用。

    常见问题

    AI 智能体能持续学习吗?

    能,而且发生在三层。智能体可以在工作中更新自己的记忆和上下文,它的 harness 可以在两次发布之间根据记录的运行轨迹改进,它的模型可以用它的流量重新训练。模型更新在后台运行,每个新版本在替换当前版本之前都要通过评估。

    continual learning 和 continuous learning 是一回事吗?

    在产品文章中,这两个词通常可以互换,Arize 的指南也指出了这一点。研究中用 "continual learning" 指让一个模型在一系列任务或数据上训练,同时保留它已经掌握的能力。

    持续学习会导致灾难性遗忘吗?

    可能会,因为每一轮训练都会更新之前的能力所依赖的权重。重放之前几轮的样本、采用保守的训练设置,以及使用正交子空间方法,都能降低这种风险,而每次发布前的回归评估可以发现漏网的问题。

    智能体的模型应该多久重新训练一次?

    当新批准的样本积累到足以改变评估结果,或者监控显示输入出现漂移时,就重新训练。节奏不如门槛重要:新版本只有在对比当前版本达标后才会发布。

    模型层的持续学习需要哪些数据?

    智能体的运行轨迹:请求、响应、工具调用及其结果,再加上一套定义该任务良好输出的评估集。用户和审核人员的更正是最有价值的样本,因为它们准确标出了当前模型的不足之处。

    简短版

    AI 智能体的持续学习发生在三层,其中模型层最深。用智能体自己的流量训练下一个模型版本,可以减少每项任务所需的 token,并让模型在输入变化时保持最新。它也带回了这个领域最古老的问题:遗忘。所以每个版本在接收流量之前都要通过回归门槛,在新版本通过之前,当前模型继续提供服务。


    资料来源,均于 2026 年 10 月 29 日查阅:LangChain,"Continual learning for AI agents"(Harrison Chase,2026 年 4 月 5 日);Arize,"Continual learning for AI agents and LLM systems"(最近一次审阅于 2026 年 8 月 16 日);Google Research,"The sleep framework"(2026 年 10 月 27 日);a16z,"Why We Need Continual Learning"(2026 年 4 月 22 日)。我们的研究:QMSum 研究(arXiv 2609.25028)。