AI 智慧代理的持續學習（continual learning），是指代理上線之後能從自己的工作中變得更好。LangChain 的 Harrison Chase 把它分成三層：模型、包在模型外面的 harness，以及提供給模型的脈絡。本文談的是模型層：代理自己的流量訓練出下一個模型版本，而這個版本只有在您的評估中達到標準後才會上線。
關於代 理持續學習的文章，大多談的是記憶、提示詞和 harness 程式碼，這幾層改起來最快。模型層決定了一項重複任務的成本，也決定了代理完成它的可靠程度，所以本文聚焦這一層：持續學習對大型語言模型意味著什麼，什麼時候該訓練模型，發布門檻如何運作，以及它和一次性微調有什麼差別。
AI 智慧代理的持續學習是什麼？
AI 智慧代理的持續學習，是把代理在正式環境中的表現轉化為改進，讓它之後的執行變得更好。在 "Continual learning for AI agents"（2026 年 4 月 5 日）一文中，LangChain 的 Harrison Chase 指出這種學習可以發生在三層，而多數討論一開始就跳到了模型權重。
三層分別改變什麼：
| 層 | 改變的內容 | 例子 |
|---|---|---|
| 模型 | 模型權重 | 在執行軌跡上做監督式微調或強化學習 |
| Harness | 代理程式碼、內建工具和指令 | 程式設計代理根據日誌提出 harness 修改 |
| 脈絡 | 記憶、技能和依使用者設定的指令 | 代理更新自己的記憶檔案 |
Harness 和脈絡的改動做起來快，回滾也容易，所以多數團隊從這裡起步。Arize 的持續學習開發者指南（最近一次審閱於 2026 年 8 月 16 日）也觀察到同樣的情況：正式環境中的改進循環，通常先改進模型周圍的系統，再去更新模型本身。三層之中，權重改動觸及最深，因此它在到達使用者之前需要一道評估門檻。
持續學習對大型語言模型意味著什麼？
在機器學習研究中，持續學習是指讓一個模型在一系列任務或資料上依序訓練，同時保留之前學到的能力。其中的難點有個名字，叫災難性遺忘：用新資料訓練會削弱模型原本會做的事。Michael McCloskey 和 Neal J. Cohen 在 1989 年描述了這個現象，至今它仍是這個領域的核心問題之一。
Google Research 的 sleep framework（2026 年 10 月 27 日）就從這個問題出發。文章指出，已部署的大型語言模型在很大程度上是 靜態的，知識截止日期固定不變，並提出一個離線的「睡眠」階段，讓模型把見過的內容整合進權重。a16z 的 "Why We Need Continual Learning"（2026 年 4 月 22 日）把各種方法放在一條光譜上：一端是權重凍結的檢索，中間是可掛載的模組，另一端是權重更新，並稱後者最為深入，也最難投入正式環境。
研究中的含義和正式環境中的含義，在模型層交會。一個團隊用代理的流量重新訓練它的模型，就是在做研究意義上的持續學習，也會繼承研究中的那個難題。我們關於大型語言模型微調中的災難性遺忘的文章介紹了緩解方法。
什麼時候該訓練模型，什麼時候改 harness 或脈絡？
當代理大量重複同一項任務、每個提示詞都帶著同樣的指令，或者輸入已經偏離了模型訓練時的樣子，就該訓練模型。改 harness 和脈絡，調整的是告訴模型的內容；更新權重，改變的是模型拿這些內容能做什麼。
重複的指令在每次 API 呼叫中都要消耗 token。 一個代理如果每次請求都送出同樣的流程說明、範例和脈絡，每次都要為它們付費。針對任務訓練的專用模型把這些內容裝進了模型，因此每項任 務需要的 token 更少，而且每個 token 的價格通常也低於它所取代的前沿模型。第二項節省有多大，取決於每個提示詞裡重複內容的比例，以及您是否需要為推理 token 付費。單一任務成本計算器把這兩個維度都算了一遍，我們關於 AI 新創公司毛利率的文章則用真實的提示詞規模呈現了它們。
輸入會漂移，依舊形態訓練的模型在新形態上會掉品質。 在我們的 QMSum 研究（arXiv 2609.25028）中，一個已公開釋出的會議摘要專用模型，從讀取長篇會議紀錄改為讀取檢索出的紀錄片段後，ROUGE-1 下降了 6.30。用新的輸入形態訓練它之後，損失得到了恢復。一個代理的工具、使用者或上游資料會隨著時間變化，也會遇到同樣的效應，而用近期流量重新訓練，就是讓模型跟上變化的辦法。
在任務上訓練帶來的品質提升最大。 在同一項研究中，在同一個基礎模型內，用片段輸入訓練帶來了 5.29 的 ROUGE-1 提升，而單純改進輸入只帶來 1.55。這只是公開基準上的一輪訓練。它說明了槓桿在哪裡，至於在真實流量上一輪接一輪的提升，目前還沒有結論。
模型層的持續學習如何運作？
在模型層，持續學習是一個五步循環，在背景執行，目前的模型照常提供服務：
- 擷取。 記錄代理的請求和回應，以及它們的結果：使用者的更正、失敗的工具呼叫、下游的檢查。
- 篩選。 從這些流量中挑出候選訓練樣本，由您的團隊 核准模型從哪些樣本中學習。
- 訓練。 新版本在核准的樣本上訓練，並混入之前幾輪的樣本，以保留之前幾輪學到的東西。
- 評估。 用您的評估為新版本打分：一套定義品質標準的任務集，加上一套回歸集，收錄目前模型已經處理得很好的案例。
- 發布或保留。 新版本只有在您簽核後才會上線。如果它沒有達標，目前的模型繼續提供服務。
第 4 步和第 5 步的門檻承擔了大部分分量，我們研究中的兩個習慣在這裡同樣適用。QMSum 研究遵循凍結的協定：一個評分器、完整的官方測試集，每個系統最多在測試集上執行一次。研究也測量了分數會因偶然因素波動多少：只改變訓練隨機種子，兩次執行之間驗證集 ROUGE-1 就相差 1.59，足以抹掉一項 1.5 分的設定提升。發布門檻需要這兩個習慣：在為新版本打分之前就定好規則，並設定一個大於執行間雜訊的容差。
門檻比較的對象，和閾值本身同樣重要。只看觸發這次重新訓練的那些案例，看到的是修正效果。回歸集收錄目前模型答對的案例，再依 Arize 指南的建議加入少量無關案例，就能同時看到這次修正弄壞了什麼。我們的指南用真實對話建立評估資料集介紹了如何把這兩部分都建起來。
持續學習和微調有什麼差別？
微調是在固定資料集上進行的一次訓練；持續學習則是隨著時間推移在新資料上反覆微調，並且必須保留之前幾輪學到的東西。兩者使用相同的訓練方法，差別在於圍繞訓練的那套流程。
| 微調 | 持續學習 | |
|---|---|---|
| 資料 | 固定的訓練集 | 持續的正式環境流量 |
| 產出 | 一個訓練好的模型 | 一系列模型版本 |
| 主要風險 | 對訓練集過度擬合 | 丟掉之前幾輪學到的東西 |
| 檢查 | 上線前一次評估 | 每次發布前做回歸評估 |
持續學習的每一輪都是一次微調。多出來的工作是圍繞它的紀錄與管理：每一輪看到哪些資料，每個版本和什麼比較，由誰簽核。至於什麼時候單次微調就是合適的工具，可以讀微調已死？。
什麼時候代理的模型應該維持不變？
當任務還在定義之中、用量很小，或者變化的是事實性資訊時，就保留目前的模型。每週都在變的任務，在穩定下來之前，用提示詞和 harness 來引導更划算。每月只有幾千項任務時，一輪訓練的成本會高於它省下的錢。價格、政策、庫存這類經常變化的事實，應該放進檢索，更新在下一次請求時就會生效。
一個實用的分工：行為、格式和任務技能放進模型，會變化的事實放進檢索或脈絡。模型層的持續學習，讓前一部分隨著代理工作的變化保持最新。
Ertas 端點在其中處於什麼位置？
Ertas 的自適應模型端點在模型層執行持續學習。它透過一個 API 提供一個用您的代理工作 訓練出的專用模型。上線後，這個專用模型持續從您的代理流量中學習：每個新版本在背景訓練，並用您的評估打分。訓練樣本和每一次發布都由您核准，如果新版本沒有達標，目前的模型繼續提供服務。
Harness 和脈絡這兩層仍由您的代理工具負責，端點作為模型位於它們之下。它可以由 Ertas 代管，也可以部署在您的雲端或地端。端點目前僅限受邀使用，我們正在開發一個更精簡的版本，以便更多團隊使用。
常見問題
AI 智慧代理能持續學習嗎？
能，而且發生在三層。代 理可以在工作中更新自己的記憶和脈絡，它的 harness 可以在兩次發布之間根據記錄的執行軌跡改進，它的模型可以用它的流量重新訓練。模型更新在背景執行，每個新版本在取代目前版本之前都要通過評估。
continual learning 和 continuous learning 是同一回事嗎？
在產品文章中，這兩個詞通常可以互換，Arize 的指南也指出了這一點。研究中用 "continual learning" 指讓一個模型在一系列任務或資料上訓練，同時保留它已經掌握的能力。
持續學習會導致災難性遺忘嗎？
可能會，因為每一輪訓練都會更新之前的能力所依賴的權重。重放之前幾輪的樣本、採用保守的訓練設定，以及使用正交子空間方法，都能降低這種風險，而每次發布前的回歸評估可以發現漏網的問題。
代理的模型應該多久重新訓練一次？
當新核准的樣本累積到足以改變評估結果，或者監控顯示輸入出現漂移時，就重新訓練。節奏不如門檻重要：新版本只有在對比目前版本達標後才會發布。
模型層的持續學習需要哪些資料？
代理的執行軌跡：請求、回應、工具呼叫及其 結果，再加上一套定義該任務良好輸出的評估集。使用者和審核人員的更正是最有價值的樣本，因為它們準確標出了目前模型的不足之處。
簡短版
AI 智慧代理的持續學習發生在三層，其中模型層最深。用代理自己的流量訓練下一個模型版本，可以減少每項任務所需的 token，並讓模型在輸入變化時保持最新。它也帶回了這個領域最古老的問題：遺忘。所以每個版本在接收流量之前都要通過回歸門檻，在新版本通過之前，目前的模型繼續提供服務。
資料來源，均於 2026 年 10 月 29 日查閱：LangChain，"Continual learning for AI agents"（Harrison Chase，2026 年 4 月 5 日）；Arize，"Continual learning for AI agents and LLM systems"（最近一次審閱於 2026 年 8 月 16 日）；Google Research，"The sleep framework"（2026 年 10 月 27 日）；a16z，"Why We Need Continual Learning"（2026 年 4 月 22 日）。我們的研究：QMSum 研究（arXiv 2609.25028）。