What is Continual Learning（持續學習）?

Definition

持續學習（continual learning）是讓同一個模型隨著時間推移，在一系列任務或資料上依序訓練，使它在獲得新能力的同時保留既有的能力。每一輪都從模型的上一個版本出發，用新資料更新它。核心難點是災難性遺忘：一次對新資料有幫助的更新，可能會覆蓋之前各輪教給模型的東西。這個研究領域可以追溯到 McCloskey 和 Cohen 在 1989 年對這種干擾的描述。

在 AI 智慧代理中，這個詞的用法更廣。LangChain 的 Harrison Chase 在 "Continual learning for AI agents"（2026 年 4 月 5 日）中把代理的持續學習分成三層：模型，其權重會改變；harness，即驅動代理的程式碼和內建指令；以及脈絡，即提供給它的記憶和依使用者設定的指令。Harness 和脈絡的改動做起來快，回滾也容易。模型層的持續學習則用代理自己的流量訓練下一個模型版本，改變的是模型本身能做什麼。

產品文章常用 continuous learning 表達同一個意思。Arize 的開發者指南（最近一次審閱於 2026 年 8 月 16 日）指出，在產品討論中這兩個詞可以互換。

Why It Matters

只訓練一次的模型，從上線那天起就開始過時。使用者的提問方式會變，工具和上游資料的形態會變，新的邊緣情況也會出現。Google Research 關於 sleep framework 的文章（2026 年 10 月 27 日）指出，已部署的大型語言模型在很大程度上是靜態的，知識截止日期固定不變。持續學習讓模型跟上它正在做的工作。

對於大量重複同一項任務的代理，模型層也決定了成本。每個提示詞都要攜帶的指令和範例可以訓練進模型，因此每項任務需要的 token 更少，而針對任務訓練的專用模型，每個 token 的價格通常也低於前沿模型。每一輪訓練也都可能丟掉一些能力，所以每個新版本在接收流量之前都需要一道評估門檻。

How It Works

在模型層，持續學習作為一個循環在背景執行，目前的模型照常提供服務。系統記錄代理的請求、回應和結果，從這些流量中挑出候選訓練樣本，由負責該代理的團隊核准。新版本在核准的樣本上訓練，並混入之前幾輪的樣本（重放），以保留之前幾輪學到的東西。接著用團隊的評估為新版本打分：一套定義品質標準的任務集，加上一套收錄目前模型已經處理得很好的案例的回歸集。新版本只有在團隊簽核後才會上線，如果沒有達標，目前的模型繼續提供服務。

能夠減輕各輪之間遺忘的技術包括：重放、彈性權重鞏固等正規化方法、LoRA 等參數高效訓練方法，以及 O-LoRA 和 OSFT 等正交子空間方法。每一種都能降低風險，而每個版本在發布前仍要經過測量。

Example Use Case

一個客服代理負責為收到的工單分類並草擬回覆。一次產品發表後，出現了一類新問題，模型總是把它分錯。團隊從代理的流量中核准了幾百筆更正後的樣本，新版本模型在這些樣本和之前幾輪的樣本上訓練。新版本在任務集上打分，也在涵蓋目前模型已經處理好的各類問題的回歸集上打分。它在兩套集合上都達到標準，團隊簽核，新版本取代了目前的模型。如果它在回歸集上退步，目前的模型就會繼續提供服務，失敗的案例則進入下一輪訓練。

Key Takeaways

• 持續學習讓一個模型分多輪訓練，同時保留之前各輪學到的東西。
• 對 AI 智慧代理來說，持續學習發生在三層：模型、harness 和脈絡。
• 在模型層，代理自己的流量訓練出每個新的模型版本。
• 災難性遺忘是主要風險，重放、正規化、LoRA 和正交子空間方法都能減輕它。
• 帶回歸集的評估門檻決定新版本能否取代目前的版本。