跳到正文
    Ertas
    Back to blog

    基礎模型與特定任務模型:差異與選擇

    基礎模型與特定任務模型有什麼差異?本文說明兩者各是什麼、什麼時候為單一任務訓練的模型勝出、今天就能下載的特定任務模型範例,以及如何把一家企業的工作拆分給多個專用模型,再透過路由把它們組合起來。基礎模型則繼續承擔開放式的工作,並為超出範圍的請求兜底。

    A pale astronomical impression in graphite and copper, with a soft amber penumbra on warm paper.A copper-engraved planetary limb with an amber atmosphere and a sweeping orbital band.

    基礎模型與特定任務模型的差異,歸根究柢是廣度與專注之間的取捨。基礎模型用廣泛的資料訓練,可以適配許多任務。特定任務模型只為一項工作而訓練,而且大多數一開始就是一個基礎模型,之後再用這項工作的範例繼續訓練。工作還開放、還在變化,或者用量不大時,基礎模型是更好的選擇。一旦同一項工作大量重複、輸出可以核對,特定任務模型就會勝出,因為它每項任務的成本更低,也更容易穩定在既定的品質標準上。

    本文介紹兩類模型各是什麼、各自在什麼時候勝出、今天就能下載的特定任務模型範例,以及它們與領域專用模型的差異。最後談談我們實驗室的出發點:一家企業的工作可以拆分給多個專用模型,每個只為一項工作訓練,再透過路由組合起來。

    什麼是基礎模型?

    基礎模型是用廣泛資料訓練、可以適配各種任務的大型模型。這個術語出自 Rishi Bommasani 等人 2021 年在史丹佛基礎模型研究中心(CRFM)發表的報告 "On the Opportunities and Risks of Foundation Models"。報告把這類模型描述為「在大規模的廣泛資料上訓練,並能適配各種下游任務」的模型,當時舉的例子是 BERT、DALL-E 和 GPT-3。如今這個標籤涵蓋 GPT、Claude、Gemini 系列,以及 Llama、Qwen、Gemma 等開放權重模型系列。

    適配基礎模型有兩種方式:一是寫提示詞,在每次請求裡放入指令和範例;二是用自己的資料繼續訓練它。同一份報告也點出了其中的隱憂:「基礎模型的缺陷會被下游所有適配模型繼承。」每個建立在基礎模型之上的特定任務模型,都會同時帶著底座的長處和短處出發,所以專用模型需要有自己的評估。

    什麼是特定任務模型?

    特定任務模型是為一項明確工作而訓練的模型,輸入類型固定,輸出類型也固定。替客服工單分類、從發票中擷取欄位、決定代理該呼叫哪個工具、替搜尋結果排序、針對某個問題摘要一場會議,這些都各是一項任務。因為工作範圍窄,它就有測試集:您可以說清楚正確答案長什麼樣子,並衡量模型給出正確答案的頻率。

    如今大多數特定任務模型,是在基礎模型之上用任務範例繼續訓練而來,方法是微調,或者從更大的模型蒸餾。模型大小取決於任務。我們 QMSum 研究中的檢索模型只有 33M 參數,而一項困難的推理任務可能需要大型模型。更貼切的說法是「大小合適」:能守住任務品質標準的最小模型。

    基礎模型特定任務模型
    訓練資料大規模的廣泛資料單一任務的範例
    能做什麼許多任務,由提示詞引導一項工作,輸入輸出固定
    規模通常很大依任務決定合適大小
    每次請求的提示詞每次都帶指令和範例很短,指令已訓練進模型
    任務上的品質不經任務訓練也不錯由訓練決定,用保留範例核對
    每項任務成本每 token 價格較高,token 較多每 token 價格較低,token 較少
    典型失誤格式漂移、回答冗長遇到所學任務之外的輸入
    最適合開放、多變或用量小的工作穩定、重複、可核對的工作

    哪種 AI 系統只能完成特定任務?

    特定任務模型,在較早的術語裡稱為弱人工智慧(narrow AI)。IBM 把弱人工智慧描述為「可以被訓練來執行單一或狹窄任務」的 AI,而且無法在其限定任務之外運作。IBM 也認為,如今在用的所有 AI 系統都屬於弱人工智慧,聊天助理也包括在內,所以實際的分界在模型這一層。垃圾郵件過濾器、段落排序模型、內容安全分類器都是為一項工作而建,也只做這一項工作。聊天助理背後的基礎模型,則是提示詞要它做什麼,它就做什麼。

    特定任務模型什麼時候勝過基礎模型?

    當同一項任務大量重複、輸出可以核對、同樣的指令在每個提示詞裡重複出現時。用量能攤薄建構模型的成本,可核對的輸出提供了訓練所對照的評估,而重複的指令正是訓練能從每次請求中省掉的部分。我們已發表的結果在一項任務上呈現了這個規律。

    針對任務訓練,比改進輸入更能提升品質。 在我們的 QMSum 研究(arXiv 2609.25028)中,任務是依查詢產生會議摘要。我們固定了一個 1.2B 的基礎模型。把會議紀錄開頭的 4,500 個詞換成檢索出的 2,000 個詞,測試集上 ROUGE-1 提高 1.55,驗證集上提高 0.29。再用同樣的檢索片段對它做微調,ROUGE-1 又提高 5.29,95% 信賴區間為 +4.02 到 +6.56。

    更小的專用模型守住了標準。 一個用同樣方式訓練的 406M 專用模型,ROUGE-1 為 36.33,我們的 1.2B 系統為 35.41,這個差距在 QMSum 上無法從統計上區分,而它的推論峰值記憶體還不到一半。

    在該基準的指標上,專用模型得分高於託管的通用模型。 在同一個簡潔提示詞和以參考文本重疊為準的評分方式下,一個已公開發布的 406M 專用模型,ROUGE-1 比受測的五個專有託管模型中的每一個都高出至少 6.2。論文對這個排序設了限定:託管模型的輸出偏長,而且沒有做人工評估或事實性評估。以上所有結論都只限於 QMSum 和自動指標。

    支出集中在可重複的工作上。 根據 OpenRouter 截至 2026 年 10 月 12 日的 30 天公開資料,分類、資訊擷取和格式轉換占了已分類模型支出的 20.8%,每 token 價格是平均水準的 1.50 到 1.84 倍。這類任務的輸出是標籤和結構化紀錄,專用模型可以在上面得到精確的評估。

    成本從兩方面下降。特定任務模型的每 token 價格低於它所取代的前沿模型;每項任務需要的 token 也更少,因為每個提示詞裡重複的指令和範例已經訓練進模型本身。第二方面能省多少,取決於每個提示詞裡有多少是重複的固定內容;前沿 API 的提示詞快取本來就替重複上下文打了折,所以請用您自己的流量來衡量。單一任務成本計算器可以替一項工作負載同時算出這兩個數字。

    NVIDIA 的研究人員對代理也提出了同樣的觀點。Peter Belcak 等人在 2025 年的立場論文 "Small Language Models are the Future of Agentic AI" 中指出,在代理應用裡,語言模型「重複執行少量專門任務,變化很小」。他們認為,對代理系統中的許多呼叫來說,小型模型「能力足夠、本質上更合適,而且必然更經濟」。

    什麼時候基礎模型是更好的選擇?

    當工作是開放的、仍在定義之中,或者用量太小、不值得訓練時。以下四種情況更適合基礎模型:

    • 新任務。 寫提示詞是弄清任務需要什麼的最快方法。
    • 每次都不一樣的請求, 例如研究、起草和開放式對話。
    • 用量小。 每月只有幾千項任務,通常不值得專門建構模型。
    • 知識面廣或變化快。 基礎模型搭配檢索,可以涵蓋不斷變化的事實。

    專用模型的訓練資料,也正是在寫提示詞的階段累積起來的。記錄提示詞和輸出,修正錯誤的輸出,並保留一組測試集。任務穩定下來之後,這些紀錄就成為訓練資料,保留的測試集就成為專用模型必須達到的標準。我們關於微調是否已死的文章,在提示詞和訓練之間劃出了同樣的界線。

    特定任務模型有哪些範例?

    公開的特定任務模型有很多。下面列出五個,均於 2026 年 10 月 29 日查閱其模型卡或論文:

    模型任務基於
    BART-large-CNN新聞摘要BART,在 CNN Daily Mail 上微調
    ms-marco-MiniLM-L6-v2依查詢替段落排序在 MS MARCO 上訓練的交叉編碼器
    Llama Guard 3-1B內容安全分類Llama 3.2 1B,經過微調
    FunctionGemma函式呼叫Gemma 3 270M
    QMSum 定位器與摘要器依查詢產生會議摘要Ertas 研究模型

    BART-large-CNN 是在 CNN Daily Mail 上微調過的 BART,這個資料集是「大量文本與摘要配對的集合」。它的模型卡只列出一種預期用途:文本摘要。

    ms-marco-MiniLM-L6-v2 接收一個查詢和一個段落,替段落回答該查詢的程度打分,搜尋系統就能據此替結果排序。

    Llama Guard 3-1B 用 Meta 自己的話說,是「經過微調、用於內容安全分類的 Llama-3.2-1B 預訓練模型」。它把提示詞或回覆標記為安全或不安全,並列出違反的類別;Meta 設計它的目的之一是降低內容審核的部署成本。

    FunctionGemma 處在更早的一步。Google 發布它,是「作為基礎,用來打造您自己的專用函式呼叫模型」。它基於 Gemma 3 270M,「旨在針對您的特定函式呼叫任務進行微調」。它本身就是一個專用底座,供您用自己的工具再做一次專門化。

    我們的 QMSum 系統由兩個專用模型組成。一個 33M 的定位器根據問題替會議紀錄的各個視窗打分,一個摘要器再根據得分最高的片段寫出回答。兩者都發布在 Hugging Face 的 ErtasAI 帳戶下。

    特定任務模型和領域專用大型語言模型有什麼差異?

    領域專用大型語言模型懂一個領域,特定任務模型做一項工作。領域模型學習法律、醫療或金融等領域的術語、事實和慣例,然後服務該領域內的許多任務,從回答問題到起草文件。特定任務模型由一種輸入和一種輸出來定義,例如從合約中擷取當事方和日期,而這樣的工作可以出現在任何領域。兩者可以很好地結合:領域專用大型語言模型可以作為訓練任務模型的底座,讓專用模型一開始就懂這個領域的語言。我們關於領域專用大型語言模型的指南,介紹了領域知識如何進入模型。

    企業的工作能拆分給多個專用模型嗎?

    這正是我們實驗室的出發點,而且早有先例。亞當·斯密在《國富論》第一卷第一章描述過一家製針作坊:製作一枚針被「分成大約十八道不同的工序」。十名工人,其中有人兼做兩三道工序,一天能做「四萬八千多枚針」,平均每人約 4,800 枚。斯密判斷,如果各自單獨做,「他們每人一天肯定做不出二十枚,也許連一枚都做不出來」。

    把分工用在模型上,大致是這樣的。以客服流程為例,處理一張工單可以拆成幾步:替請求分類,擷取其中的帳戶資訊,找到相關政策,起草回覆,再對照政策檢查草稿。每一步都有自己的輸入、輸出和測試集,所以每一步都可以有一個專為它訓練、大小合適的專用模型。路由器把每一步交給對應的專用模型,超出這些專用模型所學範圍的請求則交給基礎模型。由於路由由工作本身的結構決定,您總能知道是哪個模型給出了回答,以及它被訓練來做什麼。

    斯密的作坊也說明,怎麼拆分是一項設計決策,畢竟有些工人要兼做兩三道工序。小到不值得單獨建模的步驟,可以和相鄰的步驟共用一個模型;開放式的步驟則留給基礎模型。

    到目前為止,我們實測過的證據涵蓋的是單項任務,以及 QMSum 研究中的雙模型流程。一個經路由組合的專用模型網路,能否在企業的全部工作負載上與前沿通用模型相當,是我們實驗室正在研究的問題,結果出來後我們會陸續發表。NVIDIA 的論文也主張,在代理同時需要通用對話能力時採用同樣的架構,也就是「異質代理系統(即呼叫多個不同模型的代理)」。路由的具體做法,請參閱 LLM 路由策略和詞彙表中的模型路由條目。

    怎樣把一項任務從基礎模型遷移到專用模型?

    從一個重複的步驟開始,並保留基礎模型作為兜底。

    1. 選定任務。 選擇帳單最高的重複步驟,用單一任務成本來衡量。
    2. 做好紀錄。 保留基礎模型在正式環境中的提示詞和輸出,並修正錯誤的輸出。
    3. 建立評估集。 保留專用模型在訓練中從未見過的範例,並在訓練前議定及格線。
    4. 訓練並決定大小。 用記錄下來的範例訓練幾種不同大小的模型,保留能通過評估的最小那個。
    5. 路由並觀察。 先讓專用模型在基礎模型旁邊影子執行,再把流量切過去,超出範圍的請求仍由基礎模型處理。

    Ertas 把這套做法做成了自適應模型端點:一個用您代理的任務訓練、透過相容 OpenAI 的 API 提供服務的專用模型。新版本在背景用您代理的流量訓練,用您的評估打分,只有經您核准才會上線。如果新版本沒有達到標準,目前的模型會繼續服務。它可以由 Ertas 託管,也可以部署在您自己的雲端或地端。該端點目前僅限受邀使用,我們正在開發一個更精簡的版本,以便更廣泛地開放。

    常見問題

    哪種 AI 最適合特定任務?

    為這項任務訓練的模型,具體選哪個,要用您自己保留的範例測試幾個候選模型來決定。公開排行榜衡量的是通用能力,您這項任務的評估集衡量的才是您需要的東西。先用提示詞驅動基礎模型,記錄結果,等任務穩定、重複之後再訓練專用模型。

    特定任務的小型語言模型有哪些範例?

    用於新聞摘要的 BART-large-CNN、用於段落排序的 ms-marco-MiniLM 交叉編碼器、用於內容安全分類的 Llama Guard 3-1B,以及基於 Gemma 3 270M、用於函式呼叫的 FunctionGemma。每個模型都附有模型卡,說明它所做的那一項工作。

    特定任務模型一定很小嗎?

    它們通常比基礎模型小,具體大小取決於任務。排序或檢索這類步驟,幾千萬參數的模型就能勝任;困難的推理任務則可能需要大型模型。原則是選用在保留範例上能守住任務品質標準的最小模型。

    微調過的模型還算基礎模型嗎?

    微調過的模型是經過適配的基礎模型。一旦為一項工作訓練完成,它的表現就是特定任務模型,同時也保留了底座原有的缺陷:史丹佛的報告提醒過,基礎模型的缺陷會「被下游所有適配模型繼承」。請在它自己的任務上對它進行評估。

    特定任務模型收到任務範圍之外的請求會怎樣?

    回答品質會下降,因為它從沒學過這類輸入。兩種做法可以搭配使用:用它應當拒絕的範例訓練它,並在請求到達它之前,把超出範圍的請求路由給基礎模型。

    簡短版

    工作還新、開放或用量小時,用基礎模型。同一項工作大量重複、輸出可以核對時,訓練一個特定任務模型:它每項任務的成本更低,價格和 token 數量都會下降,品質也能穩定在既定標準上。把工作流程拆成若干步驟,替重複的步驟配上各自的專用模型,其餘的交給路由器轉給基礎模型。如果您最關心的是錢,可以先從單一任務成本讀起。


    資料來源,均於 2026 年 10 月 29 日查閱:Bommasani 等,"On the Opportunities and Risks of Foundation Models"(史丹佛 CRFM,2021);Belcak 等,"Small Language Models are the Future of Agentic AI"(NVIDIA,2025);IBM,"Types of Artificial Intelligence";亞當·斯密,《國富論》第一卷第一章(Project Gutenberg 英文版);BART-large-CNN、ms-marco-MiniLM-L6-v2、Llama Guard 3-1B 和 FunctionGemma 的模型卡。我們的研究:QMSum 研究和 OpenRouter 結構化任務報告。