跳到正文
    Ertas
    Back to blog

    微調已死?閉源實驗室退出意味著什麼

    微調被證偽了嗎?OpenAI 和 Mistral 正在逐步停止自助微調,這是一項產品決策。本文整理三家服務商的變化,用我們的 QMSum 實測結果說明訓練好的開放模型在哪些任務上勝出、哪些情況下寫好提示詞就夠了,以及在 OpenAI 上做過微調的團隊接下來該怎麼做。

    A pale astronomical impression in graphite and copper, with a soft amber penumbra on warm paper.An oblique elliptical aperture built from dense engraved curves, lit by a single distant blue-white edge.

    微調被證偽了嗎?沒有。OpenAI 和 Mistral 正在逐步停止自家模型的自助微調,而用團隊自己的任務資料訓練開放模型,依然能帶來可測量的提升,我們已發表的 QMSum 研究中最大的一項單一提升就來自這裡。

    「微調已經過時」的說法有明確的出處。Latent Space 的 AINews 電子報在 2026 年 5 月 13 日發表的 "The End of Finetuning" 中,在 OpenAI 棄用微調之後,把微調稱為「the next casualty of the 2026 Side Quest massacre」(2026 年砍掉支線專案浪潮中的下一個犧牲品),並認為 AI 工程產業裡八成的從業者「大概本來就在往這個方向走」。同一篇文章也提到,以 Cursor 和 Cognition 為代表的頂尖團隊,反而加大了對開放模型的強化微調和使用。

    本文介紹閉源實驗室停掉了什麼、為什麼說這是產品決策、訓練好的開放模型在哪些情境勝出(附上我們的實測結果),以及什麼時候寫好提示詞就夠了。

    閉源實驗室停掉了什麼,為什麼?

    三家服務商先後收縮了自家模型的微調服務,各有各的時程。以下資訊均於 2026 年 10 月 28 日從各服務商的官方文件查得。

    服務商變化
    OpenAI2027 年 1 月 6 日起不再接受新的微調任務
    Mistral微調 API 已棄用,不再積極維護
    GoogleGemini API 於 2025 年 5 月取消微調

    OpenAI 正在分階段關閉,詳見其棄用說明頁面。從未做過微調的組織在 2026 年 5 月 7 日失去權限;60 天內沒有呼叫過微調模型的組織在 2026 年 7 月 2 日失去權限;其餘客戶可以建立任務到 2027 年 1 月 6 日。微調模型會一直可用,直到其基礎模型下線,而 GPT-4o、GPT-4o mini、GPT-4.1 和 GPT-4.1 mini 將於 2027 年 1 月 14 日下線。

    Mistral 把微調 API 列入已棄用功能,原文是:「This feature is deprecated and is no longer actively supported.」(此功能已棄用,不再積極維護。)

    Google 隨著 Gemini 1.5 Flash-001 在 2025 年 5 月棄用,從 Gemini API 和 AI Studio 中取消了微調,但仍透過 Gemini Enterprise Agent Platform 為多款 Gemini 模型提供監督式微調。

    OpenAI 的公告沒有說明原因。Latent Space 把它視為各家實驗室 2026 年砍掉支線專案的一部分,算力吃緊也能解釋這一點。無論原因為何,這都是服務商對自己要託管什麼所做的決定。每個微調模型都是一個獨立的模型,服務商要為一位客戶的流量去部署、維護版本,最後還要下線;一家專注於通用模型的實驗室,有充分的理由停掉這項服務。這些理由關乎服務商的生意。訓練到底有沒有用,要靠測量訓練好的模型來回答,下一節就是這樣做的。這些棄用倒是說明了租用訓練好的模型要付出的代價:基礎模型一下線,微調模型也跟著消失。

    訓練好的開放模型在哪裡勝出?

    當同一項任務大量重複、輸出可以核對、指令在每個提示詞裡重複出現時,訓練好的模型就會勝出。我們研究中的四項結果說明了這一點。

    針對任務訓練,比改善輸入的作用更大。 在我們的 QMSum 研究(arXiv 2609.25028)中,任務是依查詢產生會議摘要。我們固定一個基礎模型,每次只改變一個條件。給它更好的輸入,也就是用檢索出的會議紀錄片段取代紀錄開頭的文字,在測試集上把 ROUGE-1 提高了 1.55,在驗證集上提高了 0.29。再用同樣形式的片段輸入訓練它,ROUGE-1 又提高了 5.29,95% 信賴區間為 +4.02 到 +6.56。一個第三方發布的專用模型在不重新訓練的情況下換成新的輸入形式,ROUGE-1 下降了 6.30,用新形式訓練之後,損失又全部補了回來。

    更小的訓練模型守住了品質。 一個比我們主系統小得多、用同樣方式訓練的專用模型,ROUGE-1 為 36.33,我們的系統為 35.41,這個差距在該基準上無法從統計上區分。它所需的推論峰值記憶體還不到一半。

    訓練好的模型,執行成本只是零頭。 一個專為這項任務訓練的模型,估算的每次查詢服務成本比 Claude Opus 5 低 99%,比 GPT-5.6 Luna 低 96%,回應速度是 Claude Opus 5 的 23 倍。這些數字以 2026 年 9 月的價格計算,不含訓練成本。論文對它與託管前沿模型的品質比較設了限定:那些模型的回答比較長,而且沒有做人工評估或事實性評估。因此,我們依據的結論是成本、速度和訓練帶來的提升幅度。

    支出集中在可重複的工作上。 根據 OpenRouter 截至 2026 年 10 月 12 日的 30 天公開資料,分類、資訊擷取和格式轉換占了已分類模型支出的 20.8%,每 token 價格是平均水準的 1.50 到 1.84 倍;在這些任務上,支出最多的十個模型裡有 75% 到 87% 的支出流向閉源前沿模型。這類任務的輸出是標籤和結構化紀錄,訓練好的模型可以在上面得到精確的評估。

    訓練好的模型還會改變 token 數量。前沿模型在每個提示詞裡都需要的指令、流程規範和範例,被訓練進了模型,每項任務傳送的 token 因此變少。我們關於 AI 新創公司毛利率的文章,用真實負載的提示詞大小把兩個成本維度算了一遍。

    什麼時候寫好提示詞就夠了?

    對多數新任務來說,替前沿模型寫提示詞是正確的起點,有些任務一直這樣做也沒問題。

    情況從這裡開始
    每月只有幾千項任務用提示詞呼叫前沿模型
    任務定義每週都在變寫提示詞,同時記錄範例
    每次請求都不同的開放式工作前沿模型
    經常變動的事實資訊檢索(RAG)
    同一項任務大量重複訓練好的模型
    每個提示詞都帶著很長的重複指令訓練好的模型
    輸出可以依結構描述核對訓練好的模型

    這樣分工遵循我們在每個專案裡都採用的一條原則:行為、格式和任務技能放進模型,會變動的事實交給檢索。提示詞是摸清任務需要什麼的最快方式。等任務穩定、用量上來,記錄下來的範例就成了訓練集,而寫提示詞期間建立的評估集,就成了訓練好的模型必須達到的標準。兩種技術的取捨,可以參閱微調與 RAG 的比較。

    在 OpenAI 上做過微調,接下來怎麼辦?

    保留好您的訓練資料、評估集和正式環境日誌,因為微調模型本身留在 OpenAI 的 API 上,會隨基礎模型一起下線。用開放模型重新訓練這項任務,透過相容 OpenAI 的 API 提供服務,並在 2027 年 1 月 14 日之前與舊的微調模型做比較,趁原模型還在,可以作為基準。我們的遷移指南說明了四個步驟,單一任務成本計算器(英文)則能算出切換後帳單會怎麼變化。

    Ertas 的自適應模型端點正是為此準備的:一個用您的任務訓練的模型,透過相容 OpenAI 的 API 提供服務;每個新版本都要先通過您的評估集,並經您的團隊核准後才接入流量。它可以由 Ertas 託管,也可以部署在您自己的雲端或地端。該端點目前僅限受邀企業使用,我們正在開發一個更精簡的版本,讓更多企業可以接入。

    常見問題

    微調被證偽了嗎?

    沒有。OpenAI 和 Mistral 正在逐步停止自家模型的自助微調,這是關於託管什麼的產品決策。用任務資料訓練開放模型依然能帶來實測的提升:在我們的 QMSum 研究中,同一個基礎模型經過訓練,ROUGE-1 提高了 5.29,是改善輸入所帶來提升的三倍多。

    微調還有人在用嗎?

    有。團隊每天都在訓練開放模型,讓模型在某項任務上穩定可靠;截至 2026 年 10 月,Google 也仍透過 Gemini Enterprise Agent Platform 提供 Gemini 的監督式微調。宣告微調終結的 Latent Space 電子報本身也提到,領先的 AI 公司加大了強化微調和開放模型的使用。

    微調一個大型語言模型要花多少錢?

    截至 2026 年 10 月 28 日,OpenAI 的監督式微調收費為:GPT-4.1 mini 每百萬訓練 token 5 美元,GPT-4.1 和 GPT-4o 為 25 美元,僅限現有客戶,截止到 2027 年 1 月 6 日。在 Ertas Studio 裡自行訓練開放模型可以免費開始,截至 2026 年 10 月,付費方案每月 10 美元起。由 Ertas 代為建置則是固定費用,在免費評估後確定。

    哪個大型語言模型最適合微調?

    在預留評估集上能達到您品質標準的最小開放權重模型,而且授權允許商業使用。用您自己的範例比較幾種規模。為一項任務訓練的模型可以比通用模型小得多,卻在這項任務上表現相當。

    什麼時候該微調,而不是只寫提示詞?

    當任務穩定、用量大、每個提示詞都帶著很長的指令,或者輸出可以依結構描述核對時。用量小、開放式的工作,以及仍在定義中的任務,寫提示詞仍是比較好的選擇。

    Gemini 支援微調嗎?

    透過 Gemini Enterprise Agent Platform 可以:截至 2026 年 10 月 28 日,Google 為 Gemini 3.5 Flash、Gemini 3.5 Flash-Lite、Gemini 3.1 Flash-Lite 以及三款 Gemini 2.5 模型提供監督式微調。Gemini API 和 AI Studio 自 2025 年 5 月起已沒有可微調的模型。

    簡短版

    閉源實驗室正在退出託管自家模型微調版本的業務。用您自己的任務訓練模型依然有效,訓練好的開放模型想用多久就能用多久。任務還新、用量還小時,用提示詞;任務穩定、重複、成本高時,就訓練一個模型。如果您最在意的是錢,可以先讀AI 新創公司的推論成本花到哪裡去了。


    資料來源,均於 2026 年 10 月 28 日查閱:Latent Space,"The End of Finetuning"(2026 年 5 月 13 日);OpenAI,棄用說明和 API 價格;Mistral,微調 API(舊版);Google,Gemini API 微調和 Gemini Enterprise Agent Platform 監督式微調。我們的研究:QMSum 研究和 OpenRouter 結構化任務報告。