跳到正文
    Ertas
    Back to blog

    OpenAI 微調替代方案:遷移指南

    OpenAI 微調功能已棄用:2027 年 1 月 6 日起不能再建立新的微調任務,GPT-4o 和 GPT-4.1 的微調模型也將於 1 月 14 日下線。本文說明現有模型會怎樣、有哪些替代方案,以及如何分四步遷移到訓練好的開放模型,並用 OpenAI 公布的價格算清遷移成本。

    A pale astronomical impression in graphite and copper, with a soft amber penumbra on warm paper.Two fine engraved orbital fields crossing in deep space, with cool cyan light and a warm distant seam.

    OpenAI 正在逐步關閉其微調平台。現有客戶可以在 2027 年 1 月 6 日前繼續建立新的微調任務;多數團隊微調過的 GPT-4.1 和 GPT-4o 模型,連同各自的微調版本,將於 2027 年 1 月 14 日下線。最可行的替代做法,是用開放模型重新訓練同一項任務,透過相容 OpenAI 的 API 提供服務,並在切換流量前完成評估。

    本文依序說明:哪些服務將終止、何時終止;現有模型會怎樣;有哪些選擇;如何分四步完成遷移;以及如何估算遷移成本。文中所有日期和價格均於 2026 年 10 月 28 日取自各廠商的官方文件。

    OpenAI 要終止什麼,什麼時候終止?

    OpenAI 的棄用頁面把微調服務的關閉分為三個階段,隨後是剩餘微調模型所依賴的基礎模型下線。它的監督式微調指南現在開篇第一句就是 "OpenAI is winding down the fine-tuning platform"。

    日期變化
    2026 年 5 月 7 日從未做過微調的組織無法再開始
    2026 年 7 月 2 日60 天內未呼叫微調模型的組織失去建立權限
    2026 年 10 月 23 日GPT-4.1 nano、o4-mini 及其微調版本下線
    2027 年 1 月 6 日其餘客戶無法再建立微調任務
    2027 年 1 月 14 日GPT-4o、GPT-4o mini、GPT-4.1 和 GPT-4.1 mini 下線

    最後一列最容易被忽略。依照 OpenAI 的規則,微調模型的推論服務會一直保留到其基礎模型被棄用為止。2026 年 10 月 14 日,OpenAI 宣布上述四個基礎模型將於 2027 年 1 月 14 日從 API 中移除,其微調版本遵循 "the same shutdown schedule"。也就是說,訓練通道關閉後,大多數微調過的 GPT 模型只剩八天可用。

    現有的微調模型會怎樣?

    OpenAI 的微調模型會繼續回應 API 呼叫,直到其基礎模型下線為止,之後就會停止服務。對於基於 GPT-4o、GPT-4o mini、GPT-4.1 或 GPT-4.1 mini 的微調模型,這個日期是 2027 年 1 月 14 日。基於 GPT-4.1 nano 和 o4-mini 的微調模型已於 2026 年 10 月 23 日下線。

    OpenAI 為這四個模型建議的替代品都是 GPT-6 Luna。GPT-6 Luna 是通用模型,您的微調模型從範例中學到的行為無法隨之遷移。要找回這些行為有兩種辦法:把指令和範例寫進每一個提示詞,或者用同樣的資料在別處訓練一個新模型。

    您能保留的是訓練資料、評估集和正式環境日誌,微調模型本身留在 OpenAI 的 API 上。因此,遷移計畫應當圍繞資料來制定。關於被迫遷移的更多背景,請參閱當 OpenAI 棄用您的應用程式所依賴的模型時會發生什麼。

    OpenAI 微調有哪些替代方案?

    共有三條路線,差別在於由誰訓練、由誰提供服務,以及基礎模型能保證可用多久。

    路線訓練方服務方主要風險
    其他閉源廠商廠商廠商基礎模型依廠商的時程退役
    基於開放模型的託管訓練訓練平台平台或您的雲端選擇有能力的合作方
    自行託管開放模型您的團隊您的團隊工程與維運負擔

    選哪條路線,取決於您願意承擔多少訓練和服務方面的工作。大多數在 OpenAI 上做微調的團隊,本來就是為了省去這些工作,所以第二條路線與原來的體驗最接近。

    其他閉源廠商

    Google 仍然透過 Gemini Enterprise Agent Platform 提供 Gemini 的監督式微調。截至 2026 年 10 月 28 日,Google 的微調文件列出的模型包括 Gemini 3.5 Flash、Gemini 3.5 Flash-Lite、Gemini 3.1 Flash-Lite 以及三個 Gemini 2.5 模型。面向開發者的 Gemini API 和 AI Studio 已不再支援微調,原因是 Gemini 1.5 Flash-001 於 2025 年 5 月棄用,Google 表示目前沒有恢復這項功能的近期計畫。

    截至 2026 年 10 月,Mistral 的微調 API已被歸入文件中的 "Deprecated features",標註為 legacy,並註明 "no longer actively supported"。

    如果您已經在使用某家廠商的雲端,換到這家的閉源模型改動最小。代價正是您現在面對的問題:基礎模型何時退役,由別人決定。截至 2026 年 10 月,Google 為 Gemini 3.5 Flash 標註的退役日期是 "May 19, 2027 or later"。

    基於開放模型的託管訓練

    託管平台用您的範例訓練一個開放模型,並替您提供服務,通常透過相容 OpenAI 的 API。開放的基礎模型沒有廠商規定的退役日期,訓練出的版本可以依您的需要一直運行。您提供訓練資料和評估集,雙方約定品質標準,然後您得到一個 endpoint。

    這條路線保留了 OpenAI 微調的便利,同時消除了模型退役的風險。選擇服務方時要問清三件事:模型可以部署在哪裡(對方的基礎設施、您的雲端或地端環境),新版本如何審核上線,以及價格如何決定。

    自行託管開放模型

    由您的團隊挑選基礎模型、執行訓練,並在自己的基礎設施上提供服務。這種方式控制權最大,工作量也最大:訓練管線、模型服務、擴充、監控和升級都要自己負責。我們的遷移到本地微調模型的 90 天計畫完整介紹了這條路線。

    如何從 OpenAI 微調遷移出來?

    遷移分四步,順序很重要:先整理資料,最後再切換流量。

    1. 匯出訓練資料

    找出每個微調任務用過的 JSONL 檔案,無論團隊把它們存在哪裡。再從您自己的日誌中抽取一批近期的正式環境提示詞和微調模型的回覆。這些樣本反映了任務當下的實際運行情況,也包含原始範例從未涵蓋的輸入。

    在做任何其他事情之前,先留出一個評估集,並且始終不要用它來訓練。只有這樣,新舊模型的比較才公平。

    2. 用開放模型重新訓練

    用同樣的範例訓練一個開放模型。OpenAI 的對話格式(每筆範例是一組 system、user 和 assistant 訊息)可以直接轉換成大多數訓練工具接受的格式,因此資料方面的工作主要是清理和去除重複。

    先從能在評估集上達到品質標準的最小模型開始。專門為一項任務訓練的模型,可以比通用模型小得多,卻在這項任務上表現相當,運行成本的節省大多來自這裡。

    3. 維持相容 OpenAI 的 API 形式

    透過相容 OpenAI 的 API 為新模型提供服務,這樣應用程式的程式碼只需要改兩處:base URL 和模型名稱。

    Code example
    import os
    from openai import OpenAI
    
    client = OpenAI(
        base_url="https://your-endpoint.example.com/v1",
        api_key=os.environ["ENDPOINT_API_KEY"],
    )
    
    response = client.chat.completions.create(
        model="your-trained-model",
        messages=[{"role": "user", "content": ticket_text}],
    )

    提示詞、重試邏輯、結構化輸出解析和日誌記錄都維持不變。遷移風險因此集中在模型本身,而這正是評估集能夠衡量的部分。

    4. 切換流量前先評估

    在預留的評估集上同時運行舊的微調模型和新模型,依產品真正依賴的指標比較:完全符合準確率、schema 合規率、拒答率和延遲。接著用真實流量做影子測試,先給新模型分配一小部分流量,只要它持續達標再逐步擴大。我們關於評估微調模型和在正式環境中對微調模型做 A/B 測試的指南涵蓋了這兩個階段。

    請在 2027 年 1 月 14 日前完成這一步,那時舊的微調模型還在,可以作為對照。

    從 OpenAI 微調遷移出來要花多少錢?

    單次任務的成本由兩部分決定:每個 token 的價格,以及每次任務消耗的 token 數量。微調模型能把第二項壓得很低,因為指令和範例已經訓練進模型裡。一旦失去微調,這些內容就要重新放回每一個提示詞。

    下面的範例是一個分類任務,每次輸入 600 個 token、輸出 150 個 token,每月運行 100 萬次,價格採用 OpenAI 定價頁面截至 2026 年 10 月的標準價。第二列和第三列在每個提示詞中加入 3,000 個 token 的指令和範例,用來替代失去的微調。

    方案每次任務輸入 token每月成本
    微調過的 GPT-4.1 mini600960 美元
    GPT-6 Luna,指令寫在提示詞中3,600435 美元
    GPT-6 Luna,指令使用快取3,600165 美元,另加快取寫入費

    表中使用的價格:微調過的 GPT-4.1 mini 每百萬輸入 token 0.80 美元、每百萬輸出 token 3.20 美元;GPT-6 Luna 分別為 0.10 美元和 0.50 美元,快取輸入為 0.01 美元。即使帶著更長的提示詞,GPT-6 Luna 依然更便宜,所以對很多任務來說,成本問題很快就有答案。懸而未決的是品質。最便宜的方案只有在達到您的品質標準時才算數,這也是為什麼第 4 步要放在比較帳單之前。

    改用自行訓練的模型後,提示詞依然可以維持 600 個 token 的規模,剩下的就看它每個 token 的價格。請用您日誌中的實際 token 數,對每個候選方案做同樣的計算。我們的單一任務成本計算器(英文)可以替您完成這筆計算,並區分差額中有多少來自每個 token 的價格,有多少來自每項任務傳送的 token 數量。

    Ertas 能提供什麼?

    Ertas 提供自適應模型 endpoint:一個針對您的任務訓練的模型,透過相容 OpenAI 的 API 提供服務,接入方式就是第 3 步中修改 base URL 和模型名稱。它可以由 Ertas 託管,也可以運行在您自己的雲端或地端環境中。每個新版本都要通過您的評估集檢驗,並經您的團隊核准後才會承接流量。該 endpoint 目前僅限受邀企業使用,我們正在開發一個更精簡的版本,讓更多企業可以接入。

    合作從一次免費稽核開始,釐清您的 AI 支出流向哪裡、哪些任務在重複。建置費用在稽核後依範圍確定,為固定費用;運行費用可以按 token 計費、按月固定席位計費,或使用專用硬體,詳見我們的定價頁面。如果您更想自己動手訓練,Ertas Studio 可以在託管基礎設施上訓練模型,並讓您下載最終的模型檔案。

    需要在 2027 年 1 月 14 日前遷移微調過的 GPT 模型?了解自適應 endpoint 的運作方式,並在那裡預約通話。

    常見問題

    微調現在還有人用嗎?

    有。團隊每天都在微調開放模型,讓模型在某一項任務上穩定可靠;截至 2026 年 10 月,Google 也仍在 Gemini Enterprise Agent Platform 上提供 Gemini 的監督式微調。正在收縮的是閉源模型的自助微調:OpenAI 將於 2027 年 1 月 6 日停止建立新任務,Mistral 也已把其微調 API 標為棄用。

    微調一個大型語言模型要花多少錢?

    截至 2026 年 10 月,OpenAI 的監督式微調對 GPT-4.1 mini 按每百萬訓練 token 5 美元收費,對 GPT-4.1 和 GPT-4o 按 25 美元收費,訓練出的模型另按 token 收取推論費用。在 Ertas Studio 上自助訓練開放模型可以免費開始,截至 2026 年 10 月,付費方案每月 10 美元起。託管建置通常依任務規模收取固定費用。

    OpenAI 什麼時候停止微調服務?

    現有客戶可以在 2027 年 1 月 6 日前繼續建立新的微調任務。新組織已於 2026 年 5 月 7 日失去存取權限。微調過的 GPT-4o、GPT-4o mini、GPT-4.1 和 GPT-4.1 mini 模型將於 2027 年 1 月 14 日隨其基礎模型一起下線。

    微調過的 GPT-4.1 mini 模型應該換成什麼?

    可以用開放模型重新訓練同一項任務,並透過相容 OpenAI 的 API 提供服務;也可以換成 OpenAI 建議的替代模型 GPT-6 Luna,把指令寫進提示詞。請在 2027 年 1 月 14 日前用預留的評估集比較這兩種方案,屆時原來的微調模型仍可作為對照基準。


    資料來源(查閱於 2026 年 10 月 28 日): OpenAI 的棄用頁面、監督式微調指南和 API 定價;Google 的 Gemini API 微調和 Gemini Enterprise Agent Platform 監督式微調文件;Mistral 的微調 API(legacy)。兩款產品的比較,請參閱 Ertas 與 OpenAI 微調比較。