要微調 LLM,你需要準備一個指令-回應對的 JSONL 資料集、選擇基礎模型(通常是 7B-8B 參數)、應用 LoRA 或 QLoRA 適配器、訓練 1-5 個週期,並將結果匯出為 GGUF 文件以進行部署。整個過程根據資料集大小和硬體,需要 30 分鐘到幾小時。根據 Hugging Face,像 LoRA 這樣的參數高效微調方法可以將可訓練參數減少 99% 以上,同時達到完整微調 2-5% 以內的結果。來自 Stanford HAI AI Index Report 的研究顯示,微調的較小模型在特定領域任務上一貫優於較大的提示工程模型,使微調成為建構生產 AI 最具成本效益的方法之一。
本指南涵蓋整個過程:微調何時有意義、如何準備資料、選擇哪個基礎模型、如何配置訓練,以及如何部署結果。
你應該什麼時候微調?
微調並不總是正確答案。在投入時間準備資料和運行訓練作業之前,考慮你的問題是否真的需要它。
微調有意義的情況:
- 提示工程遇到瓶頸。 你嘗試了少樣本示例、思維鏈提示詞和系統指令,但模型仍然無法為你的領域產生一致結果。
- 你需要特定的輸出格式。 你的應用程式需要結構化 JSON、特定的寫作風格或基礎模型難以可靠產生的特定領域術語。
- 延遲和成本在規模上很重要。 在狹窄任務上,微調的 7B 模型可以優於提示工程的 70B 模型,而推論成本只是其一小部分。
- 隱私要求禁止雲端 API。 微調模型可以完全在你的基礎設施上運行,將敏感資料保持在第三方伺服器之外。
考慮替代方案的情況:
- 你的任務是廣泛的且頻繁變化:提示工程或 RAG 可能更靈活。
- 你有少於 100 個高品質訓練範例:微調需要足夠的資料來學習模式而不過擬合。
- 你需要模型訪問頻繁變化的外部知識:檢索增強生成更好地處理這個問題。
要進行更深入的比較,請參閱我們關於微調 vs RAG 的指南。
第 1 步:準備訓練資料
資料品質是微調成功的單一最大因素。在 500 個優秀範例上訓練的模型將優於在 10,000 個平庸範例上訓練的模型。
格式:JSONL
微調資料的標準格式是 JSONL(JSON Lines),即每行一個 JSON 物件。每行通常包含一個指令和所需的回應:
{"instruction": "Classify this support ticket as billing, technical, or general.", "input": "I can't log in to my account after resetting my password.", "output": "technical"}
{"instruction": "Classify this support ticket as billing, technical, or general.", "input": "When will I be charged for the annual plan?", "output": "billing"}對於對話模型,使用訊息格式:
{"messages": [{"role": "system", "content": "You are a medical assistant."}, {"role": "user", "content": "What are common side effects of metformin?"}, {"role": "assistant", "content": "Common side effects include nausea, diarrhea, and stomach pain..."}]}資料品質檢查清單
- 一致的格式:每個範例應遵循相同的結構
- 多樣的範例:涵蓋邊緣案例,而非只是順利路徑
- 準確的標注:垃圾進,垃圾出。讓領域專家審查你的資料。
- 平衡的分布:如果你在訓練分類器,每個類別大致相等的範例防止模型默認為多數標注
- 沒有資料洩露:保留驗證集與訓練資料分開以測量真實性能
你需要多少資料?
沒有通用答案,但以下是實際起點:
| 任務類型 | 最少範例 | 甜蜜點 |
|---|---|---|
| 分類 | 每類 100-200 個 | 每類 500-1,000 個 |
| 摘要 | 500 個 | 2,000-5,000 個 |
| 對話 | 1,000 個 | 5,000-10,000 個 |
| 代碼生成 | 500 個 | 3,000-8,000 個 |
| 領域問答 | 300 個 | 1,000-3,000 個 |
更多資料有幫助,但回報遞減。先關注品質,然後擴展規模。
第 2 步:選擇基礎模型
你的基礎模型決定你的起始點。正確的選擇取決於你的任務、硬體限制和許可要求。
2026 年流行的基礎模型
| 模型 | 大小 | 優勢 | 授權 |
|---|---|---|---|
| Llama 3.x | 1B、3B、8B、70B、405B | 通用、強推理、最大的微調社群 | Llama Community |
| Qwen 3.5 / 3.6 | 0.8B 到 397B | 多語言、基準分數強、size ladder 最完整 | Apache 2.0 |
| Gemma 4 | 2B 到 31B | 高效、原生視覺與音訊、適合受限硬體 | Apache 2.0 |
| DeepSeek V4 | 284B-A13B(Flash)、1.6T-A49B(Pro) | 擅長程式碼與數學、1M token 脈絡 | MIT |
| Mistral | 7B | 快速推論、擅長程式碼和指令遵循 | Apache 2.0 |
| Phi-4 | 3.8B(Mini)、14B | 小但有能力、適合邊緣部署 | MIT |
| LFM2.5 | 230M、350M、1.2B | 專為裝置端設計、最小的實用匯出 | LFM Open License |
上表的尺寸與授權為 2026 年 8 月的資料,描述的是開放模型的整體樣貌,而非任何單一平台的清單。Gemma 4 於 2026 年 4 月改用 Apache 2.0,時間夠近,因此仍有不少指南把 Gemma 描述為自訂授權,商業出貨前請以模型卡上的授權為準。你實際能訓練哪些模型取決於你的工具:Ertas Studio 訓練的是一份特定型錄,其上限遠低於此處最大的尺寸。
選擇標準
- 任務適合度:在程式碼上預訓練的模型(DeepSeek、Qwen Coder)對程式碼任務的微調效果更好
- 大小 vs 硬體:7B 模型在單個 GPU 上微調;70B 需要多 GPU 設置
- 授權:檢查你的部署場景是否允許商業使用
- 社區支持:更流行的模型有更多微調指南、適配器和量化版本
對於大多數任務,從 7B-8B 模型開始。它足夠大以 具有能力,但足夠小以快速微調並在適度的硬體上部署。
第 3 步:配置訓練
完整微調 vs LoRA
完整微調更新模型中的每個權重。它產生最佳結果,但需要大量 GPU 記憶體,對於 7B 參數以上的模型通常需要多個高端 GPU。
**LoRA(低秩適應)**凍結基礎模型並訓練修改模型行為的小型適配器矩陣。它使用記憶體的一小部分且訓練更快,結果通常在完整微調的 5% 以內。
QLoRA 透過在套用 LoRA 適配器之前將基礎模型量化為 4 位元精度更進一步。原始論文的示範是在單張 48GB GPU 上微調 65B 模型,同時維持完整 16 位元微調的效能。同樣的記憶體節省放到小尺寸這一端,就是讓 7B 微調能在 8GB 消費級顯示卡上進行的原因,而那也是多數人第一次接觸這項技術的場景。
對於大多數團隊,LoRA 或 QLoRA 是正確的選擇。完整微調保留給擁有大量計算資源且需要最大性能的情況。
關鍵超參數
| 參數 |
|---|

