加快微調節奏,同時不放棄掌控
Ertas Studio 為機器學習工程師提供一個在代管雲端 GPU 上運作的視覺化微調工作區,支援平行訓練、引導式資料集建構,並可匯出為 GGUF 或 safetensors。您可以少花時間寫樣板程式碼,把心力放在模型品質上。
The Challenges You Face
樣板程式碼拖慢實驗
每次實驗都要建立訓練迴圈、資料載入器、轉接器設定和量化腳本,這些重複工作並不會提升模型品質。但只要省略任何一步,就可能出現不易察覺的效能退化,或白白浪費 GPU 時數。
訓練資料散落在各個 notebook 裡
資料集在臨時的 notebook 和試算表中清理、修改,沒有版本管理。模型一旦退步,要追溯到資料中的哪一處改動非常耗時。
管理 GPU 成本是一份全職工作
挑選合適的執行個體類型、處理 Spot 執行個體中斷、調整批次大小讓 GPU 保持滿載,這些基礎設施工作都在排擠真正的研究時間。
領域專家與訓練之間的交接很脆弱
領域專家在一處審閱範例,機器學習工程師在另一處訓練,交接靠共用雲端硬碟和遲早會亂掉的命名規則。很少有一個地方能把某次訓練和產生它的資料集版本對應起來。
How Ertas Solves This
Ertas Studio 在您早已熟悉的微調流程之上,加了一層視覺化介面。基礎模型和超參數(學習率、步數或訓練輪數、批次大小、暖身、最佳化器、GPU)仍由您決定,只是不必再寫訓練腳本:在畫布上設定好,就會在代 管雲端 GPU 上啟動 LoRA 微調。多種設定可以同時執行,並排比較。
Studio 的引導式資料集建構工具 Data Craft,讓上游的資料工作也井然有序。您可以上傳 JSONL 或從 Hugging Face 匯入資料集,再以 USER 與 ASSISTANT 輪次編輯範例、進行版本管理,並追蹤哪些範例已核准。領域專家不必寫程式,也能在同一份資料集上協作。
每個訓練好的模型都會進入 Hub。您可以匯出 Q4_K_M 量化的 GGUF,供 llama.cpp、Ollama、LM Studio 或裝置端使用,也可以匯出完整的 safetensors,供 vLLM 等伺服器執行環境使用。模型歸您所有,可以在任何地方執行,執行時不依賴 Ertas。
Key Features for 機器學習工程師
超參數工作區
透過結構化介面設定學習率、最大步數或訓練輪數、批次大小、暖身、梯度累積、最佳化器與 GPU 規格。複製一次訓練、改動一項設定,就能比較兩者。
Data Craft 中的版本化資料集
以 USER 與 ASSISTANT 輪次編輯範例、進行版本管理並追蹤核准狀 態。資料集會被保存,任何一次訓練都能重複;用完後也可以刪除。
模型 Hub 與匯出
每個訓練好的模型都列在 Hub 中。可下載為 GGUF(搭配 llama.cpp、Ollama 與 LM Studio)或完整的 safetensors(搭配 vLLM),再用您自己的提示詞和工具評估。
代管的雲端訓練
訓練任務在代管的 T4 與 A10G GPU 上執行,可以同時跑好幾個,不必自行佈建執行個體。驅動程式、檢查點與 GGUF 轉換都由 Studio 處理,您只需專注在實驗本身。
Why It Works
- 在 QMSum 會議摘要基準上,一個以 Ertas 訓練的 1.2B 模型取得 35.41 的 ROUGE-1 分數,五個託管前沿模型中最好的一個為 32.43。為單一任務訓練的小模型,在這項任務上可以勝過大得多的通用模型。
- GGUF 匯出預設產生 Q4_K_M 量化模型,完整的 safetensors 匯出則可部署在 vLLM 等伺服器執行環境 上。
- 模型目錄涵蓋 Llama、Qwen、Gemma、Mistral、Phi 與 LFM 系列,參數規模從 230M 到 8B;相容的 Hugging Face 模型也可以透過網址匯入。
Example Workflow
您的團隊有一批領域文件,需要轉成專用擷取模型的訓練資料。資料工程師把它們轉換成 JSONL,原文作為 USER 輪次,目標欄位作為 ASSISTANT 輪次,再上傳到 Data Craft。一位領域專家在那裡審閱範例、修正錯誤的擷取結果,並核准資料集。
機器學習工程師在 Studio 畫布上把資料集接到三個訓練任務:使用預設學習率的 Qwen 2.5 7B 和 Llama 3.1 8B,以及一個學習率較低的 Qwen 任務。三個任務在 A10G GPU 上同時訓練。工程師下載 GGUF 檔,用一組保留的提示詞逐一評分,選出最好的一個;平台團隊再以它的 safetensors 匯出在 vLLM 上部署。
Related Resources
Ship AI that runs on your users' devices.
Start free with 150 credits after card verification. Paid plans from $20/mo USD.