Ertas Builder 方案($25/月):適合對象、包含內容、誠實評測
對 Ertas Builder 方案的誠實分析。包含內容、適合誰、何時升級,以及定價與它取代的 API 費用相比如何。
Ertas Builder 方案為每月 $25。這是對你能獲得什麼、適合誰、何時不夠用,以及相對於它通常取代的 API 費用,數字如何計算的詳細分析。
不加掩飾。如果 Builder 對你的情況不是正確的方案,本評測會這麼說。
Builder 包含什麼
每月 100 個積分。 當你運行訓練工作時消耗積分。在 500 到 1,000 個訓練示例上對 7B 模型進行典型微調運行消耗 8 到 15 個積分。有了 100 個積分,你每月可以現實地運行 7 到 12 個訓練工作——足夠定期實驗、迭代改進,或維護 2 到 3 個每月重新訓練的活躍專案。
完整模型匯出。 在 Training Config 裡打開 "Export full model",執行結束後交給你的是一份已合併的 16 位元 safetensors 檢查點,而不只是 LoRA 適配器。這是相對免費方案最大的一步跨越:免費方案只給適配器,你得自己把它與基礎模型合併之後才能使用。完整檢查點可以直接進入推論服務堆疊,量化怎麼做由你決定,而不是被固定成 Q4_K_M。
從你自己的模型繼續訓練。 這份完整檢查點也是你再次訓練的起點。透過 "Continue from your models" 選擇一個你已經訓練過的模型作為下一次執行的基礎,而不必每次都從基礎模型開始。當一次執行已經把語氣調對、模型卻還在囉嗦時,你可以在它之上繼續,而不是丟掉重來、再付一次從零訓練的錢。
最多 14B 參數的模型。 免費層上限為 5B 以下。Builder 解鎖了 14B 模型(Qwen 2.5 14B、Llama 3.1 14B 等)。對於大多數窄任務應用,7B 已足夠。當你需要更好的推理或多語言能力,同時仍在中等規格 VPS 上本地運行時,14B 變得相關。
50 GB 存儲。 涵蓋你上傳的資料集和匯出的 GGUF 文件。微調的 7B GGUF(Q4 量化)大約 4 到 5 GB。50 GB 可以舒適地存儲 8 到 10 個匯出模型及產生它們的資料集。
Data Craft 與 Prompt Studio。 Prompt Studio 會根據你自己的脈絡產生一段生成提示詞,你在自己已付費的 AI 工具中執行它,再把結果以 JSONL 匯入。當你的真實世界資料有限時很有用。
每次執行的三條推論樣本。 執行完成後,Studio 會用一小組固定提示詞跑過剛訓練好的模型,讓你在下載任何檔案前先確認它輸出連貫且格式正確。要真正評分,得把你自己的測試集跑在匯出的模型上,驗證匯出 指南有完整說明。內建評估套件仍在路線圖上。
實際中的積分系統
| 模型大小 | 資料集大小 | 每次運行大概積分 |
|---|---|---|
| 7B 模型 | 200-500 個示例 | 5-8 積分 |
| 7B 模型 | 500-1,500 個示例 | 8-12 積分 |
| 7B 模型 | 1,500-3,000 個示例 | 12-18 積分 |
| 14B 模型 | 200-500 個示例 | 8-15 積分 |
| 14B 模型 | 500-1,500 個示例 | 15-25 積分 |
每月 100 個積分,你可以根據模型大小和資料集運行大約 6 到 12 個訓練工作。對於每月重新訓練一個微調模型的典型獨立開發者,這是相當大的空間。
Builder 適合誰
替換 OpenAI API 帳單的獨立開發者。 你有一個 SaaS 應用程式,目前每月花費 80 到 400 美元在 API 呼叫上。你想在你的領域上微調模型、匯出 GGUF、在本地運行。Builder + 每月 26 美元的 Hetzner VPS,總費用為每月 $51取代了那個帳單——由於你的推理成本現在為零,節省額隨使用量增長。
有 1 到 3 個活躍專案的獨立建設者。 你正在為不同的使用案例實驗微調、每 1 到 2 週運行訓練實驗、維護 2 到 3 個活躍模型。Builder 的 3 個專案和每月 100 個積分符合這種模式。
添加 AI 功能的非技術創始人。 你沒有 ML 工程師。Ertas 的視覺介面讓你無需代碼就能微調。Builder 解鎖了你認真做這件事(而非只做一次)所需的額度與空間。
驗證微調使用案例的人。 你還不確定微調是否適合你的應用程式。Builder 讓你運行多個實驗、比較結果,並在承諾基礎設施投資之前評估品質。
使用案例:替換 OpenAI API 的獨立開發者
以 下是具體情景的計算。
情況: 你用 OpenAI API 建了一個寫作助理應用程式。在 800 個用戶時,你每月在 API 費用上花費 130 美元(大約每月 200 萬個令牌)。你預計在 6 個月內達到 3,000 個用戶,屆時 API 帳單將達到每月 480 美元。
遷移:
- 第 1 個月:從你的 OpenAI API 日誌匯出 600 個輸入/輸出對作為 JSONL。上傳到 Ertas,微調 Qwen 2.5 7B。使用了 8 個積分。
- 第 2 個月:對照測試集測試微調模型。品質匹配 GPT-3.5,接近你特定任務的 GPT-4。在 Hetzner VPS 上部署(每月 26 美元)。
- 第 3 個月:將應用程式中的 API 端點從 OpenAI 切換到本地 Ollama。取消(或減少)OpenAI 訂閱。
經濟效益:
| 之前(OpenAI API) | 之後(Builder + VPS) | |
|---|---|---|
| 800 個用戶的 AI 費用 |