Ertas 用於可複用的客戶資料流水線

    專為 AI/ML 服務提供商:在 Data Craft 中維護具版本管理、可重複使用的訓練資料集,在 Ertas Studio 中為每個專案重複同一套訓練設定,並交給每個客戶一個單獨訓練的模型,客戶可以擁有它並在自己的伺服器上執行。

    The Challenge

    AI/ML 服務提供商為每個客戶專案重建資料準備流水線。不同的腳本、不同的工具、不同的品質標準。沒有標準化意味著沒有累積的機構知識。每個專案的流水線都是一次性的,專案結束後就消失了。

    The Solution

    Ertas 為服務提供商提供一條可重複的路徑:從客戶範例到客戶擁有的已訓練模型。Studio 的引導式資料集建構工具 Data Craft 以對話範例的形式保存每個專案的訓練資料:團隊新增 USER 與 ASSISTANT 對話輪次、編輯並做版本管理,同時追蹤哪些範例已獲客戶領域專家核准。在一個客戶身上行之有效的資料集結構,例如輪次格式與涵蓋的範例類型,會成為下一個專案的起點,團隊只需填入新客戶的素材,不必從零開始。

    每次訓練的步驟都相同。團隊在 Studio 中選擇開放基礎模型,在視覺化畫布上設定 LoRA 微調,並在 Ertas 的雲端 GPU 上執行,可以平行跑多個訓練來比較不同設定或模型規模。資料集會被保存,之後可以用相同資料重複訓練。每個客戶都會得到自己的模型,從 Hub 匯出為 GGUF 或完整的 safetensors,客戶可以擁有它,並在自己的伺服器上執行,不需依賴 Ertas。對於需要協助規劃工作的客戶,Ertas 也提供企業自訂模型建置服務,從一次免費的使用案例評估開始。

    Key Features

    Studio

    Data Craft 中的版本化資料集

    在 Data Craft 中以 USER 與 ASSISTANT 對話輪次建立每個客戶的訓練集。隨專案進展編輯範例並做版本管理,將行之有效的結構保留下來,作為下一個客戶的範本。

    Studio

    專家審核與核准

    為每筆範例追蹤核准狀態,讓客戶的領域專家在訓練開始前確認模型要學的內容。每個專案都沿用相同的審核步驟。

    Studio

    可重複的訓練

    在 Studio 的視覺化畫布上設定開放模型的 LoRA 微調,並在 Ertas 的雲端 GPU 上執行。平行執行多種設定並加以比較,客戶送來新資料時再以同一套設定重新訓練。

    Hub

    客戶擁有的模型

    每個專案最後都會在 Hub 中留下一個獨立訓練的模型。將其匯出為 GGUF(用於 llama.cpp、Ollama 或 LM Studio)或完整的 safetensors(用於 vLLM)後交付。客戶在自己的伺服器上執行,執行時不需依賴 Ertas。

    Example Workflow

    一家服務提供商在 Data Craft 中為一家醫療客戶建立客服助理資料集:數百筆 USER 與 ASSISTANT 範例,涵蓋預約問題、轉診步驟與診所規定,均根據已去識別化的原始資料撰寫,並由診所經理核准。他們在 Ertas Studio 中以 Qwen 2.5 3B 和 Llama 3.1 8B 平行訓練兩個 LoRA,用一組保留的真實問題比較兩者,再從 Hub 將表現較好的模型匯出為 GGUF,交給診所在自己的伺服器上執行。下一個專案是一家律師事務所。團隊沿用相同的資料集結構與審核流程,填入該所的案件受理問題,由一位資深律師核准範例,再重複同一套訓練設定。兩個客戶最後各自得到一個單獨訓練的模型,歸付費的客戶所有,背後是服務提供商在每個專案中持續改進的同一套工作流程。

    Related Resources

    Ship AI that runs on your users' devices.

    Start free with 150 credits after card verification. Paid plans from $20/mo USD.