Back to blog
    Ertas 入門指南:微調和部署自訂 AI 模型
    getting-startedtutorialfine-tuningcustom-aigguf

    Ertas 入門指南:微調和部署自訂 AI 模型

    上傳資料集、在 Ertas Studio 中微調模型,以及部署 GGUF 模型的逐步指南——無需 ML 專業知識。

    EErtas Team··Updated

    大多數 AI 平台要求您按 token 付費,並寄望於通用模型能有好表現。Ertas 的運作方式不同。您通過視覺介面使用雲端 GPU 微調模型,然後下載並在您自己的硬體上運行——或在 Ertas Cloud 推出時通過雲端部署。

    本指南帶您了解三個核心步驟:上傳資料集、在 Studio 中微調,以及下載您的完成模型。

    第 1 步:上傳您的資料集

    Ertas 接受 JSONL 格式的訓練資料——每行一個 JSON 物件,這是微調大型語言模型的標準格式。如果您還沒有準備好的資料集,您可以使用 URL 直接從 Hugging Face 匯入。

    上傳您的 JSONL 資料集或直接從 Hugging Face 匯入。

    準備您的資料

    典型的 JSONL 訓練文件如下所示:

    {"prompt": "Summarize this support ticket", "completion": "Customer reported billing issue..."}
    {"prompt": "Classify this email", "completion": "Category: Feature Request"}

    每行都是一個獨立的訓練範例。Ertas 在上傳時驗證您的文件,並在開始微調運行之前標記格式問題,讓您儘早發現問題。

    還沒有訓練資料? 瀏覽 Hugging Face 的開放資料集,並將 URL 直接貼到 Ertas 上傳介面中。它會為您處理下載和轉換。

    第 2 步:在 Studio 中微調

    上傳資料集後,您進入 Ertas Studio——一個由畫布驅動的視覺環境,您可以在其中配置並在雲端 GPU 上啟動微調任務。

    Studio 的畫布讓您並排微調多個模型並比較結果。

    Studio 的不同之處

    • 同時多個模型 — 在同一個資料集上同時微調多個基礎模型,然後並排比較結果
    • 儲存的知識 — Ertas 保留每次微調運行的知識,因此您可以在不同使用案例中迭代和測試,而無需從頭開始
    • 視覺工作流程 — 沒有命令列指令或 YAML 配置。通過網頁介面配置超參數、選擇基礎模型並監控訓練進度
    • 雲端 GPU — 微調在快速的雲端硬體上運行,因此您不需要昂貴的本地 GPU

    Studio 的設計讓您把時間花在評估結果上,而非調試訓練管道。

    第 3 步:下載並部署

    當您的模型準備好後,將其下載為 GGUF 文件——廣泛支援的在消費級硬體上運行大型語言模型的格式。GGUF 模型可與 llama.cpp、Ollama、LM Studio 等工具一起使用。通過 Ertas Cloud 的雲端部署即將推出。

    將您的微調模型下載為 GGUF 文件,在任何地方運行。

    為何自訂模型很重要

    • 沒有重複的 API 費用 — 在您自己的硬體上按需執行推論
    • 推論時完整的資料隱私 — 在本地運行時,查詢和回應從不接觸外部伺服器
    • 無供應商鎖定 — GGUF 是開放格式。您的模型可與任何相容的運行時一起使用
    • 內建的領域專業知識 — 微調模型比任何提示詞工程都更了解您的產品

    路線圖上的事項

    Ertas 正在建構一個完整的自訂 AI 生態系統:

    1. Studio(開發中)— 上述的雲端微調介面,即將推出智慧資料合成建議
    2. Hub(即將到來)— 發現並與社群分享微調模型
    3. Cloud(即將到來)— 將微調模型部署為 API 端點,並整合工作流程自動化
    4. Vault(企業版)— 企業級加密儲存,用於資料集和機密

    Ship AI that runs on your users' devices.

    Ertas early bird pricing starts at $14.50/mo — locked in for life. Plans for builders and agencies.

    加入優先預約

    Ertas 目前正在開發中。在我們的首頁上報名優先預約,以獲得早期訪問並幫助塑造平台。


    建構您信任的模型。在您的資料上訓練它們。按您的條款部署它們。

    Ship AI that runs on your users' devices.

    Early bird pricing starts at $14.50/mo — locked in for life. Plans for builders and agencies.

    Keep reading