Back to blog
    getting-startedtutorialfine-tuningcustom-aigguf

    Ertas 入門指南:微調和部署自訂 AI 模型

    上傳資料集、在 Ertas Studio 中微調模型,以及部署 GGUF 模型的逐步指南——無需 ML 專業知識。

    Edward Xi YangUpdated

    大多數 AI 平台要求您按 token 付費,並寄望於通用模型能有好表現。Ertas 的運作方式不同。您通過視覺介面使用雲端 GPU 微調模型,然後下載並在您自己的硬體上運行——或在 Ertas Cloud 推出時通過雲端部署。

    本指南帶您了解三個核心步驟:上傳資料集、在 Studio 中微調,以及下載您的完成模型。

    第 1 步:上傳您的資料集

    Ertas 接受 JSONL 格式的訓練資料——每行一個 JSON 物件,這是微調大型語言模型的標準格式。如果您還沒有準備好的資料集,您可以使用 URL 直接從 Hugging Face 匯入。

    上傳您的 JSONL 資料集或直接從 Hugging Face 匯入。

    準備您的資料

    典型的 JSONL 訓練文件如下所示:

    {"prompt": "Summarize this support ticket", "completion": "Customer reported billing issue..."}
    {"prompt": "Classify this email", "completion": "Category: Feature Request"}

    每行都是一個獨立的訓練範例。Ertas 在上傳時驗證您的文件,並在開始微調運行之前標記格式問題,讓您儘早發現問題。

    還沒有訓練資料? 瀏覽 Hugging Face 的開放資料集,並將 URL 直接貼到 Ertas 上傳介面中。它會為您處理下載和轉換。

    第 2 步:在 Studio 中微調

    上傳資料集後,您進入 Ertas Studio——一個由畫布驅動的視覺環境,您可以在其中配置並在雲端 GPU 上啟動微調任務。

    Studio 的畫布讓您並排微調多個模型並比較結果。

    Studio 的不同之處

    • 同時多個模型 — 在同一個資料集上同時微調多個基礎模型,然後並排比較結果
    • 儲存的知識 — Ertas 保留每次微調運行的知識,因此您可以在不同使用案例中迭代和測試,而無需從頭開始
    • 視覺工作流程 — 沒有命令列指令或 YAML 配置。通過網頁介面配置超參數、選擇基礎模型並監控訓練進度
    • 雲端 GPU — 微調在快速的雲端硬體上運行,因此您不需要昂貴的本地 GPU

    Studio 的設計讓您把時間花在評估結果上,而非調試訓練管道。

    第 3 步:下載並部署

    當您的模型準備好後,將其下載為 GGUF 文件——廣泛支援的在消費級硬體上運行大型語言模型的格式。GGUF 模型可與 llama.cpp、Ollama、LM Studio 等工具一起使用。通過 Ertas Cloud 的雲端部署即將推出。

    將您的微調模型下載為 GGUF 文件,在任何地方運行。

    為何自訂模型很重要

    • 沒有重複的 API 費用 — 在您自己的硬體上按需執行推論
    • 推論時完整的資料隱私 — 在本地運行時,查詢和回應從不接觸外部伺服器
    • 無供應商鎖定 — GGUF 是開放格式。您的模型可與任何相容的運行時一起使用
    • 內建的領域專業知識 — 微調模型比任何提示詞工程都更了解您的產品

    路線圖上的事項

    Ertas 正在建構一個完整的自訂 AI 生態系統:

    1. Studio(開發中)— 上述的雲端微調介面,即將推出智慧資料合成建議
    2. Hub(即將到來)— 發現並與社群分享微調模型
    3. Cloud(即將到來)— 將微調模型部署為 API 端點,並整合工作流程自動化
    4. Vault(企業版)— 企業級加密儲存,用於資料集和機密

    加入優先預約

    Ertas 目前正在開發中。在我們的首頁上報名優先預約,以獲得早期訪問並幫助塑造平台。


    建構您信任的模型。在您的資料上訓練它們。按您的條款部署它們。

    就本文向 AI 提問

    Ship AI that runs on your users' devices.

    Free plan with 30 credits/mo, no card required. Paid plans from $10/mo USD.

    Keep reading