OpenClaw + Ertas

用透過 Ollama 部署的微調模型替換 OpenClaw 預設的雲端 API 後端，實現零成本推理、更好的領域特定準確度和完整的資料隱私。

Overview

OpenClaw 是一個開源自主 AI 代理，連接到訊息平台（WhatsApp、Telegram、Slack、Discord、Teams），可以透過大型語言模型執行任務——從電子郵件分類和檔案管理到瀏覽器自動化和終端命令。擁有超過 180,000 個 GitHub 星標，它已成為最受歡迎的個人 AI 代理框架。

預設情況下，OpenClaw 透過 OpenAI 和 Anthropic 等雲端 API 路由推理，這意味著每次互動都有按令牌成本，且敏感資料會離開您的基礎設施。Ertas 解決了這兩個問題：在您的資料上微調領域特定模型，匯出為 GGUF，透過 Ollama 部署，並將 OpenClaw 指向本地端點。結果是一個了解您特定工作流程、每次互動零成本且所有資料保留在機器上的 AI 代理。

How Ertas Integrates

OpenClaw 支援任何透過 OpenAI 相容 API 提供服務的模型，其中包括 Ollama——Ertas 訓練模型的推薦本地部署目標。在 Ertas Studio 中微調後，以 GGUF 格式下載模型及附帶的 Modelfile。使用單一 CLI 命令在 Ollama 中註冊，然後更新 OpenClaw 的 models.providers 設定以指向您的本地 Ollama 端點。

對於運行按客戶 OpenClaw 部署的代理商，Ertas 實現了特別高效的架構：在共享基礎模型上微調按客戶的 LoRA 適配器（每個 50-200MB）。每個客戶的 OpenClaw 實例連接到同一 Ollama 伺服器，但在推理時載入不同的適配器。這完全消除了按客戶的 API 成本，同時提供比通用雲端模型更好的領域特定準確度。Ertas Cloud 可以管理完整的生命週期——訓練、適配器版本控制、部署監控和模型版本之間的 A/B 測試。

Getting Started

1
為 OpenClaw 工作流程微調模型
將 OpenClaw 使用場景的訓練資料（電子郵件分類範例、支援對話、報告範本）上傳到 Ertas Studio。選擇針對代理任務最佳化的基礎模型（建議 Llama 3.3 8B 或 Qwen 2.5 7B）並啟動 LoRA 微調運行。
2
匯出為 GGUF
以 GGUF 格式下載微調模型及您偏好的量化級別。Q5_K_M 適用於 OpenClaw 代理任務——它在多步驟推理工作流程中平衡品質和速度。
3
透過 Ollama 部署
使用 Ertas 生成的 Modelfile 以單一命令在 Ollama 中註冊模型。Modelfile 包含正確的聊天範本、系統提示和運行時參數。
4
設定 OpenClaw 的模型提供者
更新 OpenClaw 的 models.providers 設定以使用您在 http://127.0.0.1:11434/v1 的本地 Ollama 端點。將微調模型設定為所有任務的預設模型，或設定任務特定路由。
5
測試和迭代
透過微調模型運行標準 OpenClaw 工作流程。收集準確度不足的案例，將其新增到訓練資料集，並重新微調用於下一次迭代。

json

// openclaw.json — configure local fine-tuned model
{
  "models": {
    "providers": [
      {
        "name": "ertas-local",
        "api": "openai-completions",
        "baseUrl": "http://127.0.0.1:11434/v1",
        "models": ["my-finetuned-model"]
      }
    ]
  }
}

// Deploy your Ertas-trained model with Ollama:
// ollama create my-finetuned-model -f ./Modelfile
// ollama run my-finetuned-model "Test prompt"

設定 OpenClaw 使用透過 Ollama 在本地提供服務的 Ertas 微調模型——零 API 成本，完整資料隱私。