OpenClaw 代理機構
為客戶部署 OpenClaw 的 AI 代理機構,面臨與所有依賴 API 的工具相同的利潤問題:按 token 計費的成本隨客戶數量增加。透過 Ertas,代理機構為每個客戶訓練模型,匯出後在自己的硬體上執行,作為 OpenClaw 的後端。按 token 計費的 API 帳單因此變成可預期的託管成本,每個代理也都熟悉其客戶的業務領域。
The Challenge
OpenClaw 是目前最強大的 AI 代理框架——透過客戶已在使用的通訊平台進行自主任務執行、瀏覽器自動化、檔案管理、電子郵件分類和基於 cron 的監控。對 AI 代理機構來說,它是從簡單聊天機器人部署到全方位 AI 助手的自然演進。
但使用雲端 API 的經濟模式在規模化時行不通。每個客戶的 OpenClaw 實例都將每次互動路由至 GPT-4o 或 Claude——對每封分類的電子郵件、每份生成的報告、每條發送的訊息產生按 token 收費。單一活躍客戶每月可能花費 AU$150-300 的 API 轉嫁成本。在 10-20 個客戶中,代理機構面臨每月 AU$2,000-4,000 的可變成本,直接侵蝕固定服務費的利潤。
更糟的是,成本不可預測。客戶的行銷活動爆紅,支援量增加兩倍?API 帳單也增加兩倍——但服務費保持不變。OpenClaw 的 cron 工作每 30 分鐘掃描一次收件匣?那是 24/7 穩定的 token 消耗,即使沒有任何可操作的事情發生也在燃燒額度。
差異化問題同樣緊迫。如果每家代理機構都使用相同的 GPT-4o 後端部署 OpenClaw,客戶實際上獲得的是相同的 AI——只是包裝在不同的品牌中。沒有護城河。技術能力強的客戶可以自己複製設置。
The Solution
Ertas 讓代理機構的 OpenClaw 部署從轉售 API 轉向使用自己擁有的模型。做法是:在 Ertas Studio 中以每個客戶的領域資料訓練模型,匯出後用 Ollama 或其他相容 OpenAI 介面的伺服器在本地執行,再將該客戶的 OpenClaw 實例指向這個本地端點。
硬體到位後,成本結構隨之改變。呼叫本地模型的成本是代理機構既有的電力與硬體,客戶的使用量即使變成 三倍,帳單也不會跟著變成三倍。訓練在 Studio 中透過視覺化畫布、在 Ertas 的雲端 GPU 上完成,代理機構不需要自建訓練基礎設施,還能平行訓練多個候選模型,比較後再選一個上線。這個步驟需要將訓練資料上傳到 Ertas,因此請先移除紀錄中的個人資訊。
品質提升才是真正的賣點。為房地產客戶訓練的模型學會了該客戶的物件、定價用語與和買方溝通的風格;為牙科診所訓練的模型熟悉診所的預約類型、合作保險與對病患的語氣。通用模型每次請求都只能靠系統提示詞去近似這些內容。代理機構可以用每個客戶保留的測試樣本衡量差距,既有證據可以展示給客戶,也為較高的定價提供依據。
Key Features
逐客戶微調
以 JSONL 格式上傳客戶的對話紀錄、產品目錄或領域資料,或在 Data Craft 中建立資料集,再於 Studio 的視覺化畫布上設定 LoRA 訓練。訓練在 Ertas 的雲端 GPU 上執行,產出貼合該客戶需求的模型,不必管理 GPU 基礎設施。
匯出並在本地執行
Hub 列出代理機構訓練過的所有模型。每個模型都可下載為 GGUF(用於 Ollama、llama.cpp 或 LM Studio)或 safetensors(用於 vLLM),部署在代理機構自己的硬體上。將每個客戶的 OpenClaw 實例指向對應的模型,代理執行時就不依賴 Ertas,也沒有按 token 計費的帳單。
每個客戶一個獨立模型
每個客戶的代理都在各自訓練的模型上執行,一個客戶的資料不會影響另一個客戶的回覆。由代理機構決定每個模型在哪裡執行,每個代理的請求與輸出都留在那台硬體上。專案結束後,可以從 Studio 刪除訓練資料集。
適合代理任務的基礎模型
從 Studio 的開放模型目錄中挑選 Qwen、Llama、Gemma、Mistral 與 Phi 等模型,參數規模從數億到 80 億不等。用同一份客戶資料平行訓練兩三個候選模型,在電子郵件分類、排程或報告任務上比較後,再選定要部署的模型。
Example Workflow
雪梨一家 AI 自動化代理機構為房地產、旅宿與專業服務產業的 12 個小型企業客戶管理 OpenClaw 部署。每個客戶都有一個 OpenClaw 代理,透過 WhatsApp 與電子 郵件處理郵件分類、預約排程與客戶詢問。使用雲端 API 時,代理機構每月花費 AU$2,800,其中三個高流量客戶(一家房地產仲介、一間精品旅館和一家會計師事務所)就佔了 AU$1,500。代理機構逐一將客戶移轉到 Ertas。團隊為每個客戶匯出三到六個月的對話紀錄,刪除個人資訊,整理成 JSONL 格式,在 Ertas Studio 中平行訓練兩種規模的基礎模型,保留在該客戶真實詢問的保留測試集上表現較好的那一個。選定的模型從 Hub 匯出為 GGUF,在代理機構辦公室的一台 Mac Studio 上以 Ollama 執行,每個客戶的 OpenClaw 實例都指向自己的模型。切換某個客戶之前,代理機構會將新模型對詢問的分類與回覆,和 GPT-4o 對相同訊息的輸出互相比較,並請客戶審閱一部分回覆是否符合品牌語氣。移轉完成後,這些客戶的成本就是 Ertas 訂閱費加上電費與代理機構自有的硬體,代理機構也能將以每個客戶自身資料訓練的模型作為進階方案銷售。
Compliance & Security
每個客戶的模型在代理機構的硬體上執行時,代理的請求與輸出都留在那裡,不會傳送給任何第三方 AI 供應商,代理機構在 RFP 回覆與企業採購問卷中因此能給出明確答覆。訓練在 Ertas 的雲端 GPU 上進行,訓練集需要上傳到 Ertas:上傳前請刪除或遮蔽對話紀錄中的個人資訊,專案結束後從 Studio 刪除資料集。為每個客戶分別訓練模型,可以避免一個客戶的資料進入另一個客戶的模型。代理機構自有伺服器的安全,以及對客戶的合約或法規義務,仍由代理機構負責。
Related Resources
Fine-Tuning(微調)
LoRA
GGUF
Inference(推論)
Adapter(適配器)
Multi-Tenant Inference(多租戶推論)
OpenClaw for Agencies: Per-Client AI Agents Without the API Bill
Run OpenClaw on Local Models Without API Keys
OpenClaw + Fine-Tuned Models vs. OpenClaw + GPT-4: A Practical Comparison
How to Cut Your AI Agency Costs by 90% with Fine-Tuned Local Models
Multi-Tenant AI Deployment: One Base Model, Dozens of Client Adapters
White-Label AI: Build Custom Models for Every Client
Ollama
Ertas for AI Automation Agencies
Ertas for Customer Support
Ship AI that runs on your users' devices.
Start free with 150 credits after card verification. Paid plans from $20/mo USD.