OpenClaw 代理機構

    為客戶部署 OpenClaw 的 AI 代理機構,面臨與所有依賴 API 的工具相同的利潤問題:按 token 計費的成本隨客戶數量增加。透過 Ertas,代理機構為每個客戶訓練模型,匯出後在自己的硬體上執行,作為 OpenClaw 的後端。按 token 計費的 API 帳單因此變成可預期的託管成本,每個代理也都熟悉其客戶的業務領域。

    The Challenge

    OpenClaw 是目前最強大的 AI 代理框架——透過客戶已在使用的通訊平台進行自主任務執行、瀏覽器自動化、檔案管理、電子郵件分類和基於 cron 的監控。對 AI 代理機構來說,它是從簡單聊天機器人部署到全方位 AI 助手的自然演進。

    但使用雲端 API 的經濟模式在規模化時行不通。每個客戶的 OpenClaw 實例都將每次互動路由至 GPT-4o 或 Claude——對每封分類的電子郵件、每份生成的報告、每條發送的訊息產生按 token 收費。單一活躍客戶每月可能花費 AU$150-300 的 API 轉嫁成本。在 10-20 個客戶中,代理機構面臨每月 AU$2,000-4,000 的可變成本,直接侵蝕固定服務費的利潤。

    更糟的是,成本不可預測。客戶的行銷活動爆紅,支援量增加兩倍?API 帳單也增加兩倍——但服務費保持不變。OpenClaw 的 cron 工作每 30 分鐘掃描一次收件匣?那是 24/7 穩定的 token 消耗,即使沒有任何可操作的事情發生也在燃燒額度。

    差異化問題同樣緊迫。如果每家代理機構都使用相同的 GPT-4o 後端部署 OpenClaw,客戶實際上獲得的是相同的 AI——只是包裝在不同的品牌中。沒有護城河。技術能力強的客戶可以自己複製設置。

    The Solution

    Ertas 讓代理機構的 OpenClaw 部署從轉售 API 轉向使用自己擁有的模型。做法是:在 Ertas Studio 中以每個客戶的領域資料訓練模型,匯出後用 Ollama 或其他相容 OpenAI 介面的伺服器在本地執行,再將該客戶的 OpenClaw 實例指向這個本地端點。

    硬體到位後,成本結構隨之改變。呼叫本地模型的成本是代理機構既有的電力與硬體,客戶的使用量即使變成三倍,帳單也不會跟著變成三倍。訓練在 Studio 中透過視覺化畫布、在 Ertas 的雲端 GPU 上完成,代理機構不需要自建訓練基礎設施,還能平行訓練多個候選模型,比較後再選一個上線。這個步驟需要將訓練資料上傳到 Ertas,因此請先移除紀錄中的個人資訊。

    品質提升才是真正的賣點。為房地產客戶訓練的模型學會了該客戶的物件、定價用語與和買方溝通的風格;為牙科診所訓練的模型熟悉診所的預約類型、合作保險與對病患的語氣。通用模型每次請求都只能靠系統提示詞去近似這些內容。代理機構可以用每個客戶保留的測試樣本衡量差距,既有證據可以展示給客戶,也為較高的定價提供依據。

    Key Features

    Studio

    逐客戶微調

    以 JSONL 格式上傳客戶的對話紀錄、產品目錄或領域資料,或在 Data Craft 中建立資料集,再於 Studio 的視覺化畫布上設定 LoRA 訓練。訓練在 Ertas 的雲端 GPU 上執行,產出貼合該客戶需求的模型,不必管理 GPU 基礎設施。

    Hub

    匯出並在本地執行

    Hub 列出代理機構訓練過的所有模型。每個模型都可下載為 GGUF(用於 Ollama、llama.cpp 或 LM Studio)或 safetensors(用於 vLLM),部署在代理機構自己的硬體上。將每個客戶的 OpenClaw 實例指向對應的模型,代理執行時就不依賴 Ertas,也沒有按 token 計費的帳單。

    Hub

    每個客戶一個獨立模型

    每個客戶的代理都在各自訓練的模型上執行,一個客戶的資料不會影響另一個客戶的回覆。由代理機構決定每個模型在哪裡執行,每個代理的請求與輸出都留在那台硬體上。專案結束後,可以從 Studio 刪除訓練資料集。

    Studio

    適合代理任務的基礎模型

    從 Studio 的開放模型目錄中挑選 Qwen、Llama、Gemma、Mistral 與 Phi 等模型,參數規模從數億到 80 億不等。用同一份客戶資料平行訓練兩三個候選模型,在電子郵件分類、排程或報告任務上比較後,再選定要部署的模型。

    Example Workflow

    雪梨一家 AI 自動化代理機構為房地產、旅宿與專業服務產業的 12 個小型企業客戶管理 OpenClaw 部署。每個客戶都有一個 OpenClaw 代理,透過 WhatsApp 與電子郵件處理郵件分類、預約排程與客戶詢問。使用雲端 API 時,代理機構每月花費 AU$2,800,其中三個高流量客戶(一家房地產仲介、一間精品旅館和一家會計師事務所)就佔了 AU$1,500。代理機構逐一將客戶移轉到 Ertas。團隊為每個客戶匯出三到六個月的對話紀錄,刪除個人資訊,整理成 JSONL 格式,在 Ertas Studio 中平行訓練兩種規模的基礎模型,保留在該客戶真實詢問的保留測試集上表現較好的那一個。選定的模型從 Hub 匯出為 GGUF,在代理機構辦公室的一台 Mac Studio 上以 Ollama 執行,每個客戶的 OpenClaw 實例都指向自己的模型。切換某個客戶之前,代理機構會將新模型對詢問的分類與回覆,和 GPT-4o 對相同訊息的輸出互相比較,並請客戶審閱一部分回覆是否符合品牌語氣。移轉完成後,這些客戶的成本就是 Ertas 訂閱費加上電費與代理機構自有的硬體,代理機構也能將以每個客戶自身資料訓練的模型作為進階方案銷售。

    Compliance & Security

    每個客戶的模型在代理機構的硬體上執行時,代理的請求與輸出都留在那裡,不會傳送給任何第三方 AI 供應商,代理機構在 RFP 回覆與企業採購問卷中因此能給出明確答覆。訓練在 Ertas 的雲端 GPU 上進行,訓練集需要上傳到 Ertas:上傳前請刪除或遮蔽對話紀錄中的個人資訊,專案結束後從 Studio 刪除資料集。為每個客戶分別訓練模型,可以避免一個客戶的資料進入另一個客戶的模型。代理機構自有伺服器的安全,以及對客戶的合約或法規義務,仍由代理機構負責。

    Related Resources

    Ship AI that runs on your users' devices.

    Start free with 150 credits after card verification. Paid plans from $20/mo USD.