客戶支援
根據您的工單歷史和產品知識微調客戶支援 AI 模型
The Challenge
客戶支援團隊淹沒在工單量中,同時努力維持品質。通用 AI 聊天機器人承諾提供幫助,但持續令人失望——它們會虛構不存在的產品功能,給出自信但錯誤的故障排除步驟,並以極高的比率轉介給人工客服,導致自動化幾乎沒有任何改善。根本原因很簡單:這些模型從未見過您的產品文件、您的內部運行手冊,或您的資深客服人員已學會處理的數千個細微邊緣案例。
隨著產品變得更加複雜,問題加深。每個新功能、定價變更或整合都增加了另一個通用模型會失敗的表面積。RAG 管線有所幫助但引入了自身的可靠性問題——分塊偽影、檢索遺漏和上下文視窗溢出,這些都會不可預測地降低回答品質。支援主管需要的 AI 是真正以受過訓練的客服人員深度理解其產品的,而不是一個對檢索片段進行模式匹配並祈求最好結果的系統。
The Solution
Ertas 把團隊最好的客服經驗變成一個專門打造的 AI 模型。在 Studio 中,客服營運團隊用已解決的工單紀錄、內部知識庫和精選問答配對微調開源模型。這些資料可以用 JSONL 上傳,也可以在 Studio 的引導式資料集建構工具 Data Craft 中建立,由資深客服編輯並核准範例對話。訓練出的模型掌握了您產品的邏輯、術語和排除問題的路徑,回答讀起來就像您最好的客服寫的。
每個訓練完成的模型都列在 Hub 中,可匯出為 GGUF 或完整的 safetensors。在自己的基礎設施上以 Ollama、llama.cpp 或 vLLM 部署,再透過您自己的 API 串接客服平台,運行時不依賴 Ertas。3B 到 8B 規模的模型在一般 GPU 上也能快速回應。產品更新時,在 Studio 中用新的工單資料重新訓練,把新結果和目前的模型比較,達到您的品質標準後再替換匯出的模型。若希望以服務形式使用,可以選擇自適應模型端點:以您自己的請求和團隊回饋訓練出的客製模型在通過您的評估後,接手越來越多的客服請求,而棘手的案例仍交給您已在使用的前沿模型。
Key Features
支援調校模型訓練
把已解決的工單、快速回覆範本和知識庫文章作為 JSONL 訓練資料匯入 Studio。以 LoRA 微調,讓模型學會您產品的術語、常見故障和偏好的解決路徑,並同時執行多種設定進行比較。
對話基礎模型
從 Studio 模型目錄中經過指令微調的開源模型起步,包括 Llama 3.1 8B、Qwen 2.5 7B、Mistral 7B 和 Gemma 3。簡單的常見問題可以選 Llama 3.2 3B 這類較小的模型,複雜的問題排除則用 8B 模型。
低延遲服務
從 Hub 把訓練完成的模型匯出為量化 GGUF 供 llama.cpp 或 Ollama 使用,或匯出為 safetensors 供 vLLM 使用,部署在靠近客服系統的自有硬體上。硬體、擴充和上線流程都由您決定,包括換上重新訓練的模型時分階段上線。
對話資料保護
自行部署匯出的模型時,即時的客戶對話都留在您的網路內。訓練資料會上傳到 Ertas 的雲端 GPU,因此上傳前請從工單中移除電子郵件、電話和帳號 ID,不再需要時可在 Studio 中刪除資料集。
Example Workflow
一家 SaaS 公司的客服團隊匯出 100,000 張已解決的 Zendesk 工單,保留 CSAT 分數高、解決方式經過驗證的工單,並用自己的腳本移除客戶姓名、電子郵件和帳號 ID,再存成 JSONL 資料集。資料集上傳到 Ertas Studio 後,兩位資深客服在 Data Craft 中修正並核准了幾百筆關於最棘手的帳務和帳戶問題的範例。在 Studio 中,團隊以 LoRA 在公司的問題排除和帳戶管理領域微調 Llama 3.1 8B,並同時執行三種設定。他們用保留的 5,000 張工單比較每次訓練結果,把模型的回答與客服實際送出的解決方式、以及現有 RAG 聊天機器人的回答逐一對照評分。表現最好的模型從 Hub 匯出,以 vLLM 部署在公司自己的 GPU 伺服器上,並串接 Zendesk webhook。它為第一線工單草擬回覆,團隊依自己對這些草稿的審查決定哪些類別可以完全自動化,其餘交由客服核准。
Compliance & Security
客服對話中常含有客戶的個人資料,例如姓名、電子郵件和帳戶資訊。訓練在 Ertas 的雲端 GPU 上進行,訓練集會上傳到 Ertas,因此上傳前請用您自己的工具移除或遮蔽個人資料,專案結束後在 Studio 中刪除資料集。匯出之後,模型可以在您自己的基礎設施上運行,送去推論的客戶訊息都留在那裡。GDPR、CCPA 和合約中的隱私義務仍需由您的組織自行落實,訓練集也應經過您們例行的隱私審查。
Related Resources
Fine-Tuning(微調)
GGUF
JSONL
LoRA
Inference(推論)
Getting Started with Ertas: Fine-Tune and Deploy Custom AI Models
Privacy-Conscious AI Development: Fine-Tune in the Cloud, Run on Your Terms
Fine-Tuning vs RAG: When to Use Each (and When to Combine Them)
Fine-Tune AI Without Code: 6 Visual Steps
Per-Token AI Pricing Costs 3-5x Your Estimate
How to Cut Your AI Agency Costs by 90% with Fine-Tuned Local Models
Hugging Face
Ollama
llama.cpp
Ertas for Healthcare
Ertas for SaaS Product Teams
Ertas for E-Commerce
Ertas for AI Automation Agencies
Ship AI that runs on your users' devices.
Start free with 150 credits after card verification. Paid plans from $20/mo USD.