Ertas 助力客户支持

    用真实的支持对话微调 AI 模型,让它用您产品自己的语言准确解决工单。

    The Challenge

    客户支持团队被工单量淹没,同时还要维持质量。通用 AI 聊天机器人承诺减轻压力,但持续令人失望——它们虚构不存在的产品功能,给出自信但错误的故障排除步骤,升级到人工客服的比率高到自动化几乎起不了作用。根本原因很简单:这些模型从未见过您的产品文档、内部操作手册,或您的资深客服人员学会处理的数千个细微边缘案例。

    随着产品变得更加复杂,问题更加严重。每个新功能、定价变更或集成都增加了通用模型会失败的新表面积。RAG 流水线有所帮助,但引入了自身的可靠性问题——分块伪影、检索遗漏和上下文窗口溢出,这些不可预测地降低了回答质量。支持负责人需要的 AI 能够像经过培训的客服那样深入理解产品,而不是一个对检索到的片段进行模式匹配然后碰运气的系统。

    The Solution

    Ertas 把团队最好的支持经验变成一个专门打造的 AI 模型。在 Studio 中,支持运营团队用已解决的工单记录、内部知识库和精选问答对微调开源模型。这些数据可以以 JSONL 上传,也可以在 Studio 的引导式数据集构建器 Data Craft 中创建,由资深客服编辑并批准示例对话。训练出的模型掌握了您产品的逻辑、术语和排障路径,回答读起来就像您最好的客服写的。

    每个训练好的模型都列在 Hub 中,可导出为 GGUF 或完整的 safetensors。在自己的基础设施上用 Ollama、llama.cpp 或 vLLM 部署,再通过您自己的 API 接入工单平台,运行时不依赖 Ertas。3B 到 8B 规模的模型在普通 GPU 上也能快速响应。产品更新时,在 Studio 中用新的工单数据重新训练,把新结果和当前模型比较,达到您的质量标准后再替换导出的模型。如果希望以服务的形式使用,可以选择自适应模型端点:用您自己的请求和团队反馈训练出的定制模型在通过您的评估后,接手越来越多的支持请求,而疑难问题仍交给您已经在用的前沿模型。

    Key Features

    Studio

    支持专属模型训练

    把已解决的工单、快捷回复和知识库文章作为 JSONL 训练数据导入 Studio。用 LoRA 微调,让模型学会您产品的术语、常见故障和首选解决路径,并行运行多种配置进行比较。

    Studio

    对话型基础模型

    从 Studio 模型目录中经过指令微调的开源模型起步,包括 Llama 3.1 8B、Qwen 2.5 7B、Mistral 7B 和 Gemma 3。简单的常见问题可以选 Llama 3.2 3B 这类较小的模型,复杂排障则用 8B 模型。

    Hub

    低延迟服务

    从 Hub 把训练好的模型导出为量化 GGUF 供 llama.cpp 或 Ollama 使用,或导出为 safetensors 供 vLLM 使用,部署在靠近工单系统的自有硬件上。硬件、扩容和上线流程都由您决定,包括替换为重新训练的模型时分阶段上线。

    Hub

    对话数据保护

    自己部署导出的模型时,实时的客户对话都留在您的网络内。训练数据会上传到 Ertas 的云端 GPU,因此上传前请从工单中去除邮箱、电话和账号 ID,不再需要时可在 Studio 中删除数据集。

    Example Workflow

    一家 SaaS 公司的支持团队导出 100,000 张已解决的 Zendesk 工单,保留 CSAT 评分高、解决方案经过验证的工单,并用自己的脚本去除客户姓名、邮箱和账号 ID,再保存为 JSONL 数据集。数据集上传到 Ertas Studio 后,两位资深客服在 Data Craft 中修改并批准了几百条关于最棘手的计费和账户问题的示例。在 Studio 中,团队用 LoRA 在公司的排障和账户管理领域微调 Llama 3.1 8B,并行运行了三种配置。他们用预留的 5,000 张工单比较每次训练结果,把模型的回答与客服实际发出的解决方案、以及现有 RAG 聊天机器人的回答逐一对照打分。表现最好的模型从 Hub 导出,用 vLLM 部署在公司自己的 GPU 服务器上,并接入 Zendesk webhook。它为一线工单起草回复,团队根据自己对这些草稿的审查决定哪些类别可以完全自动化,其余的交给客服审批。

    Compliance & Security

    支持对话中常含有客户的个人信息,例如姓名、邮箱和账户信息。训练在 Ertas 的云端 GPU 上进行,训练集会上传到 Ertas,因此上传前请用您自己的工具去除或遮盖个人信息,项目结束后在 Studio 中删除数据集。导出之后,模型可以在您自己的基础设施上运行,发送去推理的客户消息都留在那里。GDPR、CCPA 和合同中的隐私义务仍需您的组织自己落实,训练集也应经过您们常规的隐私审查。

    Related Resources

    Ship AI that runs on your users' devices.

    Start free with 150 credits after card verification. Paid plans from $20/mo USD.