Ertas 助力内部知识库
微调理解组织术语、流程和机构知识的模型——驱动员工信任并实际使用的内部问答系统。
The Challenge
每个组织都在 Wiki、Confluence 页面、SharePoint 站点、Slack 对话、邮件存档和资深员工的脑海中积累了机构知识。在需要时找到正确的信息是现代组织中最持久的生产力挑战之一。据估计,员工每周花 20% 的工作时间搜索信息、向同事提问和重新创建组织中某处已存在的知识。
通用 AI 聊天工具和企业搜索解决方案部分解决了这个问题,但在关键方面不足。它们可以检索包含相关关键词的文档,但无法回答需要综合多个来源信息或理解组织特定上下文的问题。「我们处理客户数据泄露的流程是什么?」或「哪个团队负责 Stripe 的计费集成?」等问题需要了解组织的特定流程、团队结构和技术栈——通用模型没有这些上下文,关键词搜索也无法提供。
The Solution
Ertas 让组织能够用自己的内部文档、来自服务台和支持渠道的问答对以及流程文档微调知识库模型。生成的模型会学到组织的术语、团队结构、工具和流程,能在公司自身的语境中回答问题,并为员工指出合适的资源。结合基于最新文档的 RAG,它的回答既来自训练所学,也来自最新的文档。
在 Ertas Studio 中,知识管理团队用从内部支持渠道、IT 服务台工单、HR 常见问题回复和专家访谈中整理出的问答对进行训练。模型会学到每个答案背后的语境:该联系哪个团队、用哪个工具、走哪个流程,以及有哪些例外。模型从 Hub 导出后,通过 AnythingLLM、Dify 或自建的聊天界面部署在内部基础设施上,成为员工可以用自然语言提问的对话助手,问题和答案都留在公司网络内。训练数据需要上传到 Ertas 的云端 GPU,因此请把受限资料排除在训练集之外。文档级权限应放在检索层处理。训练过的模型可能把训练数据中的任何内容告诉任何提问的人,所以只用助手所有用户都有权查看的知识来训练。
Key Features
组织知识训练
在 Studio 中用内部问答对、流程文档和组织知识训练模型。模型会学到贵组织的术语、团队结构和操作流程。
在 Data Craft 中整理问答
在 Studio 的引导式数据集构建器 Data Craft 中构建训练集。各领域专家以 ASSISTANT 轮次撰写或修正答案,在流程变化时保存新版本,并在训练前逐条批准。
私有知识助手
Hub 列出您训练好的模型。可以导出为 GGUF 用于 Ollama 或 LM Studio,也可以导出完整的 safetensors 用于 vLLM,再部署在聊天界面、Slack 机器人或搜索组件后面。查询和回复都留在您的基础设施内。
权限放在检索层
把访问规则放在为模型 提供最新文档的检索层,让每位用户只能检索到自己本来就能打开的内容。模型本身只用助手所有用户都有权查看的知识来训练。
Example Workflow
一家 2,000 人的科技公司,组织知识分散在 Confluence(15,000 个页面)、Slack(3 年的历史记录)和 Zendesk 服务台(50,000 张已解决工单)中。IT 和 People Ops 团队从服务台工单、Slack 支持频道和整理过的常见问题文档中提取 25,000 个问答对,删除个人信息和仅限特定团队查看的内容后上传到 Ertas Studio。专家在 Data Craft 中审阅 HR 和安全相关的答案后再批准。团队微调出一个了解公司工具(内部系统名称、缩写、团队名称)、流程(入职、采购、事件响应)和政策(休假、报销、数据分级)的模型,并用一组预留的真实员工问题比较各次训练。选定的模型导出后通过 AnythingLLM 部署在内部基础设施上,并在现有权限下把 Confluence 页面作为 RAG 上下文加载。员工通过 Slack 机器人和网页界面使用它。团队用自己的评估跟踪服务台工单量和回答准确率,并每季度用新解决的工单重新训练。
Related Resources
微调
JSONL
LoRA
推理
Getting Started with Ertas: Fine-Tune and Deploy Custom AI Models
Privacy-Conscious AI Development: Fine-Tune in the Cloud, Run on Your Terms
Running AI Models Locally: The Complete Guide to Local LLM Inference
Fine-Tune AI Without Code: 6 Visual Steps
Self-Hosted AI for Indie Apps: Replace GPT-4 with Your Own Model
Ollama
LlamaIndex
LangChain
Ertas for Customer Support
Ertas for SaaS Product Teams
Ertas for Education
Ertas for Data Extraction
Ship AI that runs on your users' devices.
Start free with 150 credits after card verification. Paid plans from $20/mo USD.