Ertas 助力文本摘要

    微调摘要模型,理解您行业的术语和优先级,产出突出团队实际需要信息的简洁摘要。

    The Challenge

    每个组织都被文本淹没——会议记录、研究论文、法律诉状、客户反馈、新闻文章和内部报告。摘要工具承诺解决这种信息过载,但通用模型产出的摘要遗漏了领域关键细节。临床试验报告的通用摘要可能捕捉了标题性结果但遗漏了安全审查员需要的不良事件数据。法律动议的摘要可能概述了论点但丢失了诉讼律师依赖的特定法规引用。

    根本问题是摘要需要对什么是重要的进行判断——而重要性是领域依赖的。财务财报电话会议记录中重要的信息(收入指引、利润率趋势、竞争定位)与患者出院摘要中重要的信息(药物变更、随访预约、警告信号)完全不同。通用模型应用通用的重要性信号,产出的摘要语法正确但遗漏了使摘要对领域专家有用的特定信息。

    The Solution

    Ertas 让团队用本领域专家撰写的摘要示例微调摘要模型。通过在完整文档与专家所写摘要组成的配对上训练,模型不仅学会压缩文本,还学会针对特定读者该保留什么。在 Ertas Studio 中,团队上传 JSONL 数据集,每条记录包含原文和目标摘要,也可以在 Studio 的引导式数据集构建器 Data Craft 中构建数据集,然后通过可视化画布用 LoRA 微调开源模型,并行运行多种配置进行比较。

    经过训练的小模型就能把这件事做好。在 QMSum 会议摘要基准上,一个用 Ertas 训练的 1.2B 模型在测试集上取得 35.41 的 ROUGE-1,而五个托管前沿模型在零样本条件下的最好成绩是 32.43。完整方法及其局限见我们的研究页面。训练好的模型从 Hub 导出为 GGUF 或 safetensors,在您自己的服务器上通过 Ollama、llama.cpp 或 vLLM 运行,可以按需生成摘要、夜间批量处理文档,或为应用中的摘要功能提供支持,它读取的文档留在您的网络内。训练在 Ertas 的云端 GPU 上进行,文档与摘要的配对会上传到 Ertas,因此请尽可能先删除其中的机密内容。当优先事项变化或出现新的文档类型时,团队补充更新后的示例、重新训练即可。

    Key Features

    Studio

    领域专属摘要训练

    用本领域专家撰写的摘要示例训练摘要模型。示例决定输出的长度、结构和重点:用一页纸执行摘要训练出来的模型,写出的就是一页纸执行摘要。

    Studio

    在 Data Craft 中审核摘要

    领域专家在 Studio 的引导式数据集构建器 Data Craft 中编辑和批准示例摘要,并随着内部写作风格的变化保存数据集版本。模型从专家认可的摘要中学习。

    Hub

    导出并在内部运行

    从 Hub 下载训练好的模型:GGUF 格式用于 llama.cpp、Ollama 或 LM Studio,完整的 safetensors 用于 vLLM。在您自己的服务器上部署,按需或按计划批量生成摘要,运行时不依赖 Ertas。

    Cloud

    自适应模型端点

    如果您现在的摘要来自前沿模型 API,自适应模型端点为这项任务提供一个统一的 API:用您自己的请求和团队反馈训练的定制模型,在通过您的评测后承担越来越多的请求,疑难案例仍交给前沿模型。部署方式可选 Ertas 托管、您自己的云环境或本地部署。

    Example Workflow

    一家管理咨询公司每周处理 200 多份客户交付物(行业分析、竞争评估和战略建议),每份 30 到 80 页。高级合伙人需要一页纸的执行摘要,突出战略洞察、市场规模数据和建议行动。知识管理团队从过往交付物中收集了 5,000 组文档与摘要的配对,删除客户名称后上传到 Ertas Studio。他们微调出一个模型,按合伙人偏好的结构撰写执行摘要:战略背景、关键发现和建议行动。上线前,合伙人在一组模型从未见过的交付物上,把它的草稿与人工撰写的摘要进行对比。模型从 Hub 导出,在公司自己的服务器上运行,接入文档管理系统。顾问上传最终交付物后,系统会生成一份执行摘要草稿,交由合伙人审阅和修改。

    Related Resources

    Ship AI that runs on your users' devices.

    Start free with 150 credits after card verification. Paid plans from $20/mo USD.