LLM 微调服务，从审计到生产。
Ertas 是一家提供 LLM 微调服务的应用 AI 实验室。我们用贵机构自己的数据针对一项任务训练一个开放模型，按您的质量标准进行测试，并由 Ertas 托管运行，或部署在您自己的云或本地。我们与世界各地的机构合作。如果您在澳大利亚且数据必须留在境内，您自己位于澳大利亚区域的云账户或您自己的服务器可以让数据留在那里。
LLM 微调项目包括哪些内容？
共五个阶段，每个阶段结束后由您决定是否继续。概念验证会在生产构建开始前确定 合适的模型规模和成本平衡点。
持续改进通过自适应模型端点实现。该端点目前仅限受邀使用，我们正在开发一个更简化的版本，以便更广泛地开放。
- 评估
- 免费审计您的 AI 支出流向，以及哪些任务在大量重复。
- 准备
- 我们把您的样例和请求日志整理成训练集和测试集。纳入哪些内容由您的团队审批。
- 构建
- 为期三到四周的概念验证，找到满足您标准的合适规模模型。随后我们训练生产模型。
- 运行
- 我们通过一个 API 提供服务：Ertas 托管、您自己的云或本地部署。
- 改进
- 新版本在后台用您的流量训练，只有通过您的评估并获得您的批准后才会上线。如果新版本未达标准，当前模型继续提供服务。
什么时候适合做微调？
微调适合大量重复、格式稳定的任务：前沿模型已经能完成这项工作，而问题在于费用或响应时间。微调教给模型的是一种行为：您的输出格式、您的分类方式、您的行文风格。
每天都在变化的知识应交给检索，许多项目两者并用。持续预训练与微调介绍了领域知识如何进入模型。开放式工作，或每周仍在变化的流程，通常还不适合，审计会告诉您。
如何判断微调后的模型是否足够好？
训练之前，我们会用您自己的样例构建测试集，并与您的团队商定质量标准。每个模型版本在承接流量之前都要用它评分。
方法沿用我们已发表的研究：冻结的评测协议、事先设定的阈值和置信区间。领域专用 LLM 评估逐步讲解了这一方法。
常见问题。
Ertas 微调哪些模型？
开放模型，按任务选择。概念验证会找到能达到您质量标准的合适规模模型，并在更好的基础模型发布后重新训练。
LLM 微调需要多长时间？
在审计和数据准备之后，概念验证需要三到四周。您批准结果后，即进入生产模型阶段。
我们拥有微调后的模型吗？
模型用您的数据训练、由您的团队塑造，默认在 Ertas 上运行。在满足最低合作承诺的前提下，可获得模型的所有权并完成交付。
我们自己的工程师可以微 调模型吗？
可以。您的机器学习工程师可以在 Ertas Studio 中自行训练模型，Enterprise 方案还提供前沿 GPU、定制额度分配和专属支持。