Ertas 助力金融

    用您自己的金融数据微调 AI 模型,并在您掌控的基础设施上运行,推理涉及的金融数据始终留在您手中。

    The Challenge

    金融机构运营在地球上数据最丰富且监管最严格的环境之一。从风险建模和欺诈检测到监管报告和客户沟通,AI 的潜在应用是巨大的——但风险同样巨大。一份虚构的合规报告或不准确的风险评分可能引发监管行动、财务损失和声誉损害。通用语言模型缺乏解析 SEC 文件、解读巴塞尔 III 资本要求或区分合法交易模式与微妙欺诈指标的领域知识。

    与此同时,金融数据属于最敏感的信息类别之一。客户账户详情、交易策略、专有风险模型和内部审计发现都受到重叠监管框架的约束——SOX 用于内部控制、PCI-DSS 用于支付数据、SEC 和 FINRA 规则用于交易和咨询活动,以及 GDPR 或 CCPA 用于客户个人数据。将这些信息发送到第三方 AI 提供商的 API 会引发数据驻留、可审计性和供应商风险方面的担忧,大多数合规团队会直接否决。

    The Solution

    Ertas 让金融机构构建归自己所有、在自有基础设施上运行的领域模型。在 Ertas Studio 中,量化分析师和数据科学团队用 LoRA 在金融数据集上微调开放模型,数据包括财报电话会议记录、内部研究笔记、匿名化交易记录和监管申报文件。训练可以重复运行,多个任务可以并行,团队比较结果后再选定模型。模型会从您自己的示例中学到金融术语、会计准则和市场惯例。训练在 Ertas 的云端 GPU 上进行,因此训练集需要上传到 Ertas:请先进行匿名化或精简,并去掉原始账号和客户个人信息。

    模型通过您自己的评估后,您可以从 Hub 导出 GGUF 或 safetensors,用 vLLM、llama.cpp 或 Ollama 部署在您的 VPC 或本地数据中心。推理请求和输出都留在这些服务器上,模型运行时不依赖 Ertas,您现有的访问控制、日志和模型风险管理流程也像对待其他内部系统一样适用于它。已经通过 API 调用把某项任务交给前沿模型的团队,也可以了解自适应模型端点,它可以由 Ertas 托管,也可以运行在您自己的云中或本地。对于规模更大的项目,Ertas 企业团队会从免费的用例评估和为期三到四周的概念验证开始,训练好的模型归机构所有。

    Key Features

    Studio

    金融模型微调

    使用 Studio 的可视化画布,在金融问答、盈利分析、风险评估和监管文本的 JSONL 数据集上微调模型。LoRA 适配器在保持训练成本效益的同时,生成高保真理解 GAAP、IFRS 和市场微观结构术语的模型。

    Studio

    在 Data Craft 中由分析师审核

    分析师和风险审核人员在 Studio 的引导式数据集构建器 Data Craft 中创建和修正训练示例。他们修改每个 ASSISTANT 回答,保存示例版本并跟踪审核状态,只有审核通过的示例才会进入训练。

    Hub

    在您自己的服务器上推理

    从 Hub 将训练好的模型导出为 GGUF 或 safetensors,部署在您的 VPC 或本地数据中心。请求日志、访问控制和记录保存都通过贵机构现有的系统完成。

    Cloud

    自适应模型端点

    对于已经在用前沿模型的任务,自适应模型端点会用您自己的请求和团队反馈训练一个定制模型。它通过您的评估后会逐步接手越来越多的请求,疑难情况仍由前沿模型处理,接入时只需把现有 API 调用指向一个新的模型名称。

    Example Workflow

    一家区域性银行的风险分析团队希望改进欺诈审核流程。团队导出 200,000 条已标注确认欺诈案例的匿名化交易记录,删除原始账号和客户个人信息后,以 JSONL 数据集的形式上传到 Ertas Studio。欺诈分析师在 Data Craft 中抽查样本,为每个标记案例撰写并批准解释。团队在 Studio 中并行对 Mistral 7B 和 Llama 3.1 8B 进行 LoRA 微调,目标是交易分类和异常解释,并用一组分析师已经判定过的预留案例比较两次训练的结果。团队从 Hub 将表现更好的模型导出为 safetensors,在银行本地数据中心用 vLLM 部署,只允许欺诈监控流水线访问。模型为交易打分,标记可疑模式并给出解释,由分析师审核;在扩大使用范围之前,团队先将误报率与现有规则进行对比。实时客户数据留在银行网络之内,模型的输入和输出由银行自己的监控系统记录。

    Compliance & Security

    SOX、PCI-DSS、SEC 和 FINRA 的记录保存规则以及其他适用法规的各项要求,连同模型风险评估,都由机构自行落实。Ertas 改变的是以下几点。训练在 Ertas 的云端 GPU 上进行,因此训练集需要上传到 Ertas:请先进行匿名化或精简,并去掉持卡人数据和原始账号。导出后,模型在您掌控的基础设施上运行,推理请求中的金融数据留在那里,受您自己的访问控制和日志管理。数据集保存在 Studio 中,以便重复训练,您可以随时删除。

    Related Resources

    Ship AI that runs on your users' devices.

    Start free with 150 credits after card verification. Paid plans from $20/mo USD.