Ertas 助力金融
用您自己的金融数据微调 AI 模型,并在您掌控的基础设施上运行,推理涉及的金融数据始终留在您手中。
The Challenge
金融机构运营在地球上数据最丰富且监管最严格的环境之一。从风险建模和欺诈检测到监管报告和客户沟通,AI 的潜在应用是巨大的——但风险同样巨大。一份虚构的合规报告或不准确的风险评分可能引发监管行动、财务损失和声誉损害。通用语言模型缺乏解析 SEC 文件、解读巴塞尔 III 资本要求或区分合法交易模式与微妙欺诈指标的领域知识。
与此同时,金融数据属于最敏感的信息类别之一 。客户账户详情、交易策略、专有风险模型和内部审计发现都受到重叠监管框架的约束——SOX 用于内部控制、PCI-DSS 用于支付数据、SEC 和 FINRA 规则用于交易和咨询活动,以及 GDPR 或 CCPA 用于客户个人数据。将这些信息发送到第三方 AI 提供商的 API 会引发数据驻留、可审计性和供应商风险方面的担忧,大多数合规团队会直接否决。
The Solution
Ertas 让金融机构构建归自己所有、在自有基础设施上运行的领域模型。在 Ertas Studio 中,量化分析师和数据科学团队用 LoRA 在金融数据集上微调开放模型,数据包括财报电话会议记录、内部研究笔记、匿名化交易记录和监管申报文件。训练可以重复运行,多个任务可以并行,团队比较结果后再选定模型。模型会从您自己的示例中学到金融术语、会计准则和市场惯例。训练在 Ertas 的云端 GPU 上进行,因此训练集需要上传到 Ertas:请先进行匿名化或精简,并去掉原始账号和客户个人信息。
模型通过您自己的评估后,您可以从 Hub 导出 GGUF 或 safetensors,用 vLLM、llama.cpp 或 Ollama 部署在您的 VPC 或本地数据中心。推理请求和输出都留在这些服务器上,模型运行时不依赖 Ertas,您现有的访问控制、日志和模型风险管理流程也像对待其他内部系统一样适用于它。已经通过 API 调用把某项任务交给前沿模型的团队,也可以了解自适应模型端点,它可以由 Ertas 托管,也可以运行在您自己的云中或本地。对于规模更大的项目,Ertas 企业团队会从免费的用例评估和为期三到四周的概念验证开始,训练好的模型归机构所有。
Key Features
金融模型微调
使用 Studio 的可视化画布,在金融问答、盈利分析、风险评估和监管文本的 JSONL 数据集上微调模型。LoRA 适配器在保持训练成本效益的同时,生成高保真理解 GAAP、IFRS 和市场微观结构术语的模型。
在 Data Craft 中由分析师审核
分析师和风险审核人员在 Studio 的引导式数据集构建器 Data Craft 中创建和修正训练示例。他们修改每个 ASSISTANT 回答,保存示例版本并跟踪审核状态,只有审核通过的示例才会进入训练。
在您自己的服务器上推理
从 Hub 将训练好的模型导出为 GGUF 或 safetensors,部署在您的 VPC 或本地数据中心。请求日志、访问控制和记录保存都通过贵机构现有的系统完成。
自适应模型端点
对于已经在用前沿模型的任务,自适应模型端点会用您自己的请求和团队反馈训练一个定制模型。它通过您的评估后会逐步接手越来越多的请求,疑难情况仍由前沿模型处理,接入时只需把现有 API 调用指向一个新的模型名称。
Example Workflow
一家区域性银行的风险分析团队希望改进欺诈审核流程。团队导出 200,000 条已标注确认欺诈案例的匿名化交易记录,删除原始账号和客户个人信息后,以 JSONL 数据集的形式上传到 Ertas Studio。欺诈分析师在 Data Craft 中抽查样本,为每个标记案例撰写并批准解释。团队在 Studio 中并行对 Mistral 7B 和 Llama 3.1 8B 进行 LoRA 微调,目标是交易分类和异常解释,并用一组分析师已经判定过的预留案例比较两次训练的结果。团队从 Hub 将表现更好的模型导出为 safetensors,在银行本地数据中心用 vLLM 部署,只允许欺诈监控流水线访问。模型为交易打分,标记可疑模式并给出解释,由分析师审核;在扩大使用范围之前,团队先将误报率与现有规则进行对比。实时客户数据留在银行网络之内,模型的输入和输出由银行自己的监控系统记录。
Compliance & Security
SOX、PCI-DSS、SEC 和 FINRA 的记录保存规则以及其他适用法规的各项要 求,连同模型风险评估,都由机构自行落实。Ertas 改变的是以下几点。训练在 Ertas 的云端 GPU 上进行,因此训练集需要上传到 Ertas:请先进行匿名化或精简,并去掉持卡人数据和原始账号。导出后,模型在您掌控的基础设施上运行,推理请求中的金融数据留在那里,受您自己的访问控制和日志管理。数据集保存在 Studio 中,以便重复训练,您可以随时删除。
Related Resources
微调
GGUF
JSONL
LoRA
推理
量化(Quantization)
Privacy-Conscious AI Development: Fine-Tune in the Cloud, Run on Your Terms
Introducing Ertas Studio: A Visual Canvas for Fine-Tuning AI Models
Data Sovereignty for AI Agencies: Why Clients Demand Local Models
Hugging Face
Ollama
llama.cpp
vLLM
Ertas for Legal
Ertas for Healthcare
Ertas for Data Extraction
Ertas for SaaS Product Teams
Ertas for AI Automation Agencies
Ship AI that runs on your users' devices.
Start free with 150 credits after card verification. Paid plans from $20/mo USD.