金融服務
以您自己的金融資料微調 AI 模型,並在您掌控的基礎設施上執行,推論涉及的金融資料始終留在您手中。
The Challenge
金融機構在地球上資料最豐富且監管最嚴格的環境之一中運營。從風險建模和詐欺偵測到監管報告和客戶溝通,AI 的潛在應用場景巨大——但風險同樣巨大。虛構的合規報告或不準確的風險評分可能觸發監管行動、財務損失和聲譽損害。通用語言模型缺乏解析 SEC 文件、解讀 Basel III 資本要求,或區分合法交易模式和微妙詐欺指標的領域知識。
同時,金融資料是現存最敏感的 資訊類別之一。客戶帳戶詳情、交易策略、專有風險模型和內部稽核結果都受到重疊監管框架的約束——SOX 用於內部控制、PCI-DSS 用於支付資料、SEC 和 FINRA 規則用於交易和顧問活動,以及 GDPR 或 CCPA 用於客戶個人資料。將任何此類資訊發送到第三方 AI 供應商的 API 會引入資料駐留、可稽核性和供應商風險方面的疑慮,大多數合規團隊會直接拒絕。
The Solution
Ertas 讓金融機構打造屬於自己、在自有基礎設施上執行的領域模型。在 Ertas Studio 中,量化分析師與資料科學團隊以 LoRA 在金融資料集上微調開放模型,資料包括法說會逐字稿、內部研究筆記、匿名化交易紀錄與監管申報文件。訓練可以重複執行,多個任務可以平行進行,團隊比較結果後再選定模型。模型會從您自己的範例中學到金融術語、會計準則與市場慣例。訓練在 Ertas 的雲端 GPU 上進行,因此訓練資料集必須上傳到 Ertas:請先匿名化或精簡資料,並移除原始帳號與客戶個人資料。
模型通過您自己的評估後,即可從 Hub 匯出 GGUF 或 safetensors,以 vLLM、llama.cpp 或 Ollama 部署在您的 VPC 或地端資料中心。推論請求與輸出都留在這些伺服器上,模型執行時不依賴 Ertas,您既有的存取控管、日誌與模型風險管理流程,也會像對待其他內部系統一樣適用於它。已經透過 API 呼叫把某項任務交給前沿模型的團隊,也可以了解自適應模型端點,它可以由 Ertas 代管,也可以執行在您自己的雲端或地端。規模更大的專案,Ertas 企業團隊會從免費的使用情境評估與為期三到四週的概念驗證開始,訓練完成的模型歸機構所有。
Key Features
金融模型微調
使用 Studio 的視覺化畫布,在金融問答、盈利分析、風險評估和監管文字的 JSONL 資料集上微調模型。LoRA 適配器使訓練保持經濟高效,同時產出高保真理解 GAAP、IFRS 和市場微觀結構術語的模型。
在 Data Craft 中由分析師審核
分析師與風險審查人員在 Studio 的引導式資料集建立工具 Data Craft 中建立與修正訓練範例。他們修改每個 ASSISTANT 回答,保存範例版本並追蹤核准狀態,只有審核通過的範例才會進入訓練。
在您自己的伺服器上推論
從 Hub 將訓練好的模型匯出為 GGUF 或 safetensors,部署在您的 VPC 或地端資料中心。請求日誌、存取控管與紀錄保存,都透過貴機構既有的系統完成。
自適應模型端點
對於已經在使用前沿模型的任務,自適應模型端點會以您自己的請求與團隊回饋訓練客製化模型。它通過您的評估後會逐步接手越來越多的請求,困難案例仍由前沿模型處理,導入時只需把既有的 API 呼叫指向新的模型名稱。
Example Workflow
一家區域型銀行的風險分析團隊希望改善詐欺審查流程。團隊匯出 200,000 筆已標註確認詐欺案例的匿名化交易紀錄,移除原始帳號與客戶個人資料後,以 JSONL 資料集上傳到 Ertas Studio。詐欺分析師在 Data Craft 中抽查樣本,為每個標記案例撰寫並核准說明。團隊在 Studio 中平行以 LoRA 微調 Mistral 7B 與 Llama 3.1 8B,目標是交易分類與異常說明,並用一組分析師已判定過的保留案例比較兩次訓練結果。團隊從 Hub 將表現較好的模型匯出為 safetensors,在銀行的地端資料中心以 vLLM 部署,只允許詐欺監控流程存取。模型為交易評分,標記可疑模式並附上說明,由分析師審查;擴大使用範圍之前,團隊先將誤報率與現行規則比較。即時客戶資料留在銀行網路之內,模型的輸入與輸出由銀行自己的監控系統記錄。
Compliance & Security
SOX、PCI-DSS、SEC 與 FINRA 的紀錄保存規範及其他適用法規的各項要求,連同模型風險評估,都由機構自行落實。Ertas 改變的是以下幾點。訓練在 Ertas 的雲端 GPU 上進行,因此訓練資料集必須上傳到 Ertas:請先匿名化或精簡資料,並移除持卡人資料與原始帳號。匯出後,模型在您掌控的基礎設施上執行,推論請求中的金融資料留在那裡,受您自己的存取控管與日誌管理。資料集保存在 Studio 中,以便重複訓練,您可以隨時刪除。
Related Resources
Fine-Tuning(微調)
GGUF
JSONL
LoRA
Inference(推論)
Quantization(量化)
Privacy-Conscious AI Development: Fine-Tune in the Cloud, Run on Your Terms
Introducing Ertas Studio: A Visual Canvas for Fine-Tuning AI Models
Data Sovereignty for AI Agencies: Why Clients Demand Local Models
Hugging Face
Ollama
llama.cpp
vLLM
Ertas for Legal
Ertas for Healthcare
Ertas for Data Extraction
Ertas for SaaS Product Teams
Ertas for AI Automation Agencies
Ship AI that runs on your users' devices.
Start free with 150 credits after card verification. Paid plans from $20/mo USD.