金融服務

    以您自己的金融資料微調 AI 模型,並在您掌控的基礎設施上執行,推論涉及的金融資料始終留在您手中。

    The Challenge

    金融機構在地球上資料最豐富且監管最嚴格的環境之一中運營。從風險建模和詐欺偵測到監管報告和客戶溝通,AI 的潛在應用場景巨大——但風險同樣巨大。虛構的合規報告或不準確的風險評分可能觸發監管行動、財務損失和聲譽損害。通用語言模型缺乏解析 SEC 文件、解讀 Basel III 資本要求,或區分合法交易模式和微妙詐欺指標的領域知識。

    同時,金融資料是現存最敏感的資訊類別之一。客戶帳戶詳情、交易策略、專有風險模型和內部稽核結果都受到重疊監管框架的約束——SOX 用於內部控制、PCI-DSS 用於支付資料、SEC 和 FINRA 規則用於交易和顧問活動,以及 GDPR 或 CCPA 用於客戶個人資料。將任何此類資訊發送到第三方 AI 供應商的 API 會引入資料駐留、可稽核性和供應商風險方面的疑慮,大多數合規團隊會直接拒絕。

    The Solution

    Ertas 讓金融機構打造屬於自己、在自有基礎設施上執行的領域模型。在 Ertas Studio 中,量化分析師與資料科學團隊以 LoRA 在金融資料集上微調開放模型,資料包括法說會逐字稿、內部研究筆記、匿名化交易紀錄與監管申報文件。訓練可以重複執行,多個任務可以平行進行,團隊比較結果後再選定模型。模型會從您自己的範例中學到金融術語、會計準則與市場慣例。訓練在 Ertas 的雲端 GPU 上進行,因此訓練資料集必須上傳到 Ertas:請先匿名化或精簡資料,並移除原始帳號與客戶個人資料。

    模型通過您自己的評估後,即可從 Hub 匯出 GGUF 或 safetensors,以 vLLM、llama.cpp 或 Ollama 部署在您的 VPC 或地端資料中心。推論請求與輸出都留在這些伺服器上,模型執行時不依賴 Ertas,您既有的存取控管、日誌與模型風險管理流程,也會像對待其他內部系統一樣適用於它。已經透過 API 呼叫把某項任務交給前沿模型的團隊,也可以了解自適應模型端點,它可以由 Ertas 代管,也可以執行在您自己的雲端或地端。規模更大的專案,Ertas 企業團隊會從免費的使用情境評估與為期三到四週的概念驗證開始,訓練完成的模型歸機構所有。

    Key Features

    Studio

    金融模型微調

    使用 Studio 的視覺化畫布,在金融問答、盈利分析、風險評估和監管文字的 JSONL 資料集上微調模型。LoRA 適配器使訓練保持經濟高效,同時產出高保真理解 GAAP、IFRS 和市場微觀結構術語的模型。

    Studio

    在 Data Craft 中由分析師審核

    分析師與風險審查人員在 Studio 的引導式資料集建立工具 Data Craft 中建立與修正訓練範例。他們修改每個 ASSISTANT 回答,保存範例版本並追蹤核准狀態,只有審核通過的範例才會進入訓練。

    Hub

    在您自己的伺服器上推論

    從 Hub 將訓練好的模型匯出為 GGUF 或 safetensors,部署在您的 VPC 或地端資料中心。請求日誌、存取控管與紀錄保存,都透過貴機構既有的系統完成。

    Cloud

    自適應模型端點

    對於已經在使用前沿模型的任務,自適應模型端點會以您自己的請求與團隊回饋訓練客製化模型。它通過您的評估後會逐步接手越來越多的請求,困難案例仍由前沿模型處理,導入時只需把既有的 API 呼叫指向新的模型名稱。

    Example Workflow

    一家區域型銀行的風險分析團隊希望改善詐欺審查流程。團隊匯出 200,000 筆已標註確認詐欺案例的匿名化交易紀錄,移除原始帳號與客戶個人資料後,以 JSONL 資料集上傳到 Ertas Studio。詐欺分析師在 Data Craft 中抽查樣本,為每個標記案例撰寫並核准說明。團隊在 Studio 中平行以 LoRA 微調 Mistral 7B 與 Llama 3.1 8B,目標是交易分類與異常說明,並用一組分析師已判定過的保留案例比較兩次訓練結果。團隊從 Hub 將表現較好的模型匯出為 safetensors,在銀行的地端資料中心以 vLLM 部署,只允許詐欺監控流程存取。模型為交易評分,標記可疑模式並附上說明,由分析師審查;擴大使用範圍之前,團隊先將誤報率與現行規則比較。即時客戶資料留在銀行網路之內,模型的輸入與輸出由銀行自己的監控系統記錄。

    Compliance & Security

    SOX、PCI-DSS、SEC 與 FINRA 的紀錄保存規範及其他適用法規的各項要求,連同模型風險評估,都由機構自行落實。Ertas 改變的是以下幾點。訓練在 Ertas 的雲端 GPU 上進行,因此訓練資料集必須上傳到 Ertas:請先匿名化或精簡資料,並移除持卡人資料與原始帳號。匯出後,模型在您掌控的基礎設施上執行,推論請求中的金融資料留在那裡,受您自己的存取控管與日誌管理。資料集保存在 Studio 中,以便重複訓練,您可以隨時刪除。

    Related Resources

    Ship AI that runs on your users' devices.

    Start free with 150 credits after card verification. Paid plans from $20/mo USD.