醫療保健
以去識別化的臨床資料微調 AI 模型,再部署到您自己的伺服器上執行,推論時涉及的病患資料始終留在您的網路之內。
The Challenge
醫療保健組織擁有大量非結構化臨床資料——醫師筆記、出院摘要、放射科報告和病患通訊——然而從這些資料中提取可操作的情報仍然極其困難。通用大型語言模型會虛構醫學術語、誤解臨床縮寫,並缺乏臨床醫師每天依賴的對疾病路徑的細微理解。
監管環境使問題更加棘手。HIPAA、HITECH 和新興的州級隱私法對受保護健康資訊 (PHI)的儲存、處理和傳輸施加了嚴格要求。將病患資料發送到第三方 API 端點對大多數合規團隊來說是不可接受的,而主要 AI 供應商缺乏本地或私有雲推論選項,迫使醫院和醫療科技公司在創新和合規之間做出不可能的取捨。
The Solution
Ertas 讓醫療團隊打造屬於自己、可在自有基礎設施上執行的領域模型。在 Ertas Studio 中,臨床 NLP 工程師上傳去識別化的 JSONL 資料集,或在 Data Craft 中建立資料集,接著以 LoRA 微調 Llama、Qwen、Gemma 或 Mistral 等開放模型。模型會從您自己的範例中學會您使用的 ICD 代碼、SNOMED CT 概念與臨床簡寫。訓練在 Ertas 的雲端 GPU 上進行,因此訓練資料集必須上傳到 Ertas。上傳前請依貴機構的標準完成去識別化,不再需要時可在 Studio 中刪除資料集。
模型通過您的評估後,即可從 Hub 匯出 GGUF 或 safetensors 格式,透過 Ollama、llama.cpp 或 vLLM 在您掌控的伺服器上執行,例如您的 VPC 或地端叢集。推論請求與輸出都留在這些伺服器上,模型執行時不依賴 Ertas。存取控管、日誌以及 HIPAA 制度的其他部分,仍由您自己的資安團隊以現有工具負責。如果貴機構希望有人協助釐清臨床使用情境,Ertas 企業團隊提供免費的使用情境評估,以及為期三到四週的概念驗證,訓練完成的模型歸貴機構所有。
Key Features
臨床微調工作流程
透過 Studio 的視覺化畫布,以臨床語料訓練模型。上傳醫療問答、去識別化臨床筆記或診斷推理鏈的 JSONL 資料集,也可以從 Hugging Face 匯入,再平行執行多個 LoRA 訓練並互相比較。
在 Data Craft 中由臨床人員審核
在 Studio 的引導式資料集建立工具 Data Craft 中建立與修訂訓練範例。臨床人員新增與編輯 USER 和 ASSISTANT 對話輪次,為每個範例保存版本並標記核准狀態,只有審核通過的範例才會進入訓練。
屬於您的模型,隨時匯出
Hub 列出您訓練過的模型。任何一個都能下載為 GGUF,供 llama.cpp、Ollama 或 LM Studio 使用,也能下載完整的 safetensors,供 vLLM 等伺服器執行環境使用。模型歸您所有,執行時不依賴 Ertas。
在您的網路內推論
在您自己的伺服器上執行匯出的模型,部署於 VPC 或地端叢集,並置於資安團隊既有的存取控管與日誌之下。推論請求中的病患資料始終留在您掌控的基礎設施上。
Example Workflow
某醫院的臨床資訊團隊依照自己的去識別化流程處理了 50,000 份放射報告,並匯出為 JSONL 資料集,每筆資料是檢查發現與對應的影像印象。一位放射科醫師在 Data Craft 中抽查樣本,修正了幾則印象,並核准團隊將用於訓練的範例。團隊將資料集上傳到 Ertas Studio,針對放射印象生成,同時以 Mistral 7B 和 Qwen 2.5 7B 兩個基礎模型進行 LoRA 微調。團隊用一組由院內放射科醫師評分的保留報告比較兩次訓練結果,選出表現較好的模型,再從 Hub 匯出為 safetensors,在醫院網路內的伺服器上以 vLLM 部署,只開放給 EHR 整合層使用。放射科醫師看到的是印象草稿,由他們修改並簽署,每一次推論請求都在醫院自己的硬體上執行。審核完成後,團隊從 Studio 刪除了訓練資料集。
Compliance & Security
HIPAA 的各項要求由貴機構自行落實。Ertas 改變的是資料的去向。訓練在 Ertas 的雲端 GPU 上進行,因此訓練資料集必須上傳到 Ertas:上傳前請依 Safe Harbor 或 Expert Determination 標準完成去識別化,或盡量精簡資料。匯出後,模型在您掌控的基礎設施上執行,推論請求中的病患資料留在那裡,受您自己的資安措施保護。資料集保存在 Studio 中,以便重複訓練,您可以隨時刪除。
Related Resources
Fine-Tuning(微調)
GGUF
JSONL
LoRA
Inference(推論)
Privacy-Conscious AI Development: Fine-Tune in the Cloud, Run on Your Terms
Introducing Ertas Studio: A Visual Canvas for Fine-Tuning AI Models
GDPR-Compliant AI: How to Use LLMs Without Sharing User Data
Fine-Tune AI Without Code: 6 Visual Steps
How to Fine-Tune an LLM Locally: 6 Steps (2026)
Running AI Models Locally: The Complete Guide to Local LLM Inference
Data Sovereignty for AI Agencies: Why Clients Demand Local Models
Hugging Face
Ollama
llama.cpp
Ertas for Customer Support
Ertas for SaaS Product Teams
Ertas for Legal
Ertas for AI Automation Agencies
Ship AI that runs on your users' devices.
Start free with 150 credits after card verification. Paid plans from $20/mo USD.