醫療保健

    以去識別化的臨床資料微調 AI 模型,再部署到您自己的伺服器上執行,推論時涉及的病患資料始終留在您的網路之內。

    The Challenge

    醫療保健組織擁有大量非結構化臨床資料——醫師筆記、出院摘要、放射科報告和病患通訊——然而從這些資料中提取可操作的情報仍然極其困難。通用大型語言模型會虛構醫學術語、誤解臨床縮寫,並缺乏臨床醫師每天依賴的對疾病路徑的細微理解。

    監管環境使問題更加棘手。HIPAA、HITECH 和新興的州級隱私法對受保護健康資訊(PHI)的儲存、處理和傳輸施加了嚴格要求。將病患資料發送到第三方 API 端點對大多數合規團隊來說是不可接受的,而主要 AI 供應商缺乏本地或私有雲推論選項,迫使醫院和醫療科技公司在創新和合規之間做出不可能的取捨。

    The Solution

    Ertas 讓醫療團隊打造屬於自己、可在自有基礎設施上執行的領域模型。在 Ertas Studio 中,臨床 NLP 工程師上傳去識別化的 JSONL 資料集,或在 Data Craft 中建立資料集,接著以 LoRA 微調 Llama、Qwen、Gemma 或 Mistral 等開放模型。模型會從您自己的範例中學會您使用的 ICD 代碼、SNOMED CT 概念與臨床簡寫。訓練在 Ertas 的雲端 GPU 上進行,因此訓練資料集必須上傳到 Ertas。上傳前請依貴機構的標準完成去識別化,不再需要時可在 Studio 中刪除資料集。

    模型通過您的評估後,即可從 Hub 匯出 GGUF 或 safetensors 格式,透過 Ollama、llama.cpp 或 vLLM 在您掌控的伺服器上執行,例如您的 VPC 或地端叢集。推論請求與輸出都留在這些伺服器上,模型執行時不依賴 Ertas。存取控管、日誌以及 HIPAA 制度的其他部分,仍由您自己的資安團隊以現有工具負責。如果貴機構希望有人協助釐清臨床使用情境,Ertas 企業團隊提供免費的使用情境評估,以及為期三到四週的概念驗證,訓練完成的模型歸貴機構所有。

    Key Features

    Studio

    臨床微調工作流程

    透過 Studio 的視覺化畫布,以臨床語料訓練模型。上傳醫療問答、去識別化臨床筆記或診斷推理鏈的 JSONL 資料集,也可以從 Hugging Face 匯入,再平行執行多個 LoRA 訓練並互相比較。

    Studio

    在 Data Craft 中由臨床人員審核

    在 Studio 的引導式資料集建立工具 Data Craft 中建立與修訂訓練範例。臨床人員新增與編輯 USER 和 ASSISTANT 對話輪次,為每個範例保存版本並標記核准狀態,只有審核通過的範例才會進入訓練。

    Hub

    屬於您的模型,隨時匯出

    Hub 列出您訓練過的模型。任何一個都能下載為 GGUF,供 llama.cpp、Ollama 或 LM Studio 使用,也能下載完整的 safetensors,供 vLLM 等伺服器執行環境使用。模型歸您所有,執行時不依賴 Ertas。

    Hub

    在您的網路內推論

    在您自己的伺服器上執行匯出的模型,部署於 VPC 或地端叢集,並置於資安團隊既有的存取控管與日誌之下。推論請求中的病患資料始終留在您掌控的基礎設施上。

    Example Workflow

    某醫院的臨床資訊團隊依照自己的去識別化流程處理了 50,000 份放射報告,並匯出為 JSONL 資料集,每筆資料是檢查發現與對應的影像印象。一位放射科醫師在 Data Craft 中抽查樣本,修正了幾則印象,並核准團隊將用於訓練的範例。團隊將資料集上傳到 Ertas Studio,針對放射印象生成,同時以 Mistral 7B 和 Qwen 2.5 7B 兩個基礎模型進行 LoRA 微調。團隊用一組由院內放射科醫師評分的保留報告比較兩次訓練結果,選出表現較好的模型,再從 Hub 匯出為 safetensors,在醫院網路內的伺服器上以 vLLM 部署,只開放給 EHR 整合層使用。放射科醫師看到的是印象草稿,由他們修改並簽署,每一次推論請求都在醫院自己的硬體上執行。審核完成後,團隊從 Studio 刪除了訓練資料集。

    Compliance & Security

    HIPAA 的各項要求由貴機構自行落實。Ertas 改變的是資料的去向。訓練在 Ertas 的雲端 GPU 上進行,因此訓練資料集必須上傳到 Ertas:上傳前請依 Safe Harbor 或 Expert Determination 標準完成去識別化,或盡量精簡資料。匯出後,模型在您掌控的基礎設施上執行,推論請求中的病患資料留在那裡,受您自己的資安措施保護。資料集保存在 Studio 中,以便重複訓練,您可以隨時刪除。

    Related Resources

    Ship AI that runs on your users' devices.

    Start free with 150 credits after card verification. Paid plans from $20/mo USD.