Ertas 助力医疗健康

    用去标识化的临床数据微调 AI 模型,再部署到您自己的服务器上运行,推理时涉及的患者数据始终留在您的网络之内。

    The Challenge

    医疗机构拥有大量非结构化临床数据——医生笔记、出院摘要、影像报告和患者沟通——但从这些数据中提取可操作情报仍然极其困难。通用大语言模型会虚构医学术语,误解临床缩写,并缺乏临床医生每天依赖的对疾病通路的细微理解。

    监管环境使问题更加棘手。HIPAA、HITECH 和不断出现的州级隐私法对受保护健康信息(PHI)的存储、处理和传输施加了严格要求。将患者数据发送到第三方 API 端点对大多数合规团队来说是不可接受的,而主要 AI 提供商缺乏本地或私有云推理选项,迫使医院和医疗科技公司在创新与合规之间做出不可能的取舍。

    The Solution

    Ertas 让医疗团队构建归自己所有、可在自有基础设施上运行的领域模型。在 Ertas Studio 中,临床 NLP 工程师上传去标识化的 JSONL 数据集,或在 Data Craft 中构建数据集,然后用 LoRA 微调 Llama、Qwen、Gemma 或 Mistral 等开放模型。模型会从您自己的示例中学会您使用的 ICD 编码、SNOMED CT 概念和临床简写。训练在 Ertas 的云端 GPU 上进行,因此训练集需要上传到 Ertas。上传前请按贵组织的标准完成去标识化,不再需要时可在 Studio 中删除数据集。

    模型通过您的评估后,您可以从 Hub 导出 GGUF 或 safetensors 格式,用 Ollama、llama.cpp 或 vLLM 在您掌控的服务器上运行,例如您的 VPC 或本地集群。推理请求和输出都留在这些服务器上,模型运行时不依赖 Ertas。访问控制、日志以及 HIPAA 体系的其余部分,仍由您自己的安全团队用现有工具负责。如果贵组织希望有人协助梳理临床用例,Ertas 企业团队提供免费的用例评估和为期三到四周的概念验证,训练好的模型归贵组织所有。

    Key Features

    Studio

    临床微调工作流

    通过 Studio 的可视化画布在临床语料上训练模型。上传医学问答对、去标识化临床笔记或诊断推理链的 JSONL 数据集,也可以从 Hugging Face 导入,然后并行运行多个 LoRA 训练任务并进行比较。

    Studio

    在 Data Craft 中由临床医生审核

    在 Studio 的引导式数据集构建器 Data Craft 中创建和完善训练示例。临床医生添加和编辑 USER 与 ASSISTANT 轮次,为每个示例保存版本并标记审核状态,只有审核通过的示例才会进入训练。

    Hub

    归您所有的模型,随时导出

    Hub 列出您训练过的模型。任何一个都可以下载为 GGUF 格式,供 llama.cpp、Ollama 或 LM Studio 使用,也可以下载完整的 safetensors,供 vLLM 等服务器运行时使用。模型归您所有,运行时不依赖 Ertas。

    Hub

    在您的网络内推理

    在您自己的服务器上运行导出的模型,部署在 VPC 或本地集群中,并置于安全团队现有的访问控制和日志之下。推理请求中的患者数据始终留在您掌控的基础设施上。

    Example Workflow

    某医院的临床信息团队按照自己的去标识化流程处理了 50,000 份放射报告,并将其导出为 JSONL 数据集,每条记录是检查所见与对应的影像印象。一位放射科医生在 Data Craft 中抽查样本,修改了几条印象,并批准了团队将用于训练的示例。团队把数据集上传到 Ertas Studio,针对放射印象生成,同时用 Mistral 7B 和 Qwen 2.5 7B 两个基础模型进行 LoRA 微调。团队用一组由本院放射科医生评分的预留报告比较两次训练的结果,选出表现更好的模型,再从 Hub 将其导出为 safetensors,在医院网络内的服务器上用 vLLM 部署,只对 EHR 集成层开放。放射科医生看到的是印象草稿,由他们修改并签字,每一次推理请求都在医院自己的硬件上运行。审核完成后,团队从 Studio 中删除了训练数据集。

    Compliance & Security

    HIPAA 的各项要求由贵组织自行落实。Ertas 改变的是数据的去向。训练在 Ertas 的云端 GPU 上进行,因此训练集需要上传到 Ertas:上传前请按 Safe Harbor 或 Expert Determination 标准完成去标识化,或尽量精简数据。导出后,模型在您掌控的基础设施上运行,推理请求中的患者数据留在那里,受您自己的安全措施保护。数据集保存在 Studio 中,以便重复训练,您可以随时删除。

    Related Resources

    Ship AI that runs on your users' devices.

    Start free with 150 credits after card verification. Paid plans from $20/mo USD.