临床决策支持中的人机协同：医疗 AI 应该（和不应该）如何工作
FDA SaMD 指南、HIPAA 和临床伦理都指向同一方向：医疗 AI 必须让临床医生在决策闭环中。以下是实践中的样子。
医疗 AI 最重要的失败模式不是失控的模型或灾难性幻觉，而是技术上功能正常的系统嵌入到使有意义的人工监督在结构上不可能的临床工作流中。
FDA 的 SaMD 框架
Class I SaMD： 低风险。最小监管要求。 Class II SaMD： 中等风险。需要 510(k) 许可。HITL 是预期的。 Class III SaMD： 高风险。HITL 不是可选的。绕过合格临床医生审查的 AI 建议对 Class III 适应症不可批准。
HIPAA 的问责问题
AI 系统不能是受保实体。治疗临床医生对临床决策负责。允许 AI 输出直接驱动治疗而无记录的临床验证会创造 HIPAA 问责缺口。
临床实践中的 HITL
影像 AI： AI 分析图像，放射科医生执行独立分析并签署报告。 用药决策支持： 药房 AI 标记交互，药剂师审查并确认。 脓毒症预测： AI 标记超过风险阈值的患者，护士评估并决定升级。
警报疲劳问题
警报疲劳是 HITL 最常见的死因。如果临床医生被警报淹没，他们会适应——承认但不阅读警报。
原则 1： 阈值校准优于全面警报。 原则 2： 展示原因，不仅展示结果。 原则 3： 摩擦与风险成比例。 原则 4： 衡量审查者行为，不仅衡量警报量。
Ertas Data Suite 完全在本地运行。PHI 脱敏、标注和导出都在机构安全边界内进行。
Ship AI that runs on your users' devices.
Early bird pricing starts at $14.50/mo — locked in for life. Plans for builders and agencies.
Keep reading
AI Governance Framework for Healthcare: HIPAA, FDA SaMD, and Clinical Oversight Requirements
A practical AI governance framework for healthcare organizations. Covers HIPAA compliance, FDA Software as a Medical Device requirements, clinical human-in-the-loop design, and audit trail specifications.
HIPAA-Compliant Data Labeling for Healthcare AI Service Providers
How AI service providers meet HIPAA requirements for data labeling workflows: audit logging, access controls, BAA obligations, and on-premise operation.
Best HIPAA-Compliant RAG Pipeline for Healthcare: On-Premise Document Retrieval Without Data Egress
Healthcare organizations need RAG for clinical AI — but cloud-based retrieval pipelines violate HIPAA when they process PHI. Here is how to build a compliant RAG pipeline that runs entirely on your infrastructure.