临床决策支持中的人机协同 AI
FDA SaMD 分级和 HIPAA 责任如何设定临床 AI 人工审核的标准，以及如何设计一套经得起警报疲劳的审核流程。
医疗 AI 最重要的失败模式不是失控的模型或灾难性幻觉，而是技术上功能正常的系统嵌入到使有意义的人工监督在结构上不可能的临床工作流中。
FDA 的 SaMD 框架
Class I SaMD： 低风险。最小监管要求。 Class II SaMD： 中等风险。需要 510(k) 许可。HITL 是预期的。 Class III SaMD： 高风险。HITL 不是可选的。绕过合格临床医生审查的 AI 建议对 Class III 适应症不可批准。
HIPAA 的问责问题
AI 系统不能是受保实体。治疗临床医生对临床决策负责。允许 AI 输出直接驱动治疗而无记录的临床验证会创造 HIPAA 问责缺口。
临床实践中的 HITL
影像 AI： AI 分析图像，放射科医生执行独立分析并签署报告。 用药决策支持： 药房 AI 标记交互，药剂师审查并确认。 脓毒症预测： AI 标记超过风险阈值的患者，护士评估并决定升级。
警报疲劳问题
警报疲劳是 HITL 最常见的死因。如果临床医生被警报淹没，他们会适应——承认但不阅读警报。
原则 1： 阈值校准优于全面警报。 原则 2： 展示原因，不仅展示结果。 原则 3： 摩擦与风险成比例。 原则 4： 衡量审查者行为，不仅衡量警报量。
Ertas Data Suite 完全在本地运行。PHI 脱敏、标注和导出都在机构安全边界内进行。
Ship AI that runs on your users' devices.
Free plan with 30 credits/mo, no card required. Paid plans from $10/mo USD.
Keep reading
医疗保健 AI 治理框架：HIPAA、FDA SaMD 与临床监督要求
面向医疗保健组织的实用 AI 治理框架。涵盖 HIPAA 合规、FDA 软件作为医疗器械要求、临床人在回路设计和审计追踪规范。
建筑与工程行业的 AI 治理框架：安全、责任与专业问责
建筑与工程行业的 AI 治理由安全义务、专业工程师责任和物理基础设施决策的高风险性驱动。以下是负责任部署的框架。
金融服务业 AI 治理框架：SR 11-7、模型风险与监管预期
金融服务 AI 治理受 SR 11-7、OCC 指导以及日益增长的 EU AI Act 约束。以下是如何构建满足审查员预期的模型风险管理框架。