NIST AI RMF（NIST 人工智能风险管理框架） & AI Compliance

Overview

NIST 人工智能风险管理框架（AI RMF 1.0）由美国国家标准与技术研究院于2023年1月发布，是一个旨在帮助组织在 AI 系统的整个生命周期中管理相关风险的自愿性框架。与强制性法规不同，AI RMF 提供了一种灵活的、结构化的方法，组织可根据自身的具体情况、能力和风险承受度进行调整。该框架已迅速成为美国 AI 治理的主要参考框架，并在国际上获得越来越广泛的认可。

该框架分为两个主要部分：阐述 AI 风险的基础信息和提供可操作指导的核心功能。核心由四个功能组成——治理（Govern）、映射（Map）、度量（Measure）和管理（Manage）——每个功能包含若干类别和子类别，描述特定的预期成果和活动。这一结构有意与 NIST 网络安全框架熟悉的按功能组织的方式保持一致，使已有 NIST 标准经验的组织易于理解和采用。

对于 AI 开发团队，AI RMF 提供了识别、评估和缓解 AI 风险的通用语言和系统化方法。它涵盖了与偏差和公平性、透明度和可解释性、隐私、安全、安全性和问责制相关的风险。该框架强调，AI 风险管理应融入更广泛的组织风险管理实践中，而不是作为独立、孤立的活动。这种整体性方法确保 AI 特有风险与运营、财务和声誉风险一并得到考量。

AI-Specific Requirements

治理功能建立 AI 风险管理的组织结构、策略和流程。它要求培养风险意识文化，定义 AI 治理的角色和职责，实施 AI 开发和部署的策略与程序，并建立持续监控和审查的机制。组织必须记录其 AI 风险容忍度，定义已识别风险的升级程序，并确保 AI 治理得到充足资源和高层管理层的支持。

映射功能侧重于理解 AI 系统运行的背景。这包括识别和分类 AI 系统、评估 AI 系统故障或滥用的潜在影响、了解用于训练和运行的数据特征，以及评估运营环境和利益相关方的期望。在训练数据方面，映射功能具体要求理解数据溯源、评估数据质量和代表性、识别潜在偏差，以及记录数据收集和处理方法。

度量功能通过定量和定性方法来评估和分析 AI 风险。组织应实施测试和评估程序，根据已定义的指标衡量 AI 系统性能，评估跨相关人口统计群体的偏差和公平性，评估安全和隐私风险，并随系统和环境的演变进行定期重新评估。管理功能则利用映射和度量的输出来确定已识别风险的优先级并进行处理，实施控制措施，向利益相关方传达风险信息，并持续监控风险处理的有效性。

How Ertas Helps

Ertas 通过提供全面的数据血缘和溯源追踪来支持 NIST AI RMF 的映射功能。了解训练数据的来源、处理方式和应用的转换是映射 AI 风险的基础。Ertas Data Suite 记录每个数据集的完整生命周期，从最初的摄取到清洗、转换、增强和最终的训练准备。这些溯源信息直接支持映射功能对理解数据特征、质量和潜在偏差的要求。

对于度量功能，Ertas 提供了跟踪和评估 AI 系统行为所需的审计基础设施。全面的审计日志捕获与数据和模型的所有交互，使组织能够度量处理完整性、跟踪访问模式并识别可能指示新兴风险的异常。Ertas Studio 中的结构化工作流捕获训练配置、评估指标和性能基准，提供度量功能持续风险评估所需的定量证据基础。

管理功能受益于 Ertas 直接缓解已识别风险的技术控制。本地化架构通过消除外部数据传输来管理数据安全和隐私风险。PII 脱敏管理训练数据中的隐私风险。Vault 加密和访问控制管理机密性和未授权访问风险。气隙隔离部署管理数据外泄风险。这些技术控制可作为组织在 AI 风险管理计划中记录的具体风险处理措施，展示对框架管理功能预期成果的系统化实施。

Compliance Checklist