SOC 2 & AI Compliance
SOC 2 如何适用于 AI 系统,以及自托管定制模型在您审计范围中的位置
Overview
SOC 2(系统与组织控制 2)是由美国注册会计师协会(AICPA)制定的合规框架,依据五项信任服务标准评估组织的信息系统:安全性、可用性、处理完整性、保密性和隐私。SOC 2 以原则为基础:组织自行定义控制措施,再由独立审计师评估这些措施的设计和运行有效性。
对 AI 和机器学习组织而言,SOC 2 报告已成为企业销售中事实上的必要条件。金融服务、医疗、科技及其他受监管行业的客户,越来越多地在批准将处理其数据的供应商之前,要 求对方提供 SOC 2 Type II 报告。Type II 报告覆盖一个观察期,通常为六到十二个月,它表明控制措施不仅存在,而且在整个期间内有效运行。
AI 系统为 SOC 2 审计带来了独特的考量。训练数据管道、模型版本管理、推理端点和自动化决策系统都在 SOC 2 评估范围之内。审计师会评估组织如何保护训练数据的机密性、确保模型输出的处理完整性、维持生产 AI 服务的系统可用性,以及保护训练数据集中所涉个人的隐私。无法证明在这些方面控制有效的组织,可能面临审计发现,从而拖延企业交易。
AI-Specific Requirements
安全性类别通过通用标准(Common Criteria)进行评估,是每一次 SOC 2 审计的基础,也是唯一的必选类别。对 AI 系统而言,安全控制必须涵盖训练数据和模型工件的访问管理、模型部署的变更管理、针对 AI 特有威胁的风险评估程序,以及对 AI 系统组件的监控。组织必须实施逻辑访问控制,限制谁可以查看、修改或删除训练数据集和模型权重。
处理完整性对 AI 系统尤为相关,因为它要求系统处理完整、有效、准确、及时并经过授权。对机器学习管道来说,这意味着要证明训练数据转换产生正确结果、模型推理输出一致可靠,并且数据管道故障能够被发现和解决。组织必须保留证据,表明其 AI 处理产生的输出达到既定质量阈值,且异常情况会触发相应的告警和修复流程。
保密性和隐私标准要求组织在敏感信息的整个生命周期内对其加以保护。对 AI 团队而言,这包括含有客户信息的训练数据、专有模型权重、评估数据集,以及可能包含敏感输入的推理日志。控制措施必须涵盖数据分类、静态和传输中的加密、对不再需要的数据进行安全处置,以及对与第三方共享数据的限制。隐私标准还增加了关于告知、选择、同意、收集限制和数据质量的要求,这些要求与 GDPR 和 CCPA 的义务高度一致。
How Ertas Helps
您的 SOC 2 范围涵盖处理客户数据的系统,以及这些系统所依赖的供应商。自托管模型让 Ertas 置身于生产数据路径之外。将训练好的模型导出为 GGUF 或 safetensors,在已纳入您控制措施的基础设施上运行,提示词和输出就不会到达 Ertas,运行时也不依赖我们。模型归您所有,其版本在您重新训练之前保持不变,因此在您的变更管理中,它和其他任何带版本的工件一样处理。
训练是涉及 Ertas 的环节。Ertas Studio 在 Ertas 的云端 GPU 上训练,因此训练数据集会上传到 Ertas 并被存储,以便重复运行,用完之后您可以将其删除。请在风险评估中把 Studio 作为供应商进行评估,除非评估结果允许,否则不要把机密客户数据放入训练集。如果您希望由 Ertas 运行模型,自适应模型端点和企业定制模型构建可以在您自己的云环境或本地部署中运行它,也就是在您的控制措施已经覆盖的环境之内。
审计师测试的控制措施仍由您负责:模型运行所在系统的逻辑访问、日志与监控、加密、变更审批和可用性,以及审计工作本身。
Compliance Checklist
Relevant Ertas Features
- 模型导出(GGUF、safetensors)
- 自托管推理,运行时不依赖 Ertas
- Hub,列出您训练过的每一个模型
- 数据集删除
- 自适应模型端点,可在您的云环境或本地部署中运行
Related Resources
Ship AI that runs on your users' devices.
Start free with 150 credits after card verification. Paid plans from $20/mo USD.