ISO 27001(信息安全管理体系) & AI Compliance
ISO 27001 控制措施如何适用于 AI 训练数据、模型权重和推理
Overview
ISO/IEC 27001 是国际公认的信息安全管理体系(ISMS)标准。该标准由国际标准化组织和国际电工委员会发布,通过风险评估、安全控制和持续改进,为管理敏感信息提供了一套系统化的方法。2022年修订版(ISO/IEC 27001:2022)重新组织了附录 A 的控制措施,并新增了数据脱敏、数据防泄露等与 AI 和数据分析系统直接相关的控制措施。依据2013版颁发的证书,其过 渡期已于2025年10月31日结束。
ISO 27001 认证向客户、合作伙伴和监管机构表明,组织已采用基于风险的信息安全方法。对 AI 组织而言,认证日益成为承接企业项目的前提条件,在金融服务、医疗、政府和国防领域尤其如此,因为这些领域的训练数据和模型输出高度敏感,需要严格的安全治理。该标准可与 SOC 2、NIST CSF 和 GDPR 等其他框架配合使用,而2023年发布的 ISO/IEC 42001 则增加了一项专门针对 AI 的管理体系标准,设计上可与之并行使用。
ISO 27001 是一项管理体系标准:组织自行识别安全风险,并实施相称的控制措施。对 AI 团队来说,这意味着要评估机器学习工作流特有的风险,包括训练数据投毒、模型窃取、对抗性攻击、通过模型输出造成的数据泄露,以及对敏感数据集的未授权访问。该标准强调通过计划、执行、检查、处理(PDCA)循环实现持续改进,使安全控制能够随着 AI 威胁和技术的变化而不断演进。
AI-Specific Requirements
ISO 27001 附录 A 提供了一份安全控制目录,分为四个主题:组织、人员、物理和技术。对 AI 系统而言,有几项技术控制尤为相关。控制项 A.8.1(用户终端设备)规定如何保护用于 AI 开发的工作站。控制项 A.8.3(信息访问限制)要求根据既定的访问控制策略,限制对训练数据和模型工件的访问。控制项 A.8.10(信息删除)要求对不再需要的训练数据执行安全删除程序。
2022年修订版引入了控制项 A.8.11(数据脱敏),它直接适用于 AI 训练数据的准备。组织必须依照适用的法 律法规和业务要求,实施包括假名化和匿名化在内的数据脱敏程序。控制项 A.8.12(数据防泄露)要求采取措施防止敏感信息被未经授权披露;对 AI 系统而言,这包括防止通过模型查询提取训练数据,以及防止模型权重被窃取外泄。
第6.1.2条规定的风险评估要求组织识别信息资产在保密性、完整性和可用性方面面临的风险。对 AI 组织而言,这包括评估训练数据集、模型权重、超参数配置、评估结果和推理输出所面临的风险。风险处置计划必须通过控制、转移、规避或接受来应对已识别的风险,并须按计划的时间间隔进行评审。组织还必须维护一份适用性声明,记录实施了哪些附录 A 控制措施,并说明排除任何控制措施的理由。
How Ertas Helps
在 ISMS 中,一个定制模型会带来两项风险各异的信息资产:训练数据集和训练好的模型。Ertas Studio 在 Ertas 的云端 GPU 上训练,因此数据集会上传到 Ertas 并被存储,以便重复运行,这使 Ertas 成为这部分数据在 A.5.19 至 A.5.22 意义上的供应商。请在上传前落实 A.8.11,对任务不需要的内容进行脱敏或假名化;使用 Studio 的数据集构建工具 Data Craft 编辑并审批每条样本;在数据集不再需要时,依据 A.8.10 将其删除。
训练好的模型归您所有。将其导出为 GGUF 或 safetensors,在您自己的环境中运行,您现有的访问限制、日志记录、密码技术和防泄露控制措施在那里已经适用,推理数据也不会到达 Ertas。导出的版本在您重新训练之前保持不变,因此每一次模型变更都要经过您自己依据 A.8.32 进行的变更管理。自适应模型端点和企业定制模型构建可以在您自己的云环境或本地部署中运行模型。
ISMS 仍由您负责:风险评估和处置计划、适用性声明,以及您环境中每一项附录 A 控制措施的运行。Ertas 不为您运行的系统提供访问控制、日志记录或加密。
Compliance Checklist
Relevant Ertas Features
- 模型导 出(GGUF、safetensors)
- 自托管推理,运行时不依赖 Ertas
- Data Craft 数据集构建工具,用于编辑和审批每条训练样本
- 数据集删除
- 自适应模型端点,可在您的云环境或本地部署中运行
Related Resources
Ship AI that runs on your users' devices.
Start free with 150 credits after card verification. Paid plans from $20/mo USD.