每个处理真实世界数据的 AI 管道都存在 PII 暴露风险。问题不在于您的管道是否处理个人身份信息——它几乎肯定在处理。问题在于您是否知道在哪里、有多少以及有哪些控制措施。
大多数团队以艰难的方式发现 PII 暴露:合规审计、数据泄露或客户投诉。这份评分卡为您提供了一种结构化的方式,在这些 事件迫使您采取行动之前评估您的风险。
该评估涵盖 10 个风险因素,每个因素从 1(最低风险)到 5(最高风险)评分。您的总分对应一个风险等级,并附有具体建议。整个评估需要 15 到 20 分钟,任何熟悉您数据管道架构的人都可以完成。
如何评分
对于以下 10 个风险因素中的每一个,阅读每个评分级别的描述,并选择最符合您当前情况的一个。请诚实——评分卡只有在反映现实而非愿望时才有用。
记录每个因素的评分,然后在最后汇总。
风险因素 1:数据源多样性
有多少不同的数据源为您的 AI 管道提供数据?
| 评分 | 描述 |
|---|---|
| 1 | 单一内部数据源,具有已知的数据模式 |
| 2 | 2-3 个内部数据源,格式一致 |
| 3 | 4-6 个数据源,内部和外部混合 |
| 4 | 7-15 个数据源,包括用户上传的内容 |
| 5 | 超过 15 个数据源,包括不受控的外部数据源 |
为什么重要: 每增加一个数据源,遇到意外 PII 的概率就会增加。用户上传的内容风险尤其高,因为您无法预测用户会包含什么个人信息。
风险因素 2:文档类型复杂性
您的管道处理哪些类型的文档?
| 评分 | 描述 |
|---|---|
| 1 | 仅结构化数据(数据库、具有定义模式的 API) |
| 2 | 结构化数据加干净的文本文件(CSV、JSON) |
| 3 | 结构化和半结构化的混合(PDF、Word 文档) |
| 4 | 非结构化文档,包括扫描的 PDF、带文字的图像 |
| 5 | 以上所有加上音频、视频或手写文档 |
为什么重要: PII 检测准确性在非结构化和扫描文档中显著下降。嵌入在图像或扫描质量差的 PDF 中的姓名、地址和身份证号码更难可靠地检测和编辑。
风险因素 3:PII 检测方法
您的管道如何识别数据中的 PII?
| 评分 | 描述 |
|---|---|
| 1 | 基于 NER 的自动化检测,使用特定领域的模型,定期验证 |
| 2 | 自动化的 regex 和 NER 检测,定期验证 |
| 3 | 仅基于 regex 的自动化检测 |
| 4 | 团队成员的人工审查(抽查) |
| 5 | 没有系统化的 PII 检测流程 |
为什么重要: 仅使用 regex 的检测会遗漏上下文相关的 PII(例如,句子中的人名与产品名称)。基于 NER 的检测配合领域训练能捕获更多信息,但仍需要针对您的特定数据模式进行验证。
风险因素 4:编辑覆盖范围
您的编辑流程覆盖了多大比例的 PII 类型?
| 评分 | 描述 |
|---|---|
| 1 | 完全覆盖:姓名、电子邮件、电话、SSN/身份证号码、地址、出生日期、财务数据、医疗记录号码、生物特征标识符 |
| 2 | 覆盖上述 7-8 个 PII 类别 |
| 3 | 覆盖 5-6 个 PII 类别 |
| 4 | 覆盖 3-4 个 PII 类别(通常仅限姓名、电子邮件、电话) |
| 5 | 覆盖少于 3 个 PII 类别或覆盖不一致 |
为什么重要: 部分编辑会产生虚假的安全感。编辑姓名但保留地址、出生日期和医疗记录号码仍然允许重新识别。在 GDPR 和 HIPAA 下,部分编辑不构成合规的去标识化。
风险因素 5:数据传输安全
数据如何在管道阶段之间移动?
| 评分 | 描述 |
|---|---|
| 1 | 所有处理在本地或隔离环境进行;数据永远不离开本地环境 |
| 2 | 在单一云 VPC 内加密传输;没有外部 API 调用 |
| 3 | 在同一提供商的云服务之间加密传输 |
| 4 | 数据跨越云提供商边界或通过第三方 API 传输 |
| 5 | 数据通过未加密的通道或通过数据处理政策不明确的 API 传输 |
为什么重要: 数据离开您控制边界的每个网络跳转都是潜在的暴露点。例如,第三方 embedding API 可能在共享基础设施上处理您的文本—— 而该文本可能包含在该管道阶段尚未编辑的 PII。
风险因素 6:访问控制粒度
谁可以在每个管道阶段访问数据?
| 评分 | 描述 |
|---|---|
| 1 | 每个管道阶段的基于角色的访问控制;执行最小权限原则 |
| 2 | 管道级别的基于角色的访问;所有阶段共享相同的访问策略 |
| 3 | 团队级别的访问控制;团队中的任何人都可以访问所有管道数据 |
| 4 | 广泛访问,有一些限制(例如,所有工程师都可以访问生产数据) |
| 5 | 没有正式的访问控制;任何拥有系统凭据的人都可以访问数据 |
为什么重要: 过于宽泛的访问使每个工程师、承包商和服务账户都成为潜在的暴露向量。最小权限原则限制了当(不是如果)凭据被泄露或个人犯错时的影响范围。
风险因素 7:审计跟踪完整性
您能追踪特定数据记录在管道中发生了什么吗?
| 评分 | 描述 |
|---|---|
| 1 | 完整谱系:每次转换都记录了时间戳、操作者、输入/输出哈希 |
| 2 | 关键转换已记录;可以通过一些努力重建谱系 |
| 3 | 日志存在但不完整;管道阶段之间存在间隙 |
| 4 | 最少的日志记录;可以 确定数据已被处理但不知道细节 |
| 5 | 没有审计跟踪;无法确定应用了哪些转换 |
为什么重要: 根据 GDPR 第 30 条和 EU AI Act 第 12 条,您必须能够证明个人数据是如何被处理的。根据 HIPAA,您必须保留 PHI 披露的记录。没有审计跟踪,您无法响应数据主体访问请求、监管询问或泄露调查。
风险因素 8:数据保留和删除
您是否有在管道中定义的数据保留和删除流程?
| 评分 | 描述 |
|---|---|
| 1 | 自动化保留策略;已验证的删除;中间产物已清除 |
| 2 | 已定义的保留策略;手动删除流程;定期验证 |
| 3 | 保留策略存在于纸面上但执行不一致 |
| 4 | 按需临时删除;没有系统化的保留管理 |
| 5 | 没有保留策略;数据在管道各阶段无限期积累 |
为什么重要: 管道中间产物(临时文件、暂存数据库、日志条目)中的 PII 在任何隐私法规下仍然是 PII。它持续存在的时间越长,您的暴露面就越大。GDPR 的"被遗忘权"要求您能够找到并删除某人数据的所有副本——包括管道中间环节中的副本。
风险因素 9:事件响应准备
当发现 PII 暴露时会发生什么?

