CCPA(加州消费者隐私法) & AI Compliance
CCPA 和 CPRA 如何适用于 AI 训练数据和模型输出中的个人信息
Overview
经《加州隐私权法案》(CPRA)修订的《加州消费者隐私法》(CCPA)是美国最全面的消费者隐私法律。CCPA 自2020年1月起生效,并经2023年生效的 CPRA 修正案大幅加强,赋予加州居民对其个人信息的广泛权利,同时对收集、使用或出售此类数据的企业施加义务。对 AI 开发团队而言,CCPA 直接影响训练数据的来源、处理和保留方式。
CCPA 适用于在加州开展业务、且满足以下三项门槛之一的营利性企业:年总收入超过 2,500 万美元,并按通货膨胀调整(自2025年1月起为 26,625,000 美元);购买、出售或共享 100,000 名及以上加州消费者或家庭的个人信息;或者年收入中有 50% 及以上来自出售或共享个人信息。鉴于 AI 训练所需的数据规模,许多构建 AI 系统的组织都会达到这些门槛。CPRA 修正案还设立了加州隐私保护局(CPPA),这是美国第一个专门的隐私执法机构。
就 AI 和机器学习而言,CCPA 对个人信息的定义极为宽泛,既涵盖明显的标识符,也涵盖从个人信息中推断出、用于建立消费者画像的结论。这意味着,用个人数据训练的 AI 模型及其生成的预测,本身就可能构成 CCPA 意义上的个人信息。因此,组织除了要考虑训练数据的监管影响,还必须考虑模型输出以及通过 AI 分析形成的画像所带来的监管影响。
AI-Specific Requirements
CCPA 确立了多项直接影响 AI 训练数据管道的消费者权利。知情权要求企业披露其收集哪些个人信息、收集目的,以及与哪些类别的第三方共享数据。对 AI 团队来说,这意味着要清楚记录哪些个人数据进入了训练管道以及如何使用。删除权要求企业应消费者请求删除其数据,这引出了一个复杂的问题:训练好的模型权重是否必须重新训练,才能“遗忘”已删除的数据。
CPRA 修正案新增了限制使用和披露敏感个人信息的权利,敏感个人信息包括精确地理位置、种族或民族出身、健康信息和金融账户详情。AI 训练数据集经常包含这些敏感类别,组织必 须为消费者提供一种机制,将其敏感数据的使用限制在提供预期服务合理必需的范围内。选择退出个人信息出售或共享的权利同样关键。如果训练数据来自数据经纪商,或与第三方模型训练服务共享,消费者必须能够选择退出。
CPRA 规定的目的限制原则禁止企业将个人信息用于与收集时披露的目的存在实质差异或互不相容的用途。这意味着,组织不能在未另行告知并取得适当同意的情况下,直接把为提供服务而收集的客户数据改作 AI 训练数据集。数据最小化要求进一步规定,收集和处理必须限于对所披露目的合理必要且相称的范围。行政罚款为每次违规 2,500 美元,或每次故意违规 7,500 美元,并每年按通货膨胀调整,在大型数据集上可能迅速累积。2025年,加州还最终确定了关于自动化决策技术、风险评估和网络安全审计的法规,相关义务自2026年起分阶段实施。
How Ertas Helps
Ertas Studio 在 Ertas 的云端 GPU 上训练,因此训练数据集会上传到 Ertas 并被存储,以便重复运行。如果数据集包含消费者的个人信息,Ertas 就会作为您处理活动的一部分接收这些信息,这一点应写入您的披露内容和服务提供商合同。更简单的做法是先进行最小化:使用去标识化数据训练,或只使用任务需要的字段。Data Craft 是 Studio 的数据集构建工具,可让您在训练前编辑每条样本并跟踪其审批状态。您可以删除已上传的数据集,当删除请求涉及您的源数据时,这一点很有帮助。
个人信息在推理环节持续流动。将训练好的模型导出为 GGUF 或 safetensors 并在您自己 的环境中运行,消费者的提示词和模型的输出就不会到达 Ertas,Ertas 也就不会出现在这部分披露中。模型归您所有,其版本在您重新训练之前保持不变。自适应模型端点和企业定制模型构建可以在您自己的云环境或本地部署中运行模型。
告知、选择退出和限制使用机制、消费者请求处理,以及删除请求是否需要重新训练模型的判断,都仍由您负责;加州新法规下的风险评估和自动化决策义务也同样由您承担。
Compliance Checklist
Relevant Ertas Features
- 模型导出(GGUF、safetensors)
- 自托管推理,运行时 不依赖 Ertas
- Data Craft 数据集构建工具,用于编辑和审批每条训练样本
- 数据集删除
- 自适应模型端点,可在您的云环境或本地部署中运行
Related Resources
Ship AI that runs on your users' devices.
Start free with 150 credits after card verification. Paid plans from $20/mo USD.