GDPR(通用数据保护条例) & AI Compliance

    GDPR 如何适用于用个人数据训练定制 AI 模型,以及在您自己的环境中运行这些模型

    Overview

    《通用数据保护条例》(GDPR)是欧盟的综合性数据保护框架,于2018年5月生效。它为组织如何收集、存储、处理和传输欧盟居民的个人数据确立了严格规则。对 AI 和机器学习团队而言,GDPR 带来了独特的挑战:训练数据往往包含个人信息,而模型输出也可能在无意中泄露训练集中个人的细节。

    GDPR 适用于任何处理欧盟居民个人数据的组织,无论该组织位于何处。这种域外适用范围意味着,只要模型的训练数据包含欧盟境内人员的信息,全球各地的 AI 团队都必须考虑 GDPR。该条例要求处理活动具备合法依据,并确立了数据最小化和目的限制原则。它还赋予数据主体多项权利,包括访问权、更正权、删除权和反对权,并针对自动化决策规定了专门的保护措施。

    对 AI 从业者来说,GDPR 关于自动化决策的规定(第22条)以及第13至15条规定的透明度义务尤为重要。组织必须能够就影响个人的自动化决策所涉及的逻辑提供有意义的信息,保存处理活动记录,并采取技术和组织措施,在 AI 的整个生命周期中保护个人数据,从数据收集到模型训练、部署,直至最终退役。

    AI-Specific Requirements

    GDPR 对处理个人数据的 AI 系统提出了若干具体要求。第22条赋予个人这样一项权利:不受仅基于自动化处理、且对其产生法律效力或类似重大影响的决定约束。这意味着,对于影响就业、信贷、保险或类似重大结果的 AI 决策,组织必须建立人工监督机制。此外,数据控制者必须就自动化决策所涉及的逻辑提供有意义的信息。

    该条例的数据最小化原则(第5(1)(c)条)要求,所处理的个人数据必须充分、相关,并限于特定目的所必需的范围。就 AI 训练而言,这意味着团队不能简单地汇集所有可用数据,而必须精心筛选数据集,只纳入模型预期功能确实必需的内容。目的限制原则进一步限制了将个人数据用于超出原始收集目的的训练。欧洲数据保护委员会(EDPB)第28/2024号意见还指出,不能假定用个人数据训练的模型是匿名的:能否从中提取个人数据,必须逐案评估。

    根据第35条,对于可能给个人权利和自由带来高风险的处理活动,必须开展数据保护影响评估(DPIA)。大多数大规模处理个人数据的 AI 系统都会触发这一要求。DPIA 必须描述处理操作,评估其必要性和相称性,评估对数据主体的风险,并列出应对这些风险的措施。组织还必须依据第30条保存详细的处理活动记录,涵盖处理哪些数据、出于何种目的以及谁有访问权限。

    How Ertas Helps

    Ertas Studio 在 Ertas 的云端 GPU 上训练模型,因此您用于训练的数据集会上传到 Ertas 并被存储,以便重复运行。如果该数据集包含个人数据,上传就属于您处理活动的一部分,需要先具备合法依据,并与我们约定数据处理条款。对大多数项目来说,更简单的做法是在上传前进行最小化:在任务允许的情况下进行假名化或匿名化,只保留模型需要的字段。Data Craft 是 Studio 的数据集构建工具,可让您在训练前编辑每条样本并跟踪其审批状态;数据集的用途结束后,您可以删除已上传的数据集。

    训练好的模型归您所有。将其导出为 GGUF 或 safetensors 并在您自己的环境中运行,推理时提示词和输出里的个人数据就不会到达 Ertas。导出的文件在您重新训练之前保持不变,因此您在 DPIA 中评估过的版本,就是生产环境中运行的版本。如果您不想自己运维,自适应模型端点和企业定制模型构建可以在您自己的云环境或本地部署中运行模型,也可以由 Ertas 托管运行。

    GDPR 规定的义务本身仍由作为控制者的您承担:合法依据、DPIA、处理活动记录、数据主体请求、第22条规定的保障措施,以及模型运行环境的安全。根据 EDPB 的意见,在将训练好的模型视为匿名之前,请先评估能否从中提取个人数据。

    Compliance Checklist

    训练好的模型归您所有,由您决定在哪里运行Supported
    导出模型权重,在您自己的环境中运行推理Supported
    在自托管模型上推理,不会向 Ertas 发送任何个人数据Supported
    在用途结束时删除已上传的训练数据集Supported
    上传前的数据最小化:Data Craft 可让您编辑每条样本;查找并移除个人数据由您完成Partial
    为训练而上传的任何个人数据所需的合法依据和数据处理条款Customer Responsibility
    数据保护影响评估(DPIA)及处理活动记录Customer Responsibility
    数据主体请求,包括判断训练好的模型是否含有个人数据Customer Responsibility
    模型运行环境中的访问控制、日志记录和安全Customer Responsibility

    Relevant Ertas Features

    • 模型导出(GGUF、safetensors)
    • 自托管推理,运行时不依赖 Ertas
    • Data Craft 数据集构建工具,用于编辑和审批每条训练样本
    • 数据集删除
    • 自适应模型端点,可在您的云环境或本地部署中运行

    Related Resources

    Ship AI that runs on your users' devices.

    Start free with 150 credits after card verification. Paid plans from $20/mo USD.