GDPR(一般資料保護規則) & AI Compliance

    GDPR 如何適用於以個人資料訓練客製 AI 模型,並在您自己的環境中執行模型

    Overview

    《一般資料保護規則》(GDPR)是歐盟全面性的資料保護框架,於 2018年5月生效。它對組織收集、儲存、處理與傳輸歐盟居民個人資料的方式訂有嚴格規則。對 AI 與機器學習團隊而言,GDPR 帶來了特有的挑戰,因為訓練資料經常包含個人資訊,模型的輸出也可能在無意間透露訓練資料中個人的細節。

    GDPR 適用於任何處理歐盟居民個人資料的組織,不論該組織設在何處。這種域外適用範圍,意味著只要模型的訓練資料包含歐盟境內人士的資訊,世界各地的 AI 團隊都必須考量 GDPR。該規則要求處理須具備合法依據,並訂有資料最小化與目的限制原則。它也賦予資料主體多項權利,包括查閱、更正、刪除與拒絕處理的權利,另有針對自動化決策的特定保障。

    對 AI 從業人員而言,GDPR 關於自動化決策的規定(第 22 條)以及第 13 至 15 條的透明度義務尤其重要。組織必須能就影響個人的自動化決策,提供其中所涉邏輯的有意義資訊,並保存處理活動紀錄,且在整個 AI 生命週期中採取保護個人資料的技術與組織措施,從資料收集到模型訓練、部署,一直到最終退役。

    AI-Specific Requirements

    GDPR 對處理個人資料的 AI 系統訂有幾項具體要求。第 22 條賦予個人權利,使其不受僅基於自動化處理、且產生法律效果或類似重大影響之決策的拘束。這表示對於影響就業、信用、保險或其他類似重大結果的 AI 決策,組織必須建立人為監督機制。此外,控制者必須就自動化決策所涉的邏輯,提供有意義的資訊。

    該規則的資料最小化原則(第 5(1)(c) 條)要求,只能處理適當、相關,且限於特定目的所必要的個人資料。對 AI 訓練而言,這表示團隊不能把所有可取得的資料直接彙整起來,而必須審慎篩選資料集,只納入模型預定功能確實必要的資料。目的限制原則進一步限制將個人資料再用於超出原始收集目的的訓練用途。歐洲資料保護委員會(EDPB)第 28/2024 號意見補充指出,不能假定以個人資料訓練的模型就是匿名的:能否從模型中擷取出個人資料,必須逐案評估。

    對於可能對個人權利與自由造成高風險的處理活動,第 35 條規定必須進行資料保護影響評估(DPIA)。大多數大規模處理個人資料的 AI 系統都會觸發這項要求。DPIA 必須描述處理作業、評估其必要性與比例性、評估對資料主體的風險,並說明因應這些風險的措施。組織也必須依第 30 條保存詳細的處理活動紀錄,載明處理哪些資料、目的為何,以及誰有存取權限。

    How Ertas Helps

    Ertas Studio 在 Ertas 的雲端 GPU 上訓練模型,因此您用來訓練的資料集會上傳到 Ertas 並加以儲存,讓訓練可以重新執行。如果該資料集包含個人資料,這次上傳就屬於您處理活動的一部分,需要具備合法依據,並先與我們議定資料處理條款。對大多數專案而言,較簡單的做法是在上傳前先將資料最小化:在任務允許的範圍內進行假名化或匿名化,並只保留模型需要的欄位。Studio 的資料集建構工具 Data Craft 讓您在訓練前編輯每個範例並追蹤其核准狀態;資料集的用途結束時,您也可以刪除已上傳的資料集。

    訓練好的模型屬於您。將它匯出為 GGUF 或 safetensors,並在您自己的環境中執行,推論時提示詞與輸出中的個人資料就不會傳到 Ertas。在您重新訓練之前,匯出的檔案維持不變,因此您在 DPIA 中評估過的版本,就是正式環境中的版本。如果您不想自行維運,自適應模型端點與企業客製模型建置可以在您自己的雲端或地端執行模型,也可以由 Ertas 代管。

    GDPR 義務本身仍由身為控制者的您承擔:合法依據、DPIA、處理活動紀錄、資料主體請求、第 22 條的保障措施,以及模型執行環境的安全。依循 EDPB 的意見,在將訓練好的模型視為匿名之前,請先評估能否從中擷取出個人資料。

    Compliance Checklist

    訓練好的模型屬於您,由您決定在哪裡執行Supported
    匯出模型權重,在您自己的環境中執行推論Supported
    自行託管的模型進行推論時,不會傳送任何個人資料給 ErtasSupported
    訓練資料集的用途結束時,刪除已上傳的資料集Supported
    上傳前的資料最小化:Data Craft 讓您編輯每個範例;找出並移除個人資料由您處理Partial
    為上傳用於訓練的任何個人資料,確立合法依據與資料處理條款Customer Responsibility
    資料保護影響評估(DPIA)與處理活動紀錄Customer Responsibility
    資料主體請求,包括判斷訓練好的模型是否含有個人資料Customer Responsibility
    模型執行環境中的存取控制、日誌記錄與安全Customer Responsibility

    Relevant Ertas Features

    • 模型匯出(GGUF、safetensors)
    • 自行託管推論,執行時不依賴 Ertas
    • Data Craft 資料集建構工具,可編輯並核准每個訓練範例
    • 資料集刪除
    • 自適應模型端點,部署在您的雲端或地端

    Related Resources

    Ship AI that runs on your users' devices.

    Start free with 150 credits after card verification. Paid plans from $20/mo USD.