EU AI Act 對高風險 AI 系統的要求將於 2026 年 8 月生效——距本文發佈日期還有五個月。如果您的組織開發、部署或提供根據該法規分類為高風險的 AI 系統,您的資料管道必須滿足資料治理、文件和可追溯性方面的特定要求。
本準備檢查器專門針對 EU AI Act 第 10 條、第 12 條和第 19 條中的資料管道要求。它不涵蓋該法規的全部範圍(包括風險評估、人工監督、穩健性等),但資料治理是大多數組織差距最大、工作量最多的領域。
使用本檢查器評估您當前的準備情況,識別差距,並在 2026 年 8 月執行日期之前確定補救措施的優先順序。
瞭解您的風險分類
在評估合規準備之前,您需要確定您的 AI 系統屬於高風險還是有限風險分類。EU AI Act 在附件 III 中定義了高風險系統,涵蓋以下領域:
- 生物特徵識別和分類
- 關鍵基礎設施的管理和營運
- 教育和職業訓練(準入、評估)
- 就業、勞工管理和自主就業(招聘、評估)
- 基本公共和私人服務的取得(信用評分、保險)
- 執法、移民和邊境管控
- 司法管理和民主程序
如果您的 AI 系統在這些領域中的任何一個運行,它幾乎肯定被分類為高風險,並受第 10 條、第 12 條和第 19 條的全部要求約束。
不在高風險類別中的系統可能仍受有限風險要求(主要是透明度義務)或通用 AI 模型要求的約束(如果涉及基礎模型)。
第 10 條:資料和資料治理要求
第 10 條為高風險 AI 系統中使用的訓練、驗證和測試資料集建立了要求。以下檢查表涵蓋了每項要求以及您的資料管道的具體標準。
高風險系統檢查表——第 10 條
| 要求 | 您的管道必須做什麼 | 就緒 | 部分就緒 | 未就緒 |
|---|---|---|---|---|
| 10(2) 資料治理 | 實施文件化的資料治理框架,涵蓋設計選擇、資料收集、準備操作、假設制定以及資料可用性、數量和適用性評估 | 管道具有文件化的資料治理政策,涵蓋端到端資料處理 | 存在一些文件但覆蓋範圍有差距 | 沒有正式的資料治理框架 |
| 10(2)(a) 設計選擇 | 記錄資料收集和處理的設計選擇,包括選擇的資料來源及原因 | 資料來源選擇和處理邏輯已文件化並進行版本控制 | 團隊理解設計選擇但未正式記錄 | 設計選擇是臨時性的且未記錄 |
| 10(2)(b) 資料收集 | 記錄資料收集流程,包括資料的來源、目的和數量 | 管道記錄資料來源:每個資料集的源、時間戳記、數量和收集方法 | 部分來源追蹤;一些源未記錄 | 沒有系統化的來源追蹤 |
| 10(2)(c) 資料準備 | 記錄所有資料準備操作,包括標註、標籤、清洗、豐富和聚合 | 每個管道轉換都記錄了操作者 ID、時間戳記和輸入/輸出描述 | 主要轉換已記錄但階段之間存在差距 | 轉換未被記錄 |
| 10(2)(d) 假設 | 記錄關於資料衡量和代表內容的假設 | 關於資料代表性和衡量的假設已記錄 | 一些假設非正式記錄 | 沒有記錄的假設 |
| 10(2)(e) 可用性評估 | 評估和記錄資料的可用性、數量和適用性 | 關於訓練資料是否充分和具有代表性的文件化評估 | 已進行評估但未正式記錄 | 未進行評估 |
| 10(2)(f) 偏見檢查 | 檢查資料中可 能影響健康、安全或基本權利的偏見 | 已進行並記錄系統性偏見分析,並記錄了緩解步驟 | 進行了一些偏見分析但不全面 | 沒有偏見檢查流程 |
| 10(2)(g) 資料差距 | 識別和解決可能影響合規性的資料差距 | 差距分析已記錄並有補救計畫 | 非正式地識別了差距但沒有系統化流程 | 沒有差距識別流程 |
| 10(3) 代表性 | 訓練、驗證和測試資料集必須相關、具有充分代表性且盡可能沒有錯誤 | 資料集代表性的統計分析已記錄;資料品質指標被追蹤 | 對代表性的非正式評估 | 沒有代表性分析 |
| 10(4) 資料屬性考量 | 考慮 AI 系統的特定地理、上下文、行為或功能設定 | 資料集組成反映部署上下文;上下文因素的文件化分析 | 對上下文有一些考慮但不系統化 | 不考慮部署上下文 |
| 10(5) 個人資料處理 | 個人資料處理必須遵循 GDPR;特殊類別資料僅在偏見偵測和糾正嚴格必要時才可處理 | PII/PHI 偵測和編輯內建於管道中;特殊類別資料處理已記錄 | 有一些 PII 處理但覆蓋範圍或文件存在差距 | 管道中沒有系統化的 PII 處理 |
有限風險系統檢查表——第 10 條
有限風險系統具有較低的資料治理要求,但仍必須滿足基本標準。
| 要求 | 您的管道必須做什麼 | 就緒 | 部分就緒 | 未就緒 |
|---|---|---|---|---|
| 資料品質基線 |

