SOC 2(系統與組織控制 2) & AI Compliance
SOC 2 如何適用於 AI 系統,以及自行託管的客製模型在您的稽核範圍中處於什麼位置
Overview
SOC 2(System and Organization Controls 2)是由美國註冊會計師協會(AICPA)制定的合規框架,依據五項信任服務準則評估組織的資訊系統:安全性、可用性、處理完整性、機密性與隱私。SOC 2 以原則為基礎:組織自行定義控制措施,再由獨立的稽核人員評估這些控制措施的設計與執行有效性。
對 AI 與機器學習組織而言,SOC 2 報告已成為企業 銷售中實質上的必要條件。金融服務、醫療照護、科技及其他受監管產業的客戶,在核准將處理其資料的廠商之前,愈來愈常要求對方提供 SOC 2 Type II 報告。Type II 報告涵蓋一段觀察期,通常為六到十二個月,除了顯示控制措施確實存在,也顯示它們在整段期間都有效運作。
AI 系統為 SOC 2 稽核帶來特有的考量。訓練資料管線、模型版本控管、推論端點與自動化決策系統,都在 SOC 2 評估的範圍內。稽核人員會評估組織如何保護訓練資料的機密性、確保模型輸出的處理完整性、維持正式環境 AI 服務的系統可用性,以及保障資料出現在訓練資料集中之個人的隱私。無法證明在這些領域具備有效控制措施的組織,可能面臨稽核發現事項,進而延誤企業交易。
AI-Specific Requirements
透過共通準則評估的安全性類別,是每一次 SOC 2 委任的基礎,也是唯一的必要類別。對 AI 系統而言,安全控制措施必須涵蓋訓練資料與模型產出物的存取管理、模型部署的變更管理、針對 AI 特有威脅的風險評估流程,以及 AI 系統元件的監控。組織必須實施邏輯存取控制,限制誰能檢視、修改或刪除訓練資料集與模型權重。
處理完整性與 AI 系統特別相關,因為它要求系統處理必須完整、有效、正確、及時且經過授權。對機器學習管線而言,這表示必須證明訓練資料的轉換會產生正確的結果、模型的推論輸出一致且可靠,而且資料管線的故障能被偵測並解決。組織必須保存證據,證明其 AI 處理產生的輸出達到既定的品質閾值,且異常狀況會觸發適當的警示與修 正流程。
機密性與隱私準則要求組織在敏感資訊的整個生命週期中加以保護。對 AI 團隊而言,這涵蓋含有客戶資訊的訓練資料、專有的模型權重、評估資料集,以及可能含有敏感輸入的推論日誌。控制措施必須涵蓋資料分類、靜態與傳輸中的加密、安全處置不再需要的資料,以及對與第三方分享資料的限制。隱私準則另外增加了通知、選擇、同意、收集限制與資料品質方面的要求,與 GDPR 及 CCPA 的義務高度一致。
How Ertas Helps
您的 SOC 2 範圍涵蓋處理客戶資料的系統,以及這些系統所依賴的廠商。自行託管的模型讓 Ertas 不在正式環境的資料路徑上。將訓練好的模型匯出為 GGUF 或 safetensors,並在已受您控制措施涵蓋的基礎設施上執行,提示詞與輸出就不會傳到 Ertas,執行時也不依賴我們。模型屬於您,而且在您重新訓練之前版本維持不變,因此在您的變更管理中,它就和任何其他有版本控管的產出物一樣。
會接觸到 Ertas 的是訓練環節。Ertas Studio 在 Ertas 的雲端 GPU 上進行訓練,因此訓練資料集會上傳到 Ertas 並加以儲存,讓訓練可以重新執行,完成後您可以將其刪除。請在風險評估中將 Studio 當作廠商加以評估,而且除非該評估允許,否則不要讓機密的客戶資料進入訓練資料集。如果您希望由 Ertas 執行模型,自適應模型端點與企業客製模型建置可以在您自己的雲端或地端執行它,也就是在您的控制措施已涵蓋的環境之內。
稽核人員測試的控制措施仍由您負責:模型執行系統的邏輯存取、日誌記錄與監控、加密、變更核准與可用性,以及稽核委任本身。
Compliance Checklist
Relevant Ertas Features
- 模型匯出(GGUF、safetensors)
- 自行託管推論,執行時不依賴 Ertas
- Hub,列出您訓練過的每個模型
- 資料集刪除
- 自適應模型端點,部署在您的雲端或地端
Related Resources
Ship AI that runs on your users' devices.
Start free with 150 credits after card verification. Paid plans from $20/mo USD.