ISO 27001(資訊安全管理系統) & AI Compliance

    ISO 27001 控制措施如何適用於 AI 訓練資料、模型權重與推論

    Overview

    ISO/IEC 27001 是國際公認的資訊安全管理系統(ISMS)標準。這項標準由國際標準化組織與國際電工委員會共同發布,透過風險評鑑、安全控制措施與持續改善,提供一套有系統地管理敏感資訊的方法。2022 年改版(ISO/IEC 27001:2022)重新架構了附錄 A 的控制措施,並新增資料遮蔽、資料外洩防護等控制措施,這些措施與 AI 及資料分析系統直接相關。依 2013 年版核發之證書的轉換期,已於 2025年10月31日結束。

    ISO 27001 驗證能向客戶、合作夥伴與主管機關證明,組織已採行以風險為基礎的資訊安全做法。對 AI 組織而言,取得驗證日益成為承接企業案的先決條件,特別是在金融服務、醫療照護、政府與國防領域,因為這些領域的訓練資料與模型輸出高度敏感,需要嚴謹的資訊安全治理。這項標準與 SOC 2、NIST CSF 及 GDPR 等其他框架相容;2023 年發布的 ISO/IEC 42001 則新增了一套專為 AI 設計、可與 ISO 27001 並行運作的管理系統標準。

    ISO 27001 是一項管理系統標準:組織自行識別其資訊安全風險,並實施相稱的控制措施。對 AI 團隊而言,這表示要評估機器學習工作流程特有的風險,包括訓練資料投毒、模型竊取、對抗式攻擊、透過模型輸出造成的資料外洩,以及未經授權存取敏感資料集。這項標準強調透過 PDCA(規劃、執行、檢查、行動)循環持續改善,讓安全控制措施隨著 AI 威脅與技術的變化而演進。

    AI-Specific Requirements

    ISO 27001 附錄 A 提供一份安全控制措施目錄,分為四大主題:組織、人員、實體與技術。對 AI 系統而言,有幾項技術控制措施特別相關。控制措施 A.8.1(使用者端點裝置)規範用於 AI 開發的工作站應如何保護。控制措施 A.8.3(資訊存取限制)要求依據既定的存取控制政策,限制對訓練資料與模型產出物的存取。控制措施 A.8.10(資訊刪除)要求對不再需要的訓練資料採行安全的刪除流程。

    2022 年改版新增了控制措施 A.8.11(資料遮蔽),直接適用於 AI 訓練資料的準備。組織必須依照適用的法規與業務要求,實施包括假名化與匿名化在內的資料遮蔽作業。控制措施 A.8.12(資料外洩防護)要求採取措施,防止敏感資訊遭未經授權揭露;對 AI 系統而言,這包括防止有人透過模型查詢擷取訓練資料,以及保護模型權重不被竊取外流。

    第 6.1.2 條的風險評鑑要求組織識別資訊資產在機密性、完整性與可用性方面的風險。對 AI 組織而言,這包括評估訓練資料集、模型權重、超參數設定、評估結果與推論輸出所面臨的風險。風險處理計畫必須透過控制、轉移、避免或接受等方式處理已識別的風險,並依規劃的間隔定期審查。組織也必須維護適用性聲明(Statement of Applicability),記錄實施了哪些附錄 A 控制措施,並說明任何排除項目的理由。

    How Ertas Helps

    在 ISMS 中,客製模型伴隨兩項風險不同的資訊資產:訓練資料集與訓練好的模型。Ertas Studio 在 Ertas 的雲端 GPU 上進行訓練,因此資料集會上傳到 Ertas 並加以儲存,讓訓練可以重新執行,這使 Ertas 成為該資料在 A.5.19 至 A.5.22 下的供應商。上傳前請依 A.8.11,遮蔽或假名化任務不需要的任何內容;使用 Studio 的資料集建構工具 Data Craft 編輯並核准每個範例;並在資料集不再需要時,依 A.8.10 將其刪除。

    訓練好的模型屬於您。將它匯出為 GGUF 或 safetensors,並在您自己的環境中執行,您現有的存取限制、日誌記錄、密碼學與外洩防護控制措施便已適用,推論資料也不會傳到 Ertas。在您重新訓練之前,匯出的版本維持不變,因此每一次模型變更都會經過您自己依 A.8.32 執行的變更管理。自適應模型端點與企業客製模型建置可以在您自己的雲端或地端執行模型。

    ISMS 仍由您負責:風險評鑑與處理計畫、適用性聲明,以及您環境中每一項附錄 A 控制措施的運作。Ertas 不會為您執行的系統提供存取控制、日誌記錄或加密。

    Compliance Checklist

    模型權重作為您擁有的資訊資產(A.5.9)Supported
    匯出模型權重,在您的 ISMS 範圍內執行推論Supported
    自行託管的模型進行推論時,不會傳送任何資料給 Ertas(A.8.12)Supported
    不再需要時,刪除已上傳的訓練資料集(A.8.10)Supported
    在您重新訓練之前,模型版本維持不變,以利變更管理(A.8.32)Supported
    上傳前的資料遮蔽(A.8.11):Data Craft 讓您編輯每個範例;遮蔽由您處理Partial
    將 Ertas Studio 視為訓練資料的供應商進行評估(A.5.19 至 A.5.22)Customer Responsibility
    模型執行環境中的存取限制、日誌記錄與密碼學控制Customer Responsibility
    風險處理計畫與適用性聲明Customer Responsibility

    Relevant Ertas Features

    • 模型匯出(GGUF、safetensors)
    • 自行託管推論,執行時不依賴 Ertas
    • Data Craft 資料集建構工具,可編輯並核准每個訓練範例
    • 資料集刪除
    • 自適應模型端點,部署在您的雲端或地端

    Related Resources

    Ship AI that runs on your users' devices.

    Start free with 150 credits after card verification. Paid plans from $20/mo USD.