負責任 AI & AI Compliance
負責任 AI 原則如何適用於客製 AI 模型的建構、測試與執行
Overview
負責任 AI 是指以合乎倫理、透明、公平且可問責的方式,設計、開發、部署與營運 AI 系統的實務。負責任 AI 是一套匯集多方來源的框架,並非單一法規:OECD AI 原則(2024 年更新)、聯合國教科文組織《人工智慧倫理建議書》、歐盟《人工智慧法》的要求、IEEE 7000 等標準,以及科技公司的組織承諾。這些來源共同構成一套期待,主管機關、客戶、投資人與社會大眾也愈來愈以此檢視開發 AI 的組織。
負責任 AI 的核心原則通常包括公平與不歧視、透明與可解釋性、隱私與資料保護、安全性與資訊安全、問責與人為監督,以及永續性。每項原則都對 AI 系統的建構方式帶來實際影響。公平需要針對不同人口群體進行偏誤測試。透明需要記錄模型的行為與限制。隱私需要資料最小化與同意管理。安全需要周全的測試與失效安全機制。問責需要明確的權責歸屬與治理架構。
負責任 AI 的商業價值不只在於遵循法規。落實負責任 AI,往往意味著較少代價高昂的模型失誤、更深厚的客戶信任,以及較低的訴訟風險。它所要求的測試與文件記錄,也往往能在使用者發現之前先找出問題,引導創新走向能創造長久價值、同時減少傷害的成果。
AI-Specific Requirements
AI 的公平性需要有系統地評估模型在不同人口群體與使用情境中的行為。組織必須識別相關的受保護特徵(種族、性別、年齡、身心障礙狀態等),衡量模型在這些群體間的效能差異,在差異超出可接受閾值時採用偏誤緩解技術,並在正式環境中監控公平性是否下降。這需要具代表性的訓練資料、分群計算的評估指標,以及持續的監控。公平性評估必須依情境而定:何謂公平對待,會因使用情境、司法管轄區與利害關係人的期待而有所不同。
透明與可解釋性要求組織記錄 AI 系統如何做出決策,並向受影響的個人與監督機構說明。這包括模型卡或資料表,說明系統的預期用途、訓練資料特性、效能指標、已知限制與倫理考量。對於個別決策,組織應能提 供適當詳細程度的解釋:哪些因素影響了決策、使用了哪些資料,以及可以如何對決策提出異議。所需的可解釋程度,隨決策對受影響個人的影響程度而提高。
人為監督與問責要求 AI 系統在有意義的人為監督下運作,特別是在決策影響個人的權利、機會或福祉時。組織必須為 AI 系統的監督界定明確的角色與職責、提供人工審查與推翻自動化決策的機制、為已偵測到的問題建立升級處理流程,並維持在問題發生時能找出負責方的問責架構。監督強度隨風險調整:治理架構應提供與系統風險及影響相稱的監督,低影響的決策可能不需要逐一審查。
How Ertas Helps
負責任 AI 的好幾項原則都取決於掌控權:知道模型用什麼資料訓練、在您自己的情境中測試它,以及能夠修改它。在 Ertas Studio 中訓練的客製模型,讓您擁有這份掌控權。您挑選訓練範例,在 Studio 的資料集建構工具 Data Craft 中編輯每個範例並追蹤其核准狀態,並在選定模型之前比較各次訓練。訓練好的模型屬於您,而且在您重新訓練之前版本維持不變,因此您測試過的模型,就是大家實際使用的模型。
在隱私方面,有兩道資料流需要注意。Studio 在 Ertas 的雲端 GPU 上進行訓練,因此訓練資料會上傳到 Ertas 並加以儲存,讓訓練可以重新執行;請使用去識別化或最小化的資料進行訓練,並刪除不再需要的資料集。在推論階段,將模型匯出為 GGUF 或 safetensors,並在您自己的環境中執行,使用者輸入的內容就不會傳到 Ertas。自適應模型端點與企業客製模型建置可以在您自己的雲端或 地端執行模型。
公平性測試、模型卡、人為監督與升級處理,以及貴組織的負責任 AI 政策,仍由您負責。Ertas 不提供偏誤偵測或公平性工具。
Compliance Checklist
Relevant Ertas Features
- Data Craft 資料集建構工具,可編輯並核准每個訓練範例
- 平行訓練執行,可並排比較
- 模型匯出(GGUF、safetensors)
- 自行託管推論,執行時不依賴 Ertas
- 資料集刪除
Related Resources
Ship AI that runs on your users' devices.
Start free with 150 credits after card verification. Paid plans from $20/mo USD.