企业团队 AI 治理政策模板
完整的 AI 治理政策模板，涵盖模型清单、风险等级、人工监督要求、供应商管理和事件响应。可根据你的组织进行调整。
书面的 AI 治理政策对企业组织来说不再是可选的。EU AI Act 要求高风险系统有文档化的治理流程。网络保险承保人开始将其作为承保条件。董事会在同行组织出现高调 AI 失败后要求查看。法务部门也在要求，因为监管风险现在是董事会级别的关注，而不仅仅是 IT 关注。
本模板涵盖每个核心部分。以下政策文本设计为可调整——用你组织的具体信息填写括号内字段，调整风险阈值以匹配你的行业和监管环境，并在内部发布前由法务审查。
如何使用此模板
不要试图同时实施每个部分。从第3和第4节开始——风险分类和模型清单。这两个部分为其他所有内容提供了参考基础。然后构建治理结构（第2节）和人工监督要求（第5节）。第6到第10节可以随着你的项目成熟而跟进。
组织 AI 治理政策
文档 ID：[POLICY-AI-001] 版本：[1.0] 生效日期：[日期] 下次审查日期：[日期 + 1年] 政策负责人：[AI 风险官 / CTO / CISO] 批准人：[董事会 / 执行委员会]
第1节：范围和定义
1.1 范围
本政策适用于 [组织名称] 运营的所有 AI 系统，包括：
- 内部开发的 AI 系统
- 从第三方供应商采购或通过 API 访问的 AI 系统
- 嵌入在组织使用的第三方软件产品中的 AI 功能
- 由承包商或合作伙伴代表组织运营的 AI 系统
1.2 定义
| 术语 | 定义 |
|---|---|
| AI 系统 | 使用机器学习、统计建模或基于规则的自动化来产出影响组织决策或客户结果的输出的任何软件系统 |
| 高风险 AI | 在错误可能对个人造成重大伤害、产生法律责任或触发监管执行的环境中运行的 AI 系统 |
| 人在回路（HITL） | 人工在任何后果性行动之前审查和批准每个 AI 输出的监督配置 |
| 人在环上（HOTL） | AI 自主运行但人工监控输出并有定义的覆盖权限的监督配置 |
| 人在环外（HOOTL） | 无人工审查个别输出的自动配置；人工仅审查汇总性能指标 |
| 审计追踪 | AI 系统输入、输出、处理步骤、人工审查决策和系统变更的不可变、带时间戳的记录 |
第2节：治理结构
2.1 AI 治理委员会
AI 治理委员会（AGC）是 AI 政策、风 险容忍度和升级决策的主要决策机构。
- 组成：首席技术官、首席风险官、首席法律官、首席信息安全官和轮值业务部门代表
- 会议频率：季度例会；P0/P1 事件或重大政策决策时临时召开
- 决策权限：批准高风险 AI 系统部署；设定风险容忍阈值；批准政策变更；审查 P0 和 P1 事件报告
2.2 AI 系统负责人
模型清单中的每个 AI 系统必须有一名指定的 AI 系统负责人。
2.3 AI 风险官
AI 风险官对 AI 治理项目的有效性承担企业级责任。
第3节：AI 风险分类
所有 AI 系统在模型清单注册时必须归入三个风险等级之一。
第1级——高风险
影响个人获得服务、就业机会、医疗结果、法律地位、金融产品或教育机会的系统。
必需控 制：
- 人在回路监督（HITL）——在任何后果性行动之前需人工批准
- 完整审计追踪（不可变、带时间戳、最低 [X] 年保留）
- 季度验证
- 文档化的模型卡
- 部署前在模型清单中注册
第2级——中等风险
内部生产力工具、内部使用的内容生成、无个人级后果的分析仪表板，以及产出建议而非决策的面向客户的工具。
第3级——低风险
无直接个人影响、高容错性且无监管范围的系统。
第4节：模型清单要求
所有 AI 系统必须在 [组织名称] 模型清单中注册。影子 AI（在正式 IT 采购流程之外部署的系统）必须在发现后 [30] 天内报告和注册。
第5节：人工监督要求
人工监督要求由风险等级决定。
第1级系统：在影响个人的任何行动之前需要人工批准。
第2级系统：需要有定义覆盖流程的人工监控。
第3级系统：允许自动运行，有输出日志和汇总性能监控。
第6节：供应商管理
所有 AI 供应商在部署前必须使用 AI 供应商评估记分卡 进行评估。
第7节：数据治理
与 AI 系统一起使用的训练数据和推理时数据必须符合组织的数据分类政策。
第8节：审计追踪和日志
第1级系统：所有输入、输出、模型版本、时间戳和人工审查决策必须为每次推理记录。
第9节：事件响应
AI 事件是 AI 系统产出导致或促成对个人的意外伤害、监管违规、重大经济损失或重大声誉风险的输出的任何事件。
9.1 严重级别
| 严重性 | 定义 | 初始响应 SLA |
|---|---|---|
| P0——危急 | 人身伤害；经济损失超过$[100K]；监管违规；超过1,000人受影响 | 1小时内通知 AI 风险官 |
| P1——高 | 定义群体的系统性错误；发现合规缺口；如公开则有声誉风险 | 4小时内通知 AI 风险官 |
| P2——中 | 输入子集的不正确输出；无即时伤害 | 24小时内通知 AI 系统负责人 |
| P3——低 | 质量退化；无个人伤害；无合规影响 | 在 [5] 个工作日内记录并审查 |
第10节：政策审查和更新
本政策由 AI 风险官每年审查并由 AI 治理委员会批准。
实施指导
最常见的实施失败是试图一次性构建整个治理项目。从这里开始：
第1个月：实施第3节（风险分类）。对当前生产中的每个 AI 系统进行分类。
第2个月：实施第4节（模型清单）。注册每个系统。
第3个月：实施第2节（治理结构）。为每个注册系统分配 AI 系统负责人。
第4-6个月：实施第5-8节。
Ertas Data Suite 的内置审计追踪和操作员日志直接满足第4和第8节的要求。
Ship AI that runs on your users' devices.
Free plan with 30 credits/mo, no card required. Paid plans from $10/mo USD.