AI 模型清单模板:追踪你的组织在生产中运行的每个模型
SR 11-7、EU AI Act 和 ISO 42001 都要求模型清单。以下是包含所有必需字段的完整模板,以及捕获什么和为什么的指导。
监管机构要的是一份清单:每个模型、它的版本、负责人、风险等级、由谁验证、上次审查是什么时候。一句"我们使用 AI"在他们那里算不上治理姿态。如果你无法随时拿出这份清单,那就是一个合规缺口。
本文给出完整 的模板。复制它,把字段名改成适配你自己工具链的叫法,今天就可以开始填。
为什么监管机构要求模型清单
三套主要框架在同一项要求上达成了一致:你必须为自己运营的每一个 AI 系统维护一份正式登记册。
SR 11-7(美联储 / OCC) 要求银行及其控股公司,对所有用于业务决策的模型保存完整文档。这里的"模型"定义很宽:任何产出估计值或决策的量化方法都算,包括信用评分、欺诈检测、用在贷款发起流程里的聊天机器人,以及任何触及受监管结果的 LLM 辅助工作流。
EU AI Act 第 11 条 要求高风险 AI 系统在投放市场或投入使用之前编制技术文档,并在系统的整个生命周期内保持更新。对部署者(即使用高风险系统的组织)而言,第 26 条要求保存日志并实施人工监督,而这两件事的前提,是你清楚自己在运行哪些系统。
ISO/IEC 42001(AI 管理体系标准)要求组织在其 AI 管理体系中建立 AI 系统登记册。第 6.1.2 条明确要求识别 AI 系统及其相关风险。
对受上述任一框架约束的组织来说,清单是必备项,其他所有治理工作都建在它上面。
模型清单是什么,不是什么
模型清单是一份结构化登记册,覆盖你的组织在生产环境中运行的每一个 AI/ML 系统。它包括:
- 内部自建的模型
- 供应商提供的模型(包括通过 API 访问的模型,如 GPT-4、Claude、Gemini)
- 微调后的模型,即便基座来自供应商
- 本地部署和云端运行的模型
- 嵌在你所部署的第三方软件里的模型
清单的范围比你调用的 API 列表宽得多。只要供应商的模型做出或影响了业务决策,它就该进你的清单,连同锁定的版本、上次变更的日期,以及万一出问题由谁对结果负责。
影子 AI,也就是各团队绕开正式采购流程自行部署的模型,是最常见的缺口。清单只有诚实反映实际在跑的东西,才有用。
模型清单模板
每一次模型部署占一行。如果同一个模型版本部署在两个彼此独立的生产场景里(比如一个用于客服,一个用于内 部运营),就建两行。
| 字段 | 说明 |
|---|---|
| 模型 ID | 唯一标识符(例如 MDL-2024-047)。采用顺序编号或结构化编码方案。 |
| 模型名称 | 便于阅读的名称(例如"客户流失预测器 v3""客服对话 LLM") |
| 版本 | 精确的版本字符串:指模型版本,而不只是应用版本。API 模型填锁定的模型 ID(例如 gpt-4-0613)。 |
| 类型 | 判别式 / 生成式 / 强化学习 / 集成 / 规则混合 |
| 供应商 / 来源 | "内部",或供应商名称(OpenAI、Anthropic、Mistral 等),或开源项目 |
| 部署环境 | 生产 / 预发布 / 影子(在跑但不产生实际作用) |
| 业务用途 | 一句话:这个模型支撑的是什么决策或什么产出? |
| 风险等级 | 高 / 中 / 低:依据你自己的分级政策 |
| 负责人 / 问责团队 | 对该模型的表现与合规负责的团队和具名个人 |
| 验证状态 | 未验证 / 已完成初次验证 / 持续监控中 / 验证已逾期 |
| 上次验证日期 | 最近一次正式验证或审查的日期 |
| 下次审查日期 | 计划的下次审查日期:高风险每季度;中风险每半年;低风险每年 |
| 数据输入 | 喂给该模型的数据类型(例如客户交易历史、自由文本工单、图像) |
| 数据输出 | 模型返回的内容(例如 0-1 的概率分、分类标签、生成文本) |
| 监管范围 | 适用哪些法规:SR 11-7 / EU AI Act / HIPAA / GDPR / CCPA / 未识别到 |
| 人工监督级别 | HITL(人在环内,逐条审批输出)/ HOTL(人在环上,监控并可推翻)/ HOOTL(人在环外,全自动) |
| 事件日志链接 | 该模型事件日志的 URL 或引用编号 |
| 退役日期 | 模型已退役或计划退役的日期(仍在使用则留空) |
已填写的示例行
| 字段 | 示例值 |
|---|---|
| 模型 ID | MDL-2026-012 |
| 模型名称 | 贷款资格初筛模型 |
| 版本 | internal-v2.3.1 |
| 类型 | 判别式(二分类器) |
| 供应商 / 来源 | 内部 |
| 部署环境 | 生产 |
| 业务用途 | 在人工承保人员复核之前,对抵押贷款申请做资格初筛 |
| 风险等级 | 高 |
| 负责人 / 问责团队 | 信贷风险团队 / Jane Smith |
| 验证状态 | 持续监控中 |
| 上次验证日期 | 2026-01-15 |
| 下次审查日期 | 2026-04-15 |
| 数据输入 | 申请人收入、信用历史、负债收入比、就业状况 |
| 数据输出 | 资格评分(0-100)、建议动作(通过 / 复核 / 拒绝) |
| 监管范围 | SR 11-7、Equal Credit Opportunity Act、ECOA |
| 人工监督级别 | HOTL |
| 事件日志链接 | /incidents/MDL-2026-012 |
| 退役日期 | - |
模型变更日志模板
生产环境中模型的每一次变更,包括版本更新、重新训练、阈值调整,都必须记录在案。它和主清单表是分开的:清单反映当前状态,变更日志反映历史。
| 日期 | 模型 ID | 变更类型 | 变更人 | 批准人 | 变更前版本 | 变更后版本 | 是否完成验证 | 回滚计划 |
|---|---|---|---|---|---|---|---|---|
| 2026-02-10 | MDL-2026-012 | 版本更新 | 数据科学团队 | 信贷风险总监 | internal-v2.2.0 | internal-v2.3.1 | 是:影子测试 30 天 | 通过部署配置回退到 v2.2.0 |
| 2026-01-22 | MDL-2026-008 | 阈值调整 | ML Ops | AI 风险官 | 阈值:0.65 | 阈值:0.70 | 是:在 2025 年第四季度数据上做过回溯测试 | 在配置文件中改回原阈值 |
变更类型可选项:版本更新 / 阈值调整 / 输入特征变更 / 训练数据更新 / 基础设施迁移 / 紧急回滚
每个字段怎么填
风险等级是最多组织填错的字段。定级依据是失效后果,而不是技术复杂度。一个只做逻辑回归、却影响授信决策的模型属于高风险;一个用来生成内部会议纪要建议的复杂 Transformer 模型属于低风险。要问的问题是:如果这个模型给出了错误的输出,谁会受害,受害有多深?
人工监督级别要写实际情况,而不是写目标状态。如果政策上写的是 HITL,而审核人在 10 秒内就给 98% 的输出盖章放行,那就如实记下来:政策与实践之间的落差本身就是一项审计发现。
版本这一栏要求你为第三方 API 模型锁定版本,别用 "latest" 之类的别名。如果你调用的是 gpt-4 而不是 gpt-4-0613,你其实并不知道自己在跑哪个模型。锁定版本,并把它记下来。
监管范围应该由法务或合规团队来填,而不是工程师。工程师清楚模型做什么,法务清楚这项活动会牵连到哪些法规。
清单的维护
一份没人维护的清单比没有清单更糟:它制造虚假的安心,还会实实在在地误导审计人员。
最低审查频率:
- 高风险系统:每季度
- 中风险系统:每半年
- 低风险系统:每年
- 发生生产事故之后:5 个工作日内
需要新增一条清单记录的触发条件(而不是更新已有的行):
- 有新模型上线到生产环境
- 已有模型被用于新的业务用途或新的数据类型
- 模型从一个部署环境迁到另一个(预发布 → 生产)
需要更新已有行的触发条件:
- 版本变更
- 负责人变更
- 验证状态变更
- 退役
常见错误
把清单当成一次性项目。 不少组织为了应付一次审计才建起清单,之后就任它过期。监管机构会查最近的更新记录。一份 18 个月没动过的清单,是治理缺口的证据。
漏报影子 AI。 各业务团队会自行接入 AI 工具,比如 Copilot 集成、供应商产品自带的 AI 功能、自己写的 API 集成,全都没走正式采购流程。要直接去问业务部门,不能只问 IT。问法是:"你们团队有没有在用不归中央 IT 管的 AI 工具?"答案几乎总是有。
把模型和用例混为一谈。 同一个模型版本(例如 GPT-4o)部署在两个不同场景里,比如面向客户的客服对话和内部法律文件摘要,就是两条不同的清单记录,风险等级、监督要求和监管范围都可能不同。
没有按版本追踪 API 模型。 "我们用 OpenAI"算不上一条清单记录。具体的模型 ID、锁定该版本的日期,以及后续的每一次更新,都属于必填信息。
与你的数据流水线打通
模型变更日志里的几列,尤其是变更类型、变更人和是否完成验证,直接对应一条埋点完善的数据处理流水线的输出。如果你的训练数据流水线为每一步转换都记录了操作人和时间戳,变更日志的原料其实已经有了。缺的通常是把这份运行日志接到治理登记册上。
Ertas Data Suite 会为每一步数据转换生成完整且不可篡改的审计轨迹,记录谁执行、何时执行、改了什么,可以直接汇入模型变更日志,无需人工录入。
下一步
- 导出当前环境中所有在运行的模型清单(和 ML Ops 与 IT 一起做)
- 依据你的分级政策为每个模型定风险等级(或直接采用上文的三级框架)
- 为每个模型确定负责人:如果某个模型无人问责,那就是你的第一项治理发现
- 在 90 天内为所有高风险系统安排第一次正式审查
- 建立变更通知流程,让清单保持最新
清单是地基。模型卡、验证文档、审计轨迹和事件响应都要引用它。把它建扎实,治理体系的其余部分才有立足之处。
Ship AI that runs on your users' devices.
Free plan with 30 credits/mo, no card required. Paid plans from $10/mo USD.
Keep reading
NIST AI RMF vs EU AI Act vs ISO 42001 映射对照
NIST AI RMF、EU AI Act 与 ISO 42001 各自的要求、三者的重叠之处,以及如何用一套合规体系同时满足三个框架。
EU AI Act 高风险系统要求:它们要求什么以及没有告诉你什么
EU AI Act 的附件III定义了高风险 AI 类别。如果你在医疗、法律、金融或人力资源领域部署,你几乎肯定在范围内。以下是合规实际要求什么。
EU AI Act 日志清单:提供者和部署者必须记录什么
EU AI Act 第12条、第19条和第26条第6款要求高风险 AI 系统自动记录自身的运行情况,并要求运营这些系统的一方留存这些日志。本清单涵盖每项要求及实用实施指南。