vendor-evaluationai-governanceenterprise-aiprocurementscorecard
AI 供应商评估记分卡:从 6 个治理维度评估每个供应商
基于治理而非仅能力来评估 AI 供应商的完整加权记分卡。涵盖版本控制、审计日志、战略对齐、数据治理、合规支持和退出策略。
Edward Xi Yang
大多数 AI 供应商评估关注基准分数和演示性能。这对企业采购决策来说是错误的框架。二月里 MMLU 得分最高的那个模型,到十一月可能已经不是你正在运行的模型,而供应商未必告诉过你这次变更正在发生。
能 力当然重要。但供应商关系能否持续、能否审计、能否向监管机构交代,取决于治理。这份记分卡把两方面都评估进来。
为什么只看能力基准不够
AI 模型的表现不是固定的。供应商会持续更新模型:为了降低成本、为了在自己的目标用例上提升表现、为了回应安全方面的顾虑,或者为了满足监管要求。除非你谈下了带合同稳定性承诺的版本锁定端点,否则你当初评估的那个模型,未必就是你在生产环境里运行的模型。
对关键业务流程来说,比如贷款审批、医疗分诊支持、法律文件审阅、欺诈检测,这件事很要紧。一次悄无声息的模型更新可以改变系统行为、让你此前的验证作废、造成合规缺口,而你的监控栈不会因此发出任何告警。
除了版本稳定性,企业采购 AI 时还需要评估:
- 你的数据会不会被用来训练他们的下一代模型
- 需要离开时,你能不能把自己的成果导出来
- 供应商能不能拿出你的监管机构会接受的文档
- 三年之后,这家供应商还在不在,还服不服务你的用例
这份记分卡把上述问题全部覆盖。
如何使用这份记分卡
按下文给出的指引,为每个评估项打 1 到 5 分。把某个维度下各评估项得分的平均值作为该维度的得分,再乘以它的权重。把所有加权得分相加,得到 5.0 分制的总分。
每家供应商单独填一张记分卡。同时评估多家供应商时,请使用完全相同的打分流程:由同一个人把所有供应商的同一个评估项打完,再进入下一项,以减少锚定偏差。
维度 1:版本控制与变更管理(权重:20%)
| 评估项 | 1 分 | 3 分 | 5 分 |
|---|---|---|---|