Back to blog
    domain-expertsdata-labelingenterprise-aiannotationaccessibility

    为什么领域专家——而非 ML 工程师——应该拥有数据标注

    企业 AI 中最大的质量瓶颈不是工具——而是拥有实际领域知识的人被排斥在标注过程之外。以下是为什么这需要改变。

    Edward Xi Yang

    大多数组织构建 AI 系统的方式,存在一处根本性的错位:真正理解数据的那些人(临床医生、律师、工程师、核保员、分析师),并不是标注数据的人。夹在数据和模型之间的是 ML 工程师,他们要为自己并不完全了解的领域做出判断。

    这是结构层面的问题,而非工具层面的问题。它也是企业 AI 项目效果平庸的最大单一原因。

    每一条标注流水线里的知识断层

    不妨看一个具体的例子。某个法律 AI 团队正在构建一个合同分析模型,需要这个模型站在客户的立场上,把合同条款分类为"有利""中性"或"不利"。

    ML 工程师可以搭好标注环境、写出标注 schema、配置导出流程。但当他们遇到一条对重大过失设有例外的责任限制条款时,就无法可靠地判断这一条对客户到底是不是有利。这种判断需要多年的合同谈判经验。

    实际发生的是:ML 工程师凭表层的经验规则打标。可能凡是出现"限制"字样的条款,一律标为不利;也可能在 Slack 上问一句律师,拿到一个没有上下文的单词回答,然后就继续往下做。这个标签就这样进入了数据集,参与模型训练,模型于是学到了一个浅层的模式。

    把这件事乘以 5,000 条样本,你得到的模型会在最要紧的案例上自信地犯错:在那些边缘案例里,有没有领域经验,决定了分类结果是有用还是危险。

    为什么这种情况一再发生

    答案很直接:标注工具要求的技术能力,领域专家并不具备。

    大多数企业的标注流程是这样的:

    1. 数据存放在云存储桶或数据库里
    2. ML 工程师写一段 Python 脚本,把数据抽取出来并整理成需要的格式
    3. 数据被导入标注平台(Label Studio、Prodigy、Labelbox)
    4. 平台要么需要自托管(Docker、网络、鉴权),要么需要上传到云端
    5. 标注人员需要账号、需要熟悉工具界面的培训,遇到自定义标签类型往往还需要 API 权限
    6. 标注完成后,再用 Python 脚本导出,供模型训练使用

    其中第 1、2、3、6 步至少需要一个熟悉 Python、命令行工具和数据工程概念的人。在多数组织里,这样的人就是 ML 团队里的那 2 到 5 位。

    而真正决定标签质量的那批人,也就是领域专家,被这套基础设施挡在了门外。

    数字说明了问题

    Google 的 Data Cascades 论文发现,92% 的 AI 从业者在自己的项目中遇到过数据质量问题,其中大部分能追溯到打标和标注环节。MIT 2024 年的一项研究发现,主流基准数据集里约有 3% 到 5% 的标签是错的,而这些数据集还是专职研究团队做出来的。

    在企业场景里,标注是由代理完成的,也就是由 ML 工程师去标注领域数据,错误率因此要高得多。我们见过一些组织在领域专属的分类任务上,标签错误率达到 8% 到 15%。原因在于这些标注者缺少稳定做出正确判断所需的领域知识,与谁是否用心无关。

    代价还会叠加。用含有 10% 标签错误的数据训练出来的模型,损失的准确率远不止 10%:这些错误会制造互相矛盾的训练信号,把整体表现一起拉低。实际情况是,10% 的标签错误率可以让模型在最难的那批样本上准确率下降 20% 到 30%,而这批样本通常正是最要紧的。

    "领域专家标注"到底意味着什么

    把标注的所有权交给领域专家,要做的是拆掉他们与标注任务之间的每一道技术障碍,而不是教他们写 Python,也不是给他们上一堂 Docker 或 Jupyter notebook 速成课。

    放射科医生应该能打开一个应用、看到医学影像,然后用自己本来就在用的术语打标。律师应该能审阅合同条款,用日常执业中的同一套分类给它们打上标签。工料测量师应该能看着工程量清单里的一行明细直接分类,不必先搞懂什么叫 JSON schema。

    要做到这一点,要求非常具体:

    安装没有任何复杂度。 这个工具应该像任何一款普通桌面应用那样安装:下载、双击、运行。不用 Docker,不用敲终端命令,也不用配环境变量。

    数据不需要上传。 领域专属的数据往往很敏感:病历、法律文书、财务数据。工具必须能在用户自己的机器上直接处理本地文件,不把数据送去外部服务器。

    不需要写代码。 schema 定义、打标、质量复核和导出,全部都应该通过可视化界面完成。如果标注数据还要写哪怕一行代码,你就已经失去了 90% 的领域专家。

    界面贴合领域。 文档用文本标注,视觉数据用图像标注,表格数据用结构化字段标注。界面应该贴合专家理解数据的方式,而不是 ML 流水线消费数据的方式。

    代理标注税

    当领域专家无法直接标注时,组织就要交我们所说的"代理标注税"。它体现在三个方面:

    时间税。 每一个标注决策都要在 ML 工程师和领域专家之间往返一轮。工程师碰到一条模棱两可的样本,发消息问专家,等回复,理解回复,再打上标签。本该 5 秒完成的任务花掉了 15 分钟。

    准确率税。 沟通会把细微差别压扁。专家那句"要看司法辖区,也要看例外条款的具体措辞",最后被压成一个二元标签。上下文丢失,边缘案例被抹平。

    吞吐量税。 ML 团队成了瓶颈。如果你有 3 名 ML 工程师和 50 名领域专家,那就只用上了潜在标注能力的 6%。本该几周做完的项目要拖上几个月。

    把标注工具直接交到领域专家手里、从而消除代理标注税的组织,通常在第一个月内就能看到标注吞吐量提升 3 到 5 倍,标签准确率也有可测量的改善。

    当专家直接标注时会改变什么

    从代理标注转向专家直接标注,改变的不止是吞吐量数字。数据集的质量也会跟着变,这种变化难以量化,却很容易观察到。

    第一,边缘案例会被标对。那些让代理标注者栽跟头的样本,也就是需要深厚领域知识的那一批,恰恰是领域专家能够从容处理的。

    第二,标注 schema 会变好。领域专家直接接触 schema 时,能立刻看出哪些类别过宽、哪些过窄、哪些完全缺失。一位律师标合同条款,一小时之内就会告诉你"不利"这一类需要再分子类,而 ML 工程师可能永远都发现不了。

    第三,标注者之间的一致性会上升。领域专家对术语和分类标准有共同的理解。两位律师在条款分类上的一致程度,远高于两位 ML 工程师做同一件事。

    第四,迭代周期会缩短。模型输出错误时,领域专家可以自己翻训练数据,找出导致这个错误的标注决策,省掉向 ML 团队提工单、等排查、再指望工程师理解领域背景的那一整圈流程。

    让这件事落地

    要转向由领域专家掌握标注,工具就得主动迁就专家的现状:能处理本地数据的原生桌面应用、零代码的可视化界面,以及能接入现有 ML 流水线的导出格式。

    Ertas Data Suite 正是为这个场景构建的。它以原生桌面应用的形式运行:不用 Docker,不用云端,不用 Python 环境。领域专家像安装任何其他应用一样把它装上,指向本机上的数据,通过可视化界面定义标注 schema,然后直接开始标注。数据始终不离开他们的机器。标注好的数据集以标准格式导出,可以直接用于模型训练。

    结果就是:理解数据的人,就是标注数据的人。这本来就该是它从一开始的样子。

    就本文向 AI 提问

    Turn unstructured data into AI-ready datasets — without it leaving the building.

    On-premise data preparation with full audit trail. No data egress. No fragmented toolchains. EU AI Act Article 30 compliance built in.

    Keep reading