法律 AI 的人机协同：为什么律师审查不只是合规复选框

2023 年 5 月，两名律师向纽约的一家联邦法院提交了一份诉讼书状，其中引用了六个判例。这六个判例一个都不存在。它们由 ChatGPT 生成，看上去完全像真的：案件名称、判例汇编卷号、页码一应俱全，而在 Westlaw 和 Lexis 里都找不到对应的东西。两名律师告诉法院，他们没有独立核实过这些引用，默认 AI 的输出是可靠的。法院对两人都作出了制裁。

这件事当时被广泛当作一次技术事故来报道。真正失效的是 HITL 流程。在没有检索增强生成（RAG）支撑的情况下让生成式 AI 去引用判例法，它就会编造，这是这类模型的固有行为。律师负有独立核实引用的职业义务，而这一步没有做。法律所要求的人机协同流程，也是职业责任保险和律师伦理规则一直以来就要求的那套流程，在这个案子里是缺席的。

技术换了一代，职业义务还是原来那一条。

律师协会指南到底说了什么

到 2026 年，美国各主要律师协会都已就律师使用 AI 发布了正式指引。措辞各有不同，实质内容高度一致。

ABA 示范规则 1.1 要求律师保持执业能力。美国律师协会伦理与职业责任常设委员会明确把这项要求延伸到了 AI：律师需要理解自己在代理工作中所使用的 AI 工具，包括它的局限和失效方式。

ABA 示范规则 5.1 规定监督律师对下属的工作负责。ABA 于 2024 年 7 月发布的第 512 号正式意见澄清，AI 工具的定位是工具，不是下属，但它产出的内容仍然属于律师本人的工作成果。跑一遍 AI，再像合伙人扫一眼助理备忘录那样翻看输出，并不足以履行监督义务。律师必须处在能够验证其中法律推理的位置上，而不只是核对格式。

ABA 示范规则 5.3 针对非律师人员提供的协助。AI 在法条意义上并不属于非律师人员，但委员会在解释该规则的监督要求时，把它适用到了 AI 生成的工作成果上。对于案件中使用的 AI 输出，律师无法免除自身责任。

ABA 示范规则 1.6（保密义务）对云端 AI 还有一层额外含义：未经当事人知情同意，不得向第三方披露当事人数据，而把保密文档上传到第三方 AI 服务，可能本身就构成披露。

落到实务上就是一句话：律师用了 AI 却没有独立核实输出，就没有履行职业责任。在纪律程序里，“AI 是这么告诉我的”不构成抗辩。

HITL 失效引发责任的三个案例

1. 提交到法院的虚构引用

2023 年的纽约案是第一起被广泛报道的，后面还有很多起。此后，加州、得州以及多个联邦司法区的律师，都因提交含有伪造引用、不存在的成文法条文或错误引述判决要旨的 AI 生成文书而受到制裁。

每一起案件里，AI 的输出都能通过粗略审查：引用看起来是真的，格式是对的，语气是笃定的。有意义的 HITL，也就是把每一条被引用的权威依据都在 Westlaw 上独立核对一遍，本可以把这些错误逐一挑出来。这些律师都没有做这一步。

2. AI 起草的合同漏了条款

一家中型私募股权机构用 AI 合同起草工具，批量生成被投企业的运营协议。标准条款 AI 都稳定地写了进去。有一条并非标准、但基金的有限合伙协议（LPA）明确要求的拖售权（drag-along）条款，它在 14 份文件里一次都没有写。

签署环节没有发现这个遗漏。两年后，一家被投企业被收购、需要动用该条款时，问题才浮出水面。缺的这一条让基金在退出时失去了强制少数股东同意的能力。职业责任保险赔付了，客户丢了。

一位有交易经验的律师，如果把审查目标放在协议是否完整上，除了核对已写条款是否正确，还逐项核对该有的条款是否都在，就会发现这个缺口。当时实际发生的审查只验证了 AI 写出来的那些内容。

3. AI 生成的特权日志把文档分错了类

一起商事诉讼中的大规模文档审查，用 AI 对 40 万份文档做特权归类。这套 AI 是在通用语料上训练的，对本案中具体的特权关系一无所知：公司的某些高管为一项平行调查另行聘请了外部律师，与这些律师之间的通信受特权保护。

AI 把这些通信归入了不受特权保护的一类。847 份文档因此被提交给了对方律师。随之而来的特权放弃之争，打掉了六个月的动议攻防。提交方最终以无意披露为由占了上风，而这个错误的代价，远远超过一次结构完整的特权日志 HITL 审查的成本。

有意义的律师审查是什么样的

审查 AI 输出和独立验证 AI 输出，是两件不同的事。

审查是指读一遍 AI 产出的内容，判断它看上去对不对。上面那些被制裁的律师做的就是这件事，而那些引用看上去确实是对的。

独立验证是指把每一项事实主张或法律主张拿去对照权威来源核实。对法律引用，意味着把每一个判例在 Westlaw 或 Lexis 上跑一遍。对合同条款，意味着对照这类交易应有条款的清单逐条比对。对法律论证，意味着自己判断被引用的权威依据是否真的支持所引申的命题。

法律实务中的 HITL 标准是独立验证。这个区别是实打实的：审查 AI 输出的人和独立验证 AI 输出的人，发现的错误类型不同，发现错误的比例也相差很远。

风险最高的业务领域

刑事辩护：公设辩护人用 AI 起草动议，工作场景本身就直接关系到一个人的人身自由。如今的无效辩护主张里，已经常规性地包含这样一个问题：AI 生成的法律论证有没有经过独立验证。

并购尽职调查：能概括合同附表、标记重大不利变化条款、找出缺失的陈述与保证的 AI 工具确实好用，而一旦律师依赖摘要而不看文件本身，它就变得危险。收购协议里有些条款，“重大”和“重大不利”一词之差，就可能演变成 5000 万美元的赔偿责任争议。

移民申请：I-485、庇护申请和签证申请中包含大量事实性问题，AI 生成的答案哪怕只是轻微不准确，也可能导致申请被拒、进入遣返程序，或者今后被禁止再申请移民福利。这类损害往往不可逆，并且直接影响当事人能否继续留在该国。

特权问题

律师-当事人特权保护的，是当事人与其律师之间为获取法律意见而进行的保密沟通。它同时保护律师的工作成果，也就是律师在预期诉讼的情况下自行准备或委托准备的文件。

当 AI 作出独立的法律判断，比如分析文件、归纳法律标准、给出行动建议，而律师未经自己的分析就直接采纳这些输出时，特权问题就出现了：这份工作成果反映的究竟是谁的思维印象？如果律师无法解释文件中的推理过程，因为内容由 AI 生成，他只接手了结论而没有跟着推理走一遍，那么工作成果原则的核心保护对象（律师的思维印象和法律理论）就可能无从适用。

法院尚未彻底解决这个问题。已有法院拒绝把工作成果保护延伸到律师未经独立分析、整体照单全收的 AI 生成分析上。稳妥的立场很清楚：任何需要特权保护的文件，其中体现的必须是律师本人的判断，而不是 AI 的判断。

文档审查：HITL 应该怎么做

大规模的 AI 辅助文档审查，是法律领域中最成熟、也最经得起质疑的 HITL 应用之一，前提是做法正确。

一套经得起质疑的 AI 辅助审查流程包含：

1. 由律师设计分类框架：类别及其定义，由熟悉本案的律师设定，而不是从 AI 的通用训练中推导出来。
2. 训练集验证：律师审阅并确认用于在本案文档上训练分类器的种子集。
3. 统计抽样：在提交之前，律师从每个类别中抽取随机样本进行审阅，包括被模型判定为不相关的那一类，以验证模型表现。
4. 持续校准：审查推进过程中，律师按固定间隔抽检 AI 的分类结果。错误率超过阈值时，模型重新训练。
5. 律师对方法论签字确认：律师确认的是审查方法论本身，而不只是最终产出。法院和对方律师在质疑文档提交时，审的正是这一层。

这几步都不要求律师逐份审阅文档。它们要求的是律师对整个流程负责。

Ertas 的角度

法律文件属于任何组织中最敏感的一类数据。为了做标注、摘要或训练数据准备，把它们上传到云端 AI 服务，在规则 1.6 之下往往在伦理上不被允许，从特权角度看在实务上很危险，有时还会直接违反委托协议中的约定。

Ertas Data Suite 在本地部署运行。法律文档的标注、分类和训练数据准备，全部在你自己的安全边界内完成。领域专家，在律所语境下也就是熟悉该案件的律师，直接在工具里完成标注与验证。每一次操作都带着时间戳和审阅人身份被记录下来。没有任何数据离开这栋楼。

对于正在为文档审查、合同分析或法规研究构建 AI 工具的律所和法务部门来说，数据准备环节需要满足与部署后的系统同等的保密要求。Ertas 就是为这个要求做的。

关于企业 AI 中人机协同的基础框架，见什么是人机协同 AI？。至于律所为什么对第三方 AI 服务格外谨慎，可以参考我们关于法律 AI 保密要求的相关内容。

预约与 Ertas 的发现通话 →

对 AI 输出的律师审查，是职业与伦理的底线。律师协会、法院和职业责任险承保人都已经把立场说清楚了。留给你所在律所或法务部门的问题是：你们的 AI 工作流，究竟是为支撑真实的律师监督而设计的，还是为了营造出有监督的样子。