Back to blog
    compliancelegalon-premisedeploymentchecklist

    在律所部署微调模型:合规检查清单

    在律所本地部署微调 AI 模型的可操作合规检查清单——涵盖数据处理、访问控制、审计日志、模型版本控制和律师协会要求。

    Edward Xi Yang

    在律所部署 AI 是一项合规工作,而不只是技术项目。律师与客户之间的保密特权、职业行为规范和数据保护法规,都提出了通用部署指南不会涉及的具体要求。

    这份清单覆盖律所本地部署微调 AI 模型时的每一项合规考量。它既可以当作项目管理工具,也可以作为律所合规审查的文档证据。

    部署前:数据处理

    训练数据治理

    • 记录数据来源。 记下所有训练数据的出处:哪些案件、哪些文档类型、哪个时间范围。
    • 对训练数据做利益冲突检查。 如果律所同时服务存在竞争关系的客户,务必确保来自客户 A 的训练数据绝不会被用在服务客户 B 的模型上。这与律所现有的隔离墙流程是一致的。
    • 取得客户同意。 如果训练数据来自客户案件,确认律所的委托协议或数据使用政策允许将其用于 AI 训练。有些律所把这一条写进标准委托条款,另一些则需要单独取得同意。
    • 特权审查。 包含受特权保护通信的训练数据应当被标记出来。在律所自有基础设施内部署的模型上用特权数据做微调并不构成特权放弃,但律所的伦理委员会应当知情。
    • 落实数据最小化。 只纳入该 AI 任务确实需要的数据。当条款级数据已经够用时,不要拿整份案卷去训练。
    • 定义留存政策。 微调完成后训练数据保留多久?由谁批准删除?把这些写下来。

    数据准备

    • 记录 PII 的处理方式。 如果训练数据含个人信息(客户姓名、合同里的地址),记录处理规程。在本地部署下,训练数据中的 PII 风险较低,因为它不出律所,但仍应明确记录在案。
    • 完成数据质量审查。 由律师抽查一批训练样本,确认其准确性与适当性。
    • 数据存放在律所自有基础设施上。 训练数据未被上传到任何云服务、外部平台或个人设备。

    访问控制

    模型访问

    • 实施基于角色的访问控制。 并非每位员工都该与 AI 系统交互。明确规定谁可以:
      • 向模型提交查询(通常是律师和律师助理)
      • 查看模型输出(同上,另加按案件设定的限制)
      • 修改工作流或配置(仅限 IT 管理员)
      • 重新训练或更新模型(指定的 AI 管理员)
    • 接入统一认证。 AI 系统通过律所的身份提供方(Active Directory、Okta 等)认证,不设独立账号密码。
    • 按案件设定访问控制。 如果 AI 服务于多个业务组或多个案件,确保查询结果只对该案件的授权人员可见。
    • 按客户隔离模型。 如果使用按客户划分的 LoRA 适配器,务必把适配器的选择绑定到案件编号,让处理客户 A 案件的用户无法意外查询到客户 B 的模型。

    基础设施访问

    • 限制物理访问。 GPU 服务器放在上锁的机房或有访问记录的安全数据中心内。
    • 保护 SSH 与远程访问。 对推理服务器的管理访问使用 SSH 密钥认证,不用密码。
    • 网络分段。 AI 服务器处于独立网段,无法访问互联网(或仅限必要更新的受限访问)。
    • 记录防火墙规则。 只有授权服务(n8n、客户门户)可以与推理服务器通信。

    审计日志

    推理日志

    • 记录每一次查询。 记下:时间戳、用户身份、案件/客户编号、输入文本(或其哈希)、模型版本、所用适配器。
    • 记录每一次响应。 记下:时间戳、输出文本(或其哈希)、处理耗时、置信度指标。
    • 日志存放在律所自有基础设施上。 不发送到任何外部监控服务。
    • 定义日志留存期。 与律所的文档留存政策对齐,案件相关记录通常为 7 年以上。
    • 保护日志完整性。 采用只追加写入或一次写入存储,防止被篡改。
    • 限制日志访问。 只有授权人员(IT、合规)可以查阅推理日志。

    模型变更日志

    • 维护模型版本历史。 记录每一天生效的是哪个模型版本(基础模型加适配器)。
    • 保留训练运行记录。 每次微调都要记:训练数据版本、配置、日期、操作者、产出模型的校验和。
    • 记录部署变更。 模型被更新、回滚或替换时,变更连同理由一并记录。

    模型版本管理

    • 定义版本号规则。 例如 firm-contract-review-v1.2.3(主版本.次版本.修订号)。
    • 归档历史版本。 至少保留最近 3 个模型版本,以便回滚。
    • 记录当前部署版本。 在任何时点,你都能回答「这一天的这条输出是哪个模型版本产出的?」
    • 测试回滚流程。 如果新版本效果不佳,你能在几分钟内退回上一版本。
    • 记录模型校验和。 为每个模型文件保存 SHA-256 哈希,用于完整性验证。

    客户数据隔离

    • 按客户隔离适配器。 每位客户的 LoRA 适配器存放在独立目录,并设置相应的文件系统权限。
    • 阻断跨客户推理。 用技术手段确保来自案件 A 的请求无法加载客户 B 的适配器。
    • 制定客户数据删除流程。 当某项委托结束时,删除其训练数据、适配器和推理日志的流程已有文档并经过测试。
    • 做数据隔离审计。 定期核实没有发生跨客户的数据污染(查阅适配器训练日志、检查文件系统权限)。

    律师协会的要求

    ABA 示范规则

    • 应对规则 1.1(胜任)。 使用该 AI 系统的律师了解它的能力与局限,并已接受培训。
    • 应对规则 1.4(沟通)。 如果在某位客户的案件中使用了 AI,律所关于向客户披露 AI 使用情况的政策已有文档并被遵守。
    • 应对规则 1.6(保密)。 本地部署的架构确保客户信息不会因 AI 处理而披露给任何第三方。
    • 应对规则 5.1/5.3(监督)。 合伙人和主管有责任确保 AI 输出在被采信或交付给客户之前,先由具备资格的律师审阅。

    各州的具体要求

    • 查阅适用的州律师协会意见。 已有若干州律师协会就法律实务中的 AI 使用发布意见。请查阅律所执业所涉全部辖区的意见。
    • 识别披露义务。 部分辖区要求在准备诉讼文书时若使用了 AI,须向法院披露。识别并遵守这些要求。
    • 跟踪持续性义务。 律师协会关于 AI 的指引变化很快。指定专人负责监测并落实新指引。

    事件响应

    • 定义 AI 特有的事件类型:
      • 模型给出错误的法律分析并被采信
      • 对 AI 系统的未授权访问
      • 模型输出中包含了另一位客户案件的信息
      • 硬件故障导致 AI 系统不可用
      • 模型产出带有偏见或歧视性的内容
    • 为每类事件编写响应流程,包括:
      • 立即的隔离控制步骤
      • 调查流程
      • 通报要求(通知哪些合伙人、哪些客户、哪些监管机构)
      • 补救措施
      • 事后复盘
    • 指定事件响应小组。 通常包括:管理合伙人、IT 负责人、合规官、AI 管理员。
    • 开展事件响应演练。 每年至少一次,用模拟事件检验响应流程。

    供合规审查的文档

    准备一份合规材料包,供律所伦理委员会、管理合伙人或外部审计师审阅:

    技术文档

    • 架构图。 展示所有组件、数据流向和网络边界。
    • 数据流图。 客户数据从哪里进入系统、如何被处理、输出送往哪里。
    • 安全控制概要。 认证、加密、访问控制、网络分段。
    • 第三方组件清单。 所有软件组件及其版本与许可证(开源模型的许可证各不相同,请核实是否符合 Llama 或 Mistral 的许可条款)。

    政策文档

    • AI 使用政策。 律所关于何时、以何种方式在法律工作中使用 AI 的政策。
    • 可接受使用指引。 员工可以、以及不可以提交给 AI 系统的内容。
    • 培训材料。 提供给员工的、关于负责任使用该 AI 系统的材料。
    • 供应商协议。 如果使用 Ertas 或其他工具做微调,记录双方关系与数据处理实践。

    持续合规

    • 安排季度审查。 每季度审查模型表现、审计日志、访问模式和事件报告。
    • 年度合规评估。 对照当前的律师协会指引与监管要求,对整套 AI 部署做全面复核。
    • 定义触发条件。 明确哪些事件会触发计划外的合规复核(新的律协意见、监管变化、安全事件、模型重大更新)。

    延伸阅读

    就本文向 AI 提问

    Ship AI that runs on your users' devices.

    Free plan with 30 credits/mo, no card required. Paid plans from $10/mo USD.

    Keep reading