负责任 AI & AI Compliance

    负责任 AI 原则如何适用于构建、测试和运行定制 AI 模型

    Overview

    负责任 AI 是指以合乎伦理、透明、公平且可问责的方式设计、开发、部署和运营 AI 系统的实践。负责任 AI 是一个汲取多方来源的框架,而不是某一部单一法规:其来源包括经济合作与发展组织(OECD)的人工智能原则(2024年更新)、联合国教科文组织的《人工智能伦理问题建议书》、欧盟《人工智能法案》的要求、IEEE 7000 等标准,以及科技公司的组织承诺。这些来源共同构成了一套期望,监管机构、客户、投资者和公众正越来越多地以此要求开发 AI 的组织。

    负责任 AI 的核心原则通常包括公平与非歧视、透明与可解释、隐私与数据保护、安全保障、问责与人工监督,以及可持续性。每项原则都对 AI 系统的构建方式有实际影响。公平要求在不同人口群体之间进行偏差测试。透明要求记录模型的行为和局限。隐私要求数据最小化和同意管理。安全要求充分的测试和故障安全机制。问责需要明确的归属和治理结构。

    负责任 AI 的商业价值超出了监管合规本身。践行负责任 AI 往往意味着更少代价高昂的模型故障、更牢固的客户信任以及更低的诉讼风险。它所要求的测试和文档工作,也往往能在用户发现之前暴露问题,从而把创新引向能够创造持久价值、同时限制危害的成果。

    AI-Specific Requirements

    AI 的公平性要求系统地评估模型在不同人口群体和用例场景中的表现。组织必须识别相关的受保护特征(种族、性别、年龄、残障状况等),衡量模型在这些群体之间的性能差异,在差异超过可接受阈值时采用偏差缓解技术,并在生产环境中监测公平性是否下降。这需要具有代表性的训练数据、按群体分解的评估指标以及持续监测。公平性评估必须结合具体情境:何为公平对待,取决于用例、司法管辖区和利益相关方的期望。

    透明与可解释要求组织记录 AI 系统如何做出决策,并将其传达给受影响的个人和监督机构。这包括模型卡或数据表,用以说明系统的预期用途、训练数据特征、性能指标、已知局限和伦理考量。对于单项决策,组织应能以适当的详细程度给出解释:哪些因素影响了决策、使用了哪些数据,以及如何对决策提出异议。所需的可解释程度随决策对受影响个人的影响大小而相应提高。

    人工监督与问责要求 AI 系统在有意义的人工监督下运行,尤其是在决策影响个人权利、机会或福祉的时候。组织必须明确 AI 系统监督的角色和职责,提供人工审查和推翻自动化决策的机制,建立已发现问题的上报程序,并维持问责结构,以便在出现问题时确定责任方。监督力度随风险而定:治理结构应提供与系统风险和影响相称的监督,低影响的决策可能无需逐一审查。

    How Ertas Helps

    负责任 AI 的若干原则都取决于掌控力:了解模型用什么训练,在您自己的情境中测试它,并且能够修改它。在 Ertas Studio 中训练的定制模型为您提供这种掌控力。您可以选择训练样本,在 Studio 的数据集构建工具 Data Craft 中编辑每条样本并跟踪其审批状态,并在选定模型之前比较各次训练。训练好的模型归您所有,其版本在您重新训练之前保持不变,因此您测试过的模型,就是人们实际使用的模型。

    在隐私方面,有两条数据流值得关注。Studio 在 Ertas 的云端 GPU 上训练,因此训练数据会上传到 Ertas 并被存储,以便重复运行;请使用去标识化或经过最小化的数据进行训练,并删除不再需要的数据集。在推理环节,将模型导出为 GGUF 或 safetensors 并在您自己的环境中运行,人们输入的内容就不会到达 Ertas。自适应模型端点和企业定制模型构建可以在您自己的云环境或本地部署中运行模型。

    公平性测试、模型卡、人工监督与上报,以及贵组织的负责任 AI 政策,都仍由您负责。Ertas 不提供偏差检测或公平性工具。

    Compliance Checklist

    训练好的模型归您所有,由您决定在哪里运行Supported
    模型版本在您重新训练之前保持不变,测试的模型与部署的模型一致Supported
    在自托管模型上推理,不会向 Ertas 发送任何用户数据Supported
    删除已上传的训练数据集Supported
    训练数据透明:Data Craft 展示您构建的每条样本并进行版本管理,Studio 存储每次训练所用的数据集;记录数据来源由您完成Partial
    针对您的用例开展偏差和公平性测试Customer Responsibility
    模型卡以及已知局限的文档Customer Responsibility
    人工监督、上报机制以及负责任 AI 政策Customer Responsibility

    Relevant Ertas Features

    • Data Craft 数据集构建工具,用于编辑和审批每条训练样本
    • 并行训练,并排比较各次训练结果
    • 模型导出(GGUF、safetensors)
    • 自托管推理,运行时不依赖 Ertas
    • 数据集删除

    Related Resources

    Ship AI that runs on your users' devices.

    Start free with 150 credits after card verification. Paid plans from $20/mo USD.