企业 AI 团队越来越认识到将敏感数据发送给第三方云 API 是一种风险。但对这种认识的回应分为两条截然不同的路径——端侧 AI 和本地部署 AI——大多数组织将它们混淆了。
它们解决不同的问题。它 们施加不同的约束。它们需要根本不同的数据准备方法。
两种模型,两种隐私保证
端侧 AI 直接在终端用户硬件上运行模型:配备 NPU 的智能手机、配备神经引擎的笔记本电脑、配备专用加速器的边缘设备。模型通常为 0.5B-8B 参数,量化以适应设备内存和计算预算。隐私保证:用户数据永远不离开硬件。
本地部署 AI 在企业自己的数据中心或私有云中运行模型。模型可以是任何大小——7B 到 70B 以上。隐私保证:训练数据和推理日志永远不离开组织的边界。
为什么这个区别对数据准备很重要
正如一位从事端侧 AI 的首席机器学习工程师最近所说:"当今大多数微调数据集都针对大型模型优化。但当我们蒸馏到约 0.5B-1B 模型用于移动 NPU 时,数据分布非常重要。"
端侧 AI 的数据准备
当目标是在 Snapdragon NPU 或 Apple Neural Engine 上运行的 0.5B-1B 模型时,数据管道必须考虑严格的容量限制。
数据集大小和分布。 数据集应该窄而深——紧密聚焦于设备模型将执行的特定任务。
合成数据校准。 教师模型生成的文本复杂度超过学生模型可以再现的水平。合成示例必须筛选长度、词汇复杂度和推理深度。
上下文窗口匹配。 如果生产部署在移动端有 512 Token 上下文窗 口,但训练数据包含 4,000 Token 示例,模型学习了它永远不会使用的模式。
量化感知。 训练数据应过度代表量化最可能破坏的边界案例。
本地部署 AI 的数据准备
当目标是在自己数据中心运行的 7B-70B 模型时,约束完全不同。模型容量不是瓶颈。合规才是。
审计追踪。 每个训练示例需要记录的来源。EU AI Act 第 11 条和附件 IV 要求高风险 AI 系统提供训练数据的技术文档。
PII 和 PHI 脱敏。 在任何企业文件进入训练管道之前,必须检测和处理个人可识别信息。
数据血统。 对于受监管行业,你需要将任何模型预测追溯到原始源文件。
离线运行。 最严格的本地环境是离线的。数据准备工具必须完全离线运行。
决策框架
| 因素 | 端侧 AI | 本地部署 AI |
|---|---|---|
| 解决的隐私问题 | 推理隐私(用户数据留在设备上) | 训练数据隐私(企业数据留在建筑内) |
| 模型大小 | 0.5B-8B 参数 | 7B-70B+ 参数 |
| 主要约束 | 模型容量、设备算力 | 合规、审计要求 |
| 数据准备重点 | 分布优化、合成数据校准 | 审计追踪、PII 脱敏、数据血统 |
许多企业两者都需要。医院可能需要端侧模型用于床旁临床助手(推理隐私)以及本地微调大型模型用于患者记录( 训练数据隐私)。
Ertas 如何适配
Ertas Data Suite 是一个原生桌面应用,从单一平台处理两种部署目标的数据准备。
一个平台。两个部署目标。任何阶段数据都不离开建筑。
预约探索电话 讨论哪种部署模型适合你的用例。

