native-desktopdockerkubernetesdeploymenton-premisedata-pipelineair-gapped
原生 vs Docker vs Kubernetes:本地 ML 部署对比
原生桌面、Docker 与 Kubernetes 在本地 ML 数据准备中的对比:安装耗时、运维开销、安全攻击面与离线环境适配。
Edward Xi Yang
当服务提供商赢得企业数据准备项目时,第一个技术决策不是使用哪个模型或如何构建标注 schema。而是工具如何部署在客户的基础设施上。
这个决策有连锁效应:影响时间线(天 vs 周的设置时间)、谁能操作工具(仅 ML 工程师 vs 也包括领域专家)、安全态势(攻击面)、以及客户的 IT 团队是否会批准部署。
三种部署模型主导了本地数据准备领域。每种做出不同的权衡。
原生桌面应用
原生桌面应用像任何其他程序一样安装在目标机器上。在 macOS 上是 .dmg 或 .app。在 Windows 上是 .msi 或 .exe 安装程序。在 Linux 上是 .deb、.rpm 或 AppImage。
安装复杂度
最低。下载安装程序,运行,启动应用。整个过程需要 2-10 分钟。除了操作系统本身(如果需要 GPU 推理则还需 GPU 驱动)外,不需要前置软件。
运维开销
接近零。应用管理自己的数据目录、配置和进程生命周期。更新是应用级别的:下载新版本并覆盖安装。没有守护进程需要监控,没有容器仓库需要维护,没有集群需要保持健康。
安全攻击面
小。应用作为单个用户空间进程运行。它不监听网络端口(除非本地 LLM 推理使用 localhost)。没有 Web 服务器,没有认证层,没有暴露给网络的 API。
离线环境兼容性
原生支持。安装后,应用不需要网络连接。本地 LLM 推理的模型权重可通过 USB 或批准的介质传输。