断连 AI 运维：在没有互联网连接的情况下运行企业 AI

"本地部署「和」真正无需互联网工作"之间存在差距。大多数标榜为本地部署的企业软件仍然假设有可靠的网络连接——用于许可验证、遥测、模型下载、更新检查或依赖解析。

断连运维频谱

断连 AI 的技术挑战

1. 模型更新和版本控制

每次更新需要有意的传输过程。

2. 监控和日志

所有日志记录到本地存储。连接恢复时批量同步。

3. 许可管理

许多"本地部署"部署在断连环境中失败。30-90 天后软件停止工作。

4. 知识库时效性

RAG 管道必须考虑时效性容忍度。

5. 依赖管理

每个依赖必须预先准备。

"拔掉网线"测试

部署任何工具到断连环境前：安装、完成初始设置、断开所有网络、等待 48 小时、尝试使用每个功能。

通过此测试的工具：Ollama、llama.cpp、GGUF 格式的开源模型、vLLM（使用本地模型）。

断连 AI 运维不比连接运维更难——它们是不同的。工作从运行时运维转向部署前准备。