2026年2月,Microsoft正式发布了Foundry Local。它在本地硬件上运行AI模型——笔记本、工作站、边缘设备——运行时无需云连接。对于一家每年从Azure云服务产生超过600亿美元收入的公司来说,这是一个值得注意的举动。
Foundry Local是什么
本地AI模型推理框架。通过OpenAI兼容的REST API在localhost提供模型服务。支持NVIDIA GPU(CUDA)、AMD GPU(DirectML)、Intel GPU、Qualcomm NPU、Apple Silicon(Metal)。
能做什么
- 本地模型推理:Phi-4-mini等模型,30-50 token/秒
- 断网运行:零网络调用
- 开发集成:OpenAI兼容API,LangChain/n8n直接可用
- 多模型服务
不能做什么
- 无微调:仅推理运行时
- 有限模型选择:主要是Microsoft优化的Phi系列
- ONNX依赖
- 无数据准备
市场信号
- Microsoft正在合法化本地AI
- 推理本地、训练云端的分离正成为标准
- 开放格式模型可移植性现在是买家期望
企业AI买家的现状
Foundry Local是企业AI工具包的有用补充,但不解决完整管道。数据准备(60-80%的项目时间)和微调仍需独立解决方案。
相关阅读
- Sovereign AI for Enterprise
- Air-Gapped AI Pipeline for Regulated Industries
- GGUF vs ONNX:Foundry Local 运行于 ONNX Runtime;该格式与 GGUF 在本地推理上的对比

