2026 年 AI 智能体无处不在。几乎所有都以相同方式工作:发送用户消息给 GPT-4,问它调用哪个工具,解析响应,执行工具。这个模式昂贵、在边缘不可靠,且完全依赖云 API。
解决方案:在特定工具 Schema 上微调小模型。更可靠的工具选择、一致的结构化输出、零查询成本。
微调如何修复
| 指标 | 通用 GPT-4 | 微调 8B |
|---|---|---|
| 工具选择准确率 | 85-90% | 92-97% |
| 参数格式合规 | 90-95% | 98-99% |
| 幻觉工具名 | 偶尔 | 接近零 |
| 不必要工具调用 | ~5-10% | 低于 1% |
构建训练数据集
对于 5-10 个工具的智能体,需要 200-500 个总示例:
- 每个工具 20-40 个清晰调用示例
- 模糊情况(可能映射到多个工具)
- 无工具情况(应直接回答的问题),这一项关键
- 多工具情况
- 边缘情况
部署
导出为 GGUF,通过 Ollama 提供服务。支持 LangChain、CrewAI、n8n、Make.com,只需修改一行 URL。
参考文献:Weights & Biases、Hugging Face。

