工具调用微调：如何用小模型构建可靠 AI 智能体
通用模型工具调用不可靠——幻觉函数名、错误参数、格式错误。在特定工具 Schema 上微调小模型可实现 90%+ 准确率且零查询成本。
2026 年 AI 智能体无处不在。几乎所有都以相同方式工作：发送用户消息给 GPT-4，问它调用哪个工具，解析响应，执行工具。这个模式昂贵、在边缘不可靠，且完全依赖云 API。
解决方案：在特定工具 Schema 上微调小模型。更可靠的工具选择、一致的结构化输出、零 查询成本。
微调如何修复
| 指标 | 通用 GPT-4 | 微调 8B |
|---|---|---|
| 工具选择准确率 | 85-90% | 92-97% |
| 参数格式合规 | 90-95% | 98-99% |
| 幻觉工具名 | 偶尔 | 接近零 |
| 不必要工具调用 | ~5-10% | 低于 1% |
构建训练数据集
对于 5-10 个工具的智能体，需要 200-500 个总示例：
- 每个工具 20-40 个清晰调用示例
- 模糊情况（可能映射到多个工具）
- 无工具情况（应直接回答的问题）——关键
- 多工具情况
- 边缘情况
部署
导出为 GGUF，通过 Ollama 提供服务。支持 LangChain、CrewAI、n8n、Make.com——一行 URL 修改。
参考文献：Weights & Biases、Hugging Face。
Ship AI that runs on your users' devices.
Early bird pricing starts at $14.50/mo — locked in for life. Plans for builders and agencies.
Keep reading
Building Reliable AI Agents with Fine-Tuned Local Models: Complete Guide
Most AI agents are just GPT-4 wrappers — expensive, unreliable at scale, and dependent on cloud APIs. Fine-tuned local models hit 98%+ accuracy on your specific tools at zero per-query cost. Here's the complete architecture.
Stop Paying GPT-4 to Call Your APIs: Fine-Tune a Local Tool-Calling Model
You're paying frontier-model prices for what amounts to pattern matching and JSON generation. A fine-tuned 8B model handles tool calling at 90%+ accuracy for zero per-query cost. Here's the math and the migration path.
Pydantic AI On-Device: Fine-Tune Qwen3-4B for Type-Safe Mobile Agents
Pydantic AI brings type safety and FastAPI ergonomics to LLM agents. Combine it with a fine-tuned 4B model running on-device via llama.cpp and you get production-grade agents in mobile apps with zero API costs and validated outputs by construction.