你从一个使用 OpenAI 的 n8n 工作流开始。一个简单的:也许它分类传入的邮件或从表单提交中提取数据。API 调用每次执行只花费几分之一美分。几乎不被注意到。于是你又构建了五个工作流。然后十个。然后你给需要更好推理的工作流添加了 GPT-4。然后你的同事看到了你构建的东西,又要求了三个。
现在你盯着一张每月 $500 的 OpenAI 账单。而且还在攀升。
事实是:大多数工作流不需要 GPT-4。它们甚至不需要 GPT-3.5。它们需要一个在某个特定任务上非常出色的模型(分类、提取、重格式化、摘要),而这正是微调 7B 模型所做的。从 OpenAI API 调用迁移到本地微调模型并不像听起来那么可怕,成本节省是显著的:从每月数百美元到每 Token 成本字面上的零。
本指南逐步引导你完成整个迁移。我们将审计你的工作流,确定迁移优先级,为每种工作流类型微调模型,使用 Ollama 部署它们,并在 n8n 中替换端点而不破坏任何东西。
迁移审计
在迁移任何东西之前,你需要知道你在处理什么。审计的目标是盘点每个使用 AI 节点的 n8n 工作流,按复杂度和流量分类,并识别快速收益。
第 1 步:列出每个带有 AI 节点的工作流。 在 n8n 中,转到工作流列表并搜索包含 OpenAI 节点(或任何 AI/LLM 节点)的工作流。对于每个工作流,记录:
- 工作流名称和用途
- 使用的模型(GPT-4、GPT-4o、GPT-3.5-turbo)
- 每天大约执行次数
- 每次执行的平均输入 Token 数
- 每次执行的平均输出 Token 数
- 是否使用结构化输出(JSON 模式、函数调用)
第 2 步:按任务类型分类。 大多数 AI 驱动的 n8n 工作流属于以下类别:
| 任务类型 | 示例 | 复杂度 | 迁移难度 |
|---|---|---|---|
| 分类 | 邮件路由、工单分类、情感分析 | 低 | 简单 |
| 提取 | 从文本中提取姓名/日期/金额、解析发票 | 低-中 | 简单 |
| 重格式化 | 将散文转为要点、标准化格式 | 低 | 简单 |
| 摘要 | 摘要邮件、会议笔记、文档 | 中 | 中等 |
| 生成 | 撰写邮件回复、创建描述、起草内容 | 中-高 | 中等 |
| 推理 | 多步分析、决策、复杂问答 | 高 | 困难 |
| 代码生成 | 编写 SQL 查询、生成脚本 | 高 | 困难 |
第 3 步:计算每个工作流的成本。 将每个工作流的每日执行次数乘以 Token 使用量和模型的每 Token 费率。
首先迁移哪些工作流
并非所有工作流都是同等候选者。理想的首要目标是:
高流量、低复杂度。 每天分类 2,000 封邮件为 5 个类别的工作流是完美的。它有清晰的输入-输出模式、高流量(因此高节省)和低复杂度(微调 3B 模型就能轻松处理)。
结构化输出。 期望 JSON 输出的工作流(如从发票提取字段或解析表单数据)是很好的候选者。
重复模式。 如果一个工作流基本上以相同的转换执行数千次,只有输入数据变化,微调效果非常好。
优先级框架:
| 优先级 | 标准 | 预期节省 |
|---|---|---|
| P0:立即迁移 | 分类、提取、重格式化;每天 100 次以上执行 | 90-100% 成本降低 |
| P1:下一步迁移 | 摘要、简单生成;每天 50 次以上执行 | 85-95% 成本降低 |
| P2:仔细评估 | 复杂生成、多步推理;任何流量 | 70-90% 成本降低 |
| P3:保持在 API | 安全关键、需要世界知识、高度可变的任务 | 0%(保持在 API) |
迁移框架
迁移分四个阶段。不要跳过阶段。不要急于求成。
阶段 1:导出执行数据
对于你要迁移的每个工作流,你需要来自真实执行的实际输入-输出对。这是你的训练数据。
从 n8n 执行日志: n8n 存储每个工作流运行的执行数据。对于 AI 节点的每次执行,提取:
- 发送给 OpenAI 的提示/输入
- 收到的响应/输出
- 工作流是否成功完成(过滤掉失败的)
每种工作流类型需要多少数据?
| 工作流复杂度 | 最少示例 | 推荐 | 收益递减点 |
|---|---|---|---|
| 分类(5-10 类) | 200 | 500 | 2,000 |
| 数据提取 | 300 | 800 | 3,000 |
| 重格式化 | 200 | 500 | 1,500 |
| 摘要 | 500 | 1,500 | 5,000 |
| 内容生成 | 800 | 2,000 | 5,000+ |
对于大多数 n8n 工作流,两到四周的执行日志提供的训练数据绑定有余。

