你在一个周末发布了应用。Cursor写了一半的代码。Bolt.new处理了后端。你接入了OpenAI API来实现"智能"功能,部署到Vercel,然后发到了Twitter上。人们喜欢它。
现在三个月后,你有了10,000个月活跃用户,你的Stripe收入被一个单独的项目吞噬:AI API成本。
听起来熟悉?你不是一个人。
Vibe编码繁荣(以及它忘记说的事)
我们正处于快速发布的黄金时代。Cursor、Bolt.new、Lovable和Replit等工具使构建AI驱动的应用变得极其简单。你可以在一次坐下来的时间里从想法到部署的产品。不需要计算机科学学位。不需要基础设施团队。只需氛围和一张信用卡。
这真的很了不起。构建软件的门槛从未如此之低。
但有一个在"我48小时内发布了这个"阶段没人谈论的陷阱:发布时花几分钱的AI功能在规模化时花几千美元。 在100个用户时感觉不到的按Token定价模型在10,000时变成财务悬崖。
扩展悬崖:真实成本分析
让我们具体一点。假设你构建了一个AI写作助手,想想语法建议、语气改写、智能摘要。相当标准的Vibe编码SaaS。
以下是你在不同用户数下的成本,假设使用OpenAI的低价通用模型GPT-4o-mini($0.15/1M输入token,$0.60/1M输出token,即截至 2026 年 10 月 OpenAI 的标价)和中等使用量(每个用户每天触发约15次AI请求,平均800个输入token和400个输出token每请求):
| 月活跃用户 | 每日AI请求 | 月输入token | 月输出token | 估计月成本 |
|---|---|---|---|---|
| 100 | 1,500 | 36M | 18M | 约$16.20 |
| 1,000 | 15,000 | 360M | 180M | 约$162 |
| 5,000 | 75,000 | 1.8B | 900M | 约$810 |
| 8,000 | 120,000 | 2.88B | 1.44B | 约$1,296 |
| 10,000 | 150,000 | 3.6B | 1.8B | 约$1,620 |
等等,$1,620/月听起来没那么糟糕,对吧?那是乐观的场景。实际上,大多数应用远不止此,因为:
- 重度用户存在。 你前10%的用户产生超过50%的token。有些用户每天触发50-80次请求。
- 重试和链式调用。 Agent风格的功能、多步提示和错误重试可以使token数量增加3-5倍。
- 上下文窗口增长。 随着用户积累历史记录,你的提示变长。800个token的平均值逐渐达到2,000-4,000。
一个有重度用户和提示链的8K MAU应用的更实际的图景:
| 成本因素 | 实际估计 |
|---|---|
| 基础API成本(中等使用量) | $1,296/月 |
| 重度用户乘数(2.5倍) | $3,240/月 |
| 提示链开销(1.4倍) | $4,536/月 |
| 月AI总支出 | 约$4,500/月 |
如果你每月向每个用户收费$9.99,那$4,500/月会吃掉你的利润。而且随着增长只会变得更糟。
为什么你在多付钱:通用模型税
大多数开发者忽略的一点:你在为一个知道一切的模型付费,而你的应用只需要它知道一件事。
GPT-4可以用斯瓦希里语写诗、解释量子色动力学、扮演海盗。很酷。但你的写作助手只需要处理英语营销文案的语气调整、语法修复和摘要。
你本质上在租一辆F1赛车去超市购物。每次API调用都在为你从未使用的所有通用知识付费。
在你的特定用例上微调的模型(在实际用户交互、你的领域词汇、你的应用预期输入和输出上训练)可以以更小的规模和更低的成本在你的狭窄任务上提供相同的质量。
解决方案:在你应用的数据上微调小模型
从$4,500/月到低于$50/月的路径如下:
- 导出你的API日志。 你已经向OpenAI发送请求数月了。那些数据是黄金。导出为输入/输出对。
- 微调一个小模型。 取一个7B或13B参数模型,使用LoRA(低秩适应)在你的数据集上训练。你需要的只是正确的工具,而不是博士学位。
- 导出为GGUF格式。 这是使用
llama.cpp和Ollama等工具在CPU上高效运行模型的标准格式。 - 本地部署。 在**$30/月的VPS**(4 vCPU、16GB RAM对7B模型足够)上运行Ollama,就在你的应用旁边。这个预算足以覆盖一台16 GB的服务器:截至 2026 年 10 月,Hetzner 的 CX43 标价为每月 €16.49(不含增值税)。没有API调用。没有按Token计费。只是本地推理。
你的AI功能现在运行在你控制的硬件上,使用专门为你的用例训练的模型。
成本对比
让我们把数字放在一起:
| OpenAI API | 微调本地模型 | |
|---|---|---|
| 模型 | GPT-4o-mini(通用) | 7B微调(你的用例) |
| 月AI成本 | 约$4,500 | $0(本地运行) |
| 基础设施 | 包含在API定价中 | $30/月 VPS |
| 微调平台 | - | $20/月(Ertas Builder) |
| 按Token费用 | 是,每次请求 | 无 |
| 月总成本 | 约$4,500/月 | 约$50/月 |
| 20K用户时的成本 | 约$11,300/月 | 仍然约$50/月 |
关键是什么?你的成本不再随每次请求增长。 你支付VPS和微调平台的费用,不按Token计费,只有当流量超出服务器容量时,账单才会上一个台阶。
Ertas如何使这变得可行
"微调听起来不错,但我不是ML工程师。"
这正是重点。Ertas是为发布应用的开发者构建的,不是为发表论文的。
- 无代码微调:上传你的数据集(CSV、JSONL或从API日志粘贴)。选择基础模型。点击训练。
- 基于LoRA的训练:在消费级硬件上高效微调。不需要A100。
- GGUF导出:一键导出Ollama期望格式的微调模型。
- 为你的工作流设计:你已经在Vibe编码你的应用。Ertas适合同样的节奏:快速、可视化、没有不必要的复杂性。
你不需要理解梯度下降。你需要你的AI功能成本更低、运行更快。
这周你应该做什么
- 导出你过去30天的API日志,从OpenAI(或你使用的任何提供商)。格式化为输入/输出对。
- 注册Ertas并上传你的数据集。在你的数据上微调7B模型。
- 导出GGUF模型并在便宜的VPS上用Ollama部署。
- 将你的应用指向localhost而不是
api.openai.com。 - 看你的下一张发票下降90%以上。
你的应用的AI不需要花$4,500/月。它可以是Ertas Builder每月$20(截至 2026 年 11 月)加上$30/月的VPS,在流量需要更大的服务器之前,这个价格都保持不变。
可预测的月度成本。在你自己的服务器上,没有按 Token 计费。
延伸阅读
- 按Token AI定价的隐性成本:为什么API定价模型的设计是对你不利的扩展。
- 如何不写代码微调AI模型:用Ertas微调的分步指南。
- 本地运行AI模型:实用指南:关于Ollama、GGUF和本地部署你需要知道的一切。

