每个人谈论 AI SaaS 都好像你需要风险资本来支付 API 账单。你不需要。你需要一个微调模型、一台 $24 的服务器,和停止按 token 付费给 OpenAI 的意愿。
完整技术栈
基础模型选择
Llama 3.1 8B:默认选择。Qwen 2.5 7B:结构化输出更好。Phi-4(3.8B):微软的小而强模型。
推荐:从 Llama 3.1 8B 开始。
用 Ertas 微调
成本:$20/月(Builder 套餐)
GGUF 导出和量化
Q5_K_M 是最佳点。 质量差异在测量噪声范围内,但模型显著更小更快。
VPS:你的 AI 服务器
成本:约 $24/月(截至 2026 年 10 月)
Hetzner CAX31(ARM,8 vCPU,16 GB RAM):截至 2026 年 10 月,Hetzner 的 cost-optimized 套餐中为 €21.49/月(约 $24)。任何类似的 16 GB VPS 也可以。
Ollama:推理服务器
成本:免费(开源)
curl -fsSL https://ollama.com/install.sh | sh连接你的应用
const response = await openai.chat.completions.create({
model: "myapp-model",
messages: [{ role: "user", content: userPrompt }],
}, {
baseURL: "http://your-server-ip:11434/v1",
apiKey: "ollama",
});改了两行。相同 SDK。相同响应格式。你的应用不知道区别。
完整成本明细
| 项目 | 月成本 |
|---|---|
| Ertas Builder 套餐 | $20 |
| Hetzner CAX31 VPS | 约$24 |
| Ollama | $0 |
| 总计 | 约$44/月 |
$50/月。生产 AI 推理。无按 token 收费。
真正重要的数学
以 $9.99/月订阅、2,000 MAU 和 12% 付费转化率:
API 方式:收入 $2,398/月,AI 成本 $1,200/月,利润 $1,198/月(50%) $50 技术栈:收入 $2,398/月,AI 成本 $50/月,利润 $2,348/月(98%)
那额外的 $1,150/月是"勉强能用的副项目"和"养活你的生意"之间的区别。

