Back to blog
    Bolt.new应用与OpenAI成本悬崖:规模化后会发生什么
    Bolt.newAI成本独立开发者OpenAI微调segment:vibecoder

    Bolt.new应用与OpenAI成本悬崖:规模化后会发生什么

    Bolt.new让添加AI功能变得简单。以下是你的OpenAI账单随用户增长时会发生什么——以及如何用平价微调本地模型替代它。

    EErtas Team·

    Bolt.new非常适合快速发布。你描述你想要什么,Bolt生成全栈应用,几小时内就部署完毕。但每个使用OpenAI的Bolt.new应用都有一个结构性问题。它不会在开发期间出现。不会在发布时出现。它会在大约第三个月出现,当你有几百个用户,你的API仪表板每周看起来越来越糟。

    账单在哪里爆发

    假设使用gpt-4o-mini,每次请求平均700令牌,每次请求成本约$0.000285,平均用户每月40次请求:

    用户数月API请求月OpenAI成本
    1004,000$1.14
    1,00040,000$11.40
    10,000400,000$114.00
    50,0002,000,000$570.00

    如果使用GPT-4o,这些数字乘以10-20倍。10,000用户时:$2,320/月。这就是成本悬崖。

    修复方案:微调一次,本地运行

    用微调的本地模型替换OpenAI API调用。质量对于你的特定用例是等效的;成本结构根本不同。

    步骤1: 从现有API日志收集训练数据。400-800个样本。

    步骤2: 在Ertas中微调(30-90分钟)。

    步骤3: 在VPS上部署Ollama($14-26/月)。

    步骤4: 更新代码——通常是一行更改:

    // 之前(OpenAI):
    const openai = new OpenAI({ apiKey: process.env.OPENAI_API_KEY });
    
    // 之后(Ollama——一行更改):
    const openai = new OpenAI({
      apiKey: "not-needed",
      baseURL: "http://your-vps-ip:11434/v1",
    });

    迁移后的成本

    场景OpenAI API(月)Ertas + VPS(月)
    1,000用户$11-115$40.50
    10,000用户$114-1,160$40.50
    50,000用户$570-5,800$66.50(更大VPS)

    盈亏平衡点: 使用gpt-4o-mini时约500-700用户。使用gpt-4o时不到100用户。


    Ship AI that runs on your users' devices.

    Ertas early bird pricing starts at $14.50/mo — locked in for life. Plans for builders and agencies.

    Ship AI that runs on your users' devices.

    Early bird pricing starts at $14.50/mo — locked in for life. Plans for builders and agencies.

    Keep reading