Back to blog
    Ertas vs Together AI:微调成本、本地部署和数据隐私
    ertastogether-aicomparisonfine-tuningprivacycost

    Ertas vs Together AI:微调成本、本地部署和数据隐私

    比较 Ertas 和 Together AI 的语言模型微调。涵盖每 token vs 固定成本推理、数据隐私、本地部署,以及各平台的适用场景。

    EErtas Team·

    Together AI 主要是一个快速云端推理提供商,同时也提供微调。Ertas 主要是一个输出模型用于本地部署的微调平台。它们在微调用例上有重叠,但在训练后的一切上都有显著差异。

    每 token 成本问题

    Together AI 微调模型推理定价因模型而异,但7B模型大约每百万 token $0.15-0.20。这确实比 OpenAI 更有竞争力。但它仍然是按 token 计费的。

    Ertas 导出 GGUF 文件。你在 VPS 上运行它($26/月的 Hetzner 机器可以以15-25 tokens/秒处理7B模型)。推理成本:每 token $0。

    月度 Token 数Together AI API 成本Ertas + VPS 总成本
    500,000~$75-100$40.50
    1,000,000~$150-200$40.50
    5,000,000~$750-1,000$40.50

    在500,000 token/月时,两者总成本相近。高于此,本地模型方案显著更便宜。

    数据隐私

    **Together AI:**训练数据上传到 Together AI 服务器。每个用户查询都流经 Together AI 的系统。

    **Ertas:**训练数据在训练基础设施上处理。GGUF 模型在你的基础设施上运行。推理查询永远不离开你的网络。

    何时 Together AI 胜出

    • 你需要带 SLA 的高并发云端推理
    • 你没有隐私敏感数据
    • 你需要快速路径到微调云端推理

    何时 Ertas 胜出

    • 你需要在自己的基础设施上运行模型
    • 推理数据是隐私敏感的
    • 你的流量是适度且可预测的
    • 你想在初始设置后实现零每 token 成本

    Ship AI that runs on your users' devices.

    Ertas early bird pricing starts at $14.50/mo — locked in for life. Plans for builders and agencies.

    Ship AI that runs on your users' devices.

    Early bird pricing starts at $14.50/mo — locked in for life. Plans for builders and agencies.

    Keep reading