2026 年一个人跑 AI 机构是做得到的,前提是工具栈选对。工具栈选错,你就得手动管数据集、追着客户要审批、还得亲手做那些本该系统化的客户工作。工具栈选对,一个人可以现实地同时服务 6-8 个活跃的固定费客户。
下面这 8 个工具就是让它跑起来的东西。
工具 1:Ertas,微调与模型管理($100/月,Pro 套餐)
Ertas 是个人 AI 机构的运营中枢。每个客户项目都住在这里:他们的数据集、他们的训练任务、他们的模型版本。Pro 套餐每月给你 10,000 积分(训练和 API 用量都可以用)、A100 GPU 和 100 GB 的模型产物存储,每个客户单独开一个项目,对大多数个人机构来说够用了。
它替你处理掉的,都是你否则得自己搭的东西:
- 数据集上传与校验(在浪费一次训练之前就抓出格式错误)
- 训练任务管理(排队、监控、对比多次训练)
- 按客户做模型版本管理(清楚知道每个客户部署的是哪个 GGUF 文件)
- 首轮连贯性检查(每次训练完成后跑 3 条推理样本)
- GGUF 导出(一键拿到可部署的文件)
同时跑多少个训练没有上限,所以你可以让几个客户并行重新训练,不用排队。真正的限制是你的积分余额。在 6-8 个客户按季度重新训练的节奏下,这省掉了以周计的交付延迟。
工具 2:Ollama,本地推理服务器(免费)
Ollama 在任意一台 VPS 上跑你微调好的 GGUF 模型。模型加载、对外服务、以及客户系统要调用的 OpenAI 兼容 API,都归它管。常见做法是每个客户跑一个 Ollama 实例(做隔离),或者跑一个共享实例、按请求路由到不同模型。
Ollama 免费,每个客户跑在一台 $14-26/月的 Hetzner VPS 上。8 个客户大约是 $112-208/月的 VPS 开销,即便按不高的固定费率算,也稳稳落在利润空间里。

