v0 by Vercel 從自然語言生成生產品質的 React 元件。當你為這些元件添加 AI 功能時,自然的路徑是 Vercel AI SDK,它預設路由到 OpenAI 或 Anthropic。按 token 計費。每次請求。
對於原型和早期應用程式,這沒問題。對於有真實用戶的應用程式,成本曲線很快就成為問題,因為 Vercel AI SDK 讓在任何地方添加串流 AI 回 應變得容易。
v0 應用程式通常如何使用 AI
Vercel AI SDK 是 v0 生成的應用程式中 AI 功能的標準。模式很清晰:
// app/api/chat/route.ts — 典型的 v0 AI 功能
import { openai } from "@ai-sdk/openai";
import { streamText } from "ai";
export async function POST(req: Request) {
const { messages } = await req.json();
const result = streamText({
model: openai("gpt-4o-mini"),
messages,
system: "You are a helpful assistant for [your domain].",
});
return result.toDataStreamResponse();
}這是出色的程式碼。它串流回應、處理錯誤,並與 React 的串流模式完美配合。v0 生成的前端元件完美地使用它。
問題是每個 streamText 或 generateText 呼叫都是一個雲端 API 請求。SDK 抽象掉了成本,這對開發很方 便,但當你的帳單儀表板出現時就不那麼方便了。
Vercel AI SDK 大規模的成本
串流回應比單次呼叫回應稍貴,因為它們在完整生成持續時間內保持連接,並且通常生成更長的輸出(用戶在串流停止時停止閱讀,所以模型傾向於生成更多 token)。
假設一個典型的 v0 AI 功能:聊天式互動,每次交換 400 個輸入 token 加 600 個輸出 token,使用 gpt-4o-mini:
| 每月活躍用戶 | 每用戶次數 | 每次交換次數 | 月 API 成本 |
|---|---|---|---|
| 200 | 4 | 5 | 9.60 美元 |
| 1,000 | 4 | 5 | 48 美元 |
| 5,000 | 4 | 5 | 240 美元 |
| 20,000 | 4 | 5 | 960 美元 |
| 100,000 | 4 | 5 | 4,800 美元 |
這些是 gpt-4o-mini 的估算。升級到 gpt-4o-2024,乘以約 14 倍。
v0 部署優勢
以下是 v0/Vercel 應用程式特有的東西:它們部署到 Vercel 的邊緣網路,無伺服器函數處理 API 路由。這種架構實際上有助於本地模型遷移。
你的 AI API 路由可以呼叫任何 HTTP 端點。不是呼叫 api.openai.com,而是呼叫你的 Ollama VPS。無伺服器函數向路由指定的位址發出一個 HTTP 呼叫,並將回應返回給客戶端。
這意味著遷移完全包含在 API 路由檔案中。你的 React 元件不會改變。你的串流行為不會改變。只有模型供應商改變了。

