2024 年 6 月 6 日,OpenAI 淘汰了 gpt-4-32k、gpt-4-vision-preview 和其他幾個模型。使用這些模型的應用程式必須在特定日期前遷移。過了那個日期,API 呼叫就會返回錯誤。
這不是第一次淘汰。自 2023 年以來,OpenAI 已經退役了超過 15 個模型版本。GPT-3.5-turbo-0301、GPT-4-0314、text-davinci-003、code-davinci-002。每次淘汰都迫使所有依賴的應用 程式進行遷移。
如果你的行動應用程式依賴特定的 OpenAI 模型,這件事將會發生在你身上。問題不是「是否」,而是「何時」以及「破壞力有多大」。
淘汰模式
OpenAI 的模型生命週期遵循一個模式:
- 新模型發布帶有日期版本(例如 gpt-4o-2024-08-06)
- 別名指向最新版本(例如 gpt-4o 指向最新的日期版本)
- 較舊的日期版本被淘汰,提前 3-6 個月通知
- 淘汰日期之後,對舊模型的呼叫返回錯誤或被自動重新導向到替代版本
通知期聽起來很寬裕。實際上並非如此。
為什麼 3-6 個月不夠
淘汰不僅僅意味著在你的程式碼中更改一個模型字串。當你切換模型時,行為會改變:
輸出格式改變: 你的提示詞是針對特定模型的傾向而調校的。新模型可能以不同方式格式化 JSON、使用不同的措辭,或以不同方式處理邊界情況。
準確度變化: 在 gpt-4-0613 上達到 90% 準確率的提示詞,在 gpt-4o 上可能達到 85% 或 95%。在測試之前你無從得知。
Token 使用量變化: 不同模型的 token 化方式不同,生成的回應長度也不同。你的成本模型會改變。
延遲變化: 較新的模型可能更快或更慢。你的 UX 時間假設可能會失效。
每一項都需要測試、提示詞重新調校,以及可能的程式碼修改。對行動應用程式來說,這還意味著通過 App Store 審核流程的新版本發布。

