您的模型已經微調並匯出為 GGUF。現在需要將它送達使用者的裝置。有兩種基本方式:與應用程式二進位檔打包,或安裝後下載。
每種方式在應用程式大小、使用者體驗、更新靈活性和平台限制方面都有不同的取捨。
選項 1:與應用程式打包
將 GGUF 檔案包含在應用程式安裝包中。使用者下載應用程式時同時下載模型。
iOS 打包
直接包含: 將 GGUF 檔案新增到 Xcode 專案中。它隨 IPA 一起分發。透過 Bundle.main 存取:
let modelPath = Bundle.main.path(forResource: "model", ofType: "gguf")!On Demand Resources(ODR): 將模型標記為按需資源。iOS 在首次需要時下載,而非安裝時。初始應用程式下載保持較小。
let request = NSBundleResourceRequest(tags: ["ai-model"])
request.beginAccessingResources { error in
guard error == nil else { return }
let modelPath = Bundle.main.path(forResource: "model", ofType: "gguf")!
loadModel(at: modelPath)
}ODR 檔案由 iOS 管理,在儲存空間緊張時可能被清除。您的應用程式必須處理重新下載。
Android 打包
APK assets: 對於 150MB 以內的模型,將 GGUF 放在 assets/ 中。首次啟動時複製到內部儲存供 llama.cpp 存取。
Play Asset Delivery: 對於更大的模型,使用 Google Play 的資產分發系統:
// 安裝時分發(隨應用程式下載)
// build.gradle.kts
assetPacks += ":model_pack"Play Asset Delivery 支援三種模式:
- Install-time: 隨應用程式下載。最簡單但增加初始下載大小。
- Fast-follow: 安裝後立即在背景下載。
- On-demand: 應用程式請求時才下載。
大小限制
| 平台 | 限制 | 說明 |
|---|---|---|
| iOS IPA | 4GB | 包含所有資源 |
| iOS OTA 下載 | 200MB | 行動網路下載限制(使用者可覆寫) |
| Android APK | 150MB | 不使用 Play Asset Delivery 的情況 |
| Android AAB | 150MB 基礎 + 2GB 資產 | 使用 Play Asset Delivery |
| Play Asset Delivery 包 | 每包 512MB | 允許多個包 |
1B GGUF Q4 模型(約 600MB)在 iOS 的 4GB 限制內,但超過了 200MB 行動網路 OTA 閾值。在 Android 上需要 Play Asset Delivery。
3B GGUF Q4 模型(約 1.7GB)在兩個平台的上限內,但會是一個較大的下載。
打包的優缺點
優點:
- 首次啟動時模型立即可用(無需等待下載)
- 不需要 CDN 基礎設施
- 首次使用不需要網路連線
- 更簡單的架構(無需下載/驗證/恢復邏輯)
缺點:
- 顯著增加應用程式下載大小
- 模型更新需要透過商店進行完整的應用程式更新
- 每次模型變更都需要應用商店審核
- 使用者可能不願下載 600MB-1.7GB 的應用程式
- 在 iOS 上,200MB 行動網路限制意味著使用者可能需要 WiFi 來下載
選項 2:安裝後下載
應用程式安裝時不包含模型。首次啟動時(或使用者存取 AI 功能時),應用程式從您的 CDN 下載模型。

