你的使用者資料在每次 AI 請求時都離開了手機
每次雲端 AI API 呼叫都會將使用者資料發送到第三方伺服器。這對隱私、合規、使用者信任以及你的應用程式長期發展意味著什麼。
當你的應用程式呼叫 AI API 時,使用者的輸入會被發送到第三方營運的伺服器。他們的訊息、他們的問 題、他們的文字、他們的上下文。離開裝置,穿越網路,落在你無法控制的基礎設施上。
對天氣應用程式來說,這可能沒問題。但對健康應用程式、金融應用程式、筆記應用程式,或任何涉及個人資訊的應用程式來說,這是一個嚴重的問題。
實際發送了什麼
一個典型的聊天 API 請求包括:
{
"model": "gpt-4o-mini",
"messages": [
{"role": "system", "content": "You are a health assistant..."},
{"role": "user", "content": "I've been having chest pain for 3 days..."},
{"role": "assistant", "content": "...previous AI response..."},
{"role": "user", "content": "Should I see a cardiologist?"}
]
}該請求包含:
- 使用者的健康問題(HIPAA 下的受保護健康資訊)
- 對話歷史(累積的個人上下文)
- 系統提示詞(你應用程式的專有邏輯)
每輪對話都發送完整的歷史。到第 5 輪時,API 已經收到了使用者的完整互動記錄,不僅僅是最新的訊息。
RAG 上下文使問題更嚴重
如果你的應用程式使用檢索增強生成,請求還包含檢索到的文件。在金融應用程式中,那可能是使用者的交易記錄。在法律應用程式中,是保密的案件細節。在筆記應用程式中,是他們的私人筆記。
你為了提高回應品質而提供的上下文越多,你傳輸的私人資料就越多。
你繼承的隱私政策
當你將使用者資料發送到 AI 供應商時,他們的資料處理政策適用:
OpenAI: 截至 2026 年,API 資料預設不用於模型訓練(你必須選擇加入)。但資料會保留 30 天用於濫用監控。OpenAI 員工可能會審查被標記的內容。
Anthropic: 類似的政策。API 資料不用於訓練。保留用於安全監控,可能對被標記的內容進行人工審查。
Google Gemini: 對於付費 API(不是免費消費者產品),資料不用於訓練。保留政策因協議而異。
共同點是:你的使用者資料在第三方伺服器上存放數天到數週,可能被你不認識的人審查,受到可以透過更新服務條款單方面變更的政策約束。
合規問題
HIPAA(醫療保健)
如果你的應用程式處理受保護的健康資訊(PHI),將其發送到 AI 供應商需要商業夥伴協議(BAA)。OpenAI 和 Anthropic 為企業級方案提供 BAA,但:
- BAA 僅在企業方案中提供(不適用於標準 API 存取)
- BAA 涵蓋資 料處理,但不涵蓋資料經由公共網路傳輸的事實
- 稽核人員越來越多地將雲端 AI 標記為合規風險,即使有 BAA
GDPR(歐洲使用者)
GDPR 要求處理個人資料和將其轉移至歐盟以外有合法依據。將歐洲使用者的資料發送到位於美國的 AI 供應商在 Schrems II 下引發了資料轉移問題。
即使有標準合約條款(SCCs),資料保護機構(DPA)也可能質疑該轉移是否受到充分保護。風險是真實的:GDPR 罰款可高達全球年收入的 4%。
SOC 2 / ISO 27001
如果你的公司持有 SOC 2 或 ISO 27001 認證,第三方資料處理必須被記錄和稽核。每個 AI API 供應商都成為你供應鏈中稽核人員會審查的供應商。
App Store 隱私標籤
Apple 要求隱私營養標籤。如果你的應用程式將使用者資料發送到 AI API,你必須揭露:
- 與使用者關聯的資料
- 用於追蹤的資料(如果附帶任何分析)
- 第三方資料分享
使用者在下載前就會看到這些。資料分享揭露較多的應用程式,安裝率低於隱私友善的替代方案。
使用者信任
行動使用者的隱私顧慮正在增長:
- 87% 的消費者表示如果對公司的資料做法有疑慮,他們不會與該公司做生意(Cisco Consumer Privacy Survey, 2025)
- 76% 的智慧型手機使用者曾因隱私顧慮拒絕過應用程式權限(Pew Research)
- 當使用者透過新聞報導或隱私報告發現非預期的資料分享時,應用程式解除安裝率會上升
對於敏感類別的應用程式(健康、金融、個人生產力),隱私是競爭優勢。「你的資料永遠不會離開你的裝置」是一個能引起共鳴的行銷訊息。
裝置端替代方案
裝置 端 AI 從結構上消除了隱私問題。模型在使用者的手機上運行。使用者的輸入在本地處理。沒有資料被傳輸。
| 因素 | 雲端 API | 裝置端 |
|---|---|---|
| 使用者資料發送至第三方 | 每次請求 | 永遠不會 |
| HIPAA 合規 | 需要 BAA + 企業級方案 | 架構上合規 |
| GDPR 資料轉移疑慮 | 是(位於美國的供應商) | 無(資料留在裝置上) |
| App Store 隱私標籤 | 「資料與第三方分享」 | 「不收集資料」 |
| 供應商資料保留 | 30 天(典型) | 無 |
| 人工審查風險 | 可能(被標記的內容) | 無 |
| 政策變更風險 | 條款可單方面變更 | 不適用 |
技術實作
裝置端推理意味著 AI 模型直接在使用者的硬體上運行。推理迴圈如下:
- 使用者輸入文字
- 輸入在裝置上進行 token 化
- 模型在裝置上生成回應
- 顯示回應
沒有網路呼叫。沒有外部伺服器。沒有傳輸中的資料。使用者的資料只存在於應用程式的本地儲存和推理期間的裝置 RAM 中。
商業案例
除了法規合規之外,裝置端 AI 具有具體的商業影響:
降低敏感市場中的阻力: 健康、金融和法律應用程式如果能真實地聲明「你的資料永遠不會離開你的裝置」,將面臨更少的使用者反對和更低的流失率。
更簡單的合規態勢: 不需要協商 BAA、不需要資料處理協議、不需要 GDPR 資料轉移評估。合規的複雜度大幅縮減。
降低責任風險: 如果使用者資料從未被傳輸,就沒有傳輸中的資料可以被攔截、沒有第三方資料洩露會暴露你的使用者、也沒有供應商政策變更會造成追溯性合規問題。
App Store 優勢: App Store 和 Play Store 上乾淨的隱私標籤,在使用者打開應用程式之前就建立了信任。
進行轉換
- 稽核你目前的資料流。 每次 API 呼叫中包含了哪些使用者資料?映射每個欄位。
- 評估法規暴露。 哪些法規適用於你的使用者群和資料類型?
- 收集訓練資料。 你現有的 API 互動(取得適當同意後)就是你的訓練資料集。
- 微調領域模型。 使用像 Ertas 這樣的平台,在你的特定任務上微調小型模型(1-3B 參數)。
- 部署到裝置端。 匯出為 GGUF,整合 llama.cpp,在本地運行。
- 更新你的隱私政策。 最棒的部分:你可以移除第三方資料分享的揭露。
隱私改善不僅僅是合規勾選項目。它是一個面向使用者的功能,能建立信任並降低流失率。
Ship AI that runs on your users' devices.
Free plan with 30 credits/mo, no card required. Paid plans from $10/mo USD.
Keep reading
當你的應用程式有了使用者,AI API 帳單會暴漲 10 倍
大多數 AI 教學跳過的成本計算。你的 API 帳單隨每位使用者線性成長,而真實的乘數比定價頁面顯示的更嚴重。以下是 1K、10K 和 100K MAU 時會發生的事。
行動裝置 AI API 定價:每位使用者的真實成本
如何計算每位行動應用程式使用者的 AI 真實成本。供應商比較、隱藏的成本倍增因素,以及決定你的 AI 功能是否可持續的單位經濟學。
AI API 速率限制將在規模化時節流你的行動應用程式
OpenAI、Anthropic 和 Google 的速率限制是為受控使用設計的,不是為了數千名同時使用者的行動應用程式。以下是限制在哪裡觸發以及觸發時會發生什麼。