Back to blog
    你的使用者資料在每次 AI 請求時都離開了手機
    privacydata securitymobile AIGDPRHIPAAcompliancesegment:mobile-builder

    你的使用者資料在每次 AI 請求時都離開了手機

    每次雲端 AI API 呼叫都會將使用者資料發送到第三方伺服器。這對隱私、合規、使用者信任以及你的應用程式長期發展意味著什麼。

    EErtas Team·

    當你的應用程式呼叫 AI API 時,使用者的輸入會被發送到第三方營運的伺服器。他們的訊息、他們的問題、他們的文字、他們的上下文。離開裝置,穿越網路,落在你無法控制的基礎設施上。

    對天氣應用程式來說,這可能沒問題。但對健康應用程式、金融應用程式、筆記應用程式,或任何涉及個人資訊的應用程式來說,這是一個嚴重的問題。

    實際發送了什麼

    一個典型的聊天 API 請求包括:

    {
      "model": "gpt-4o-mini",
      "messages": [
        {"role": "system", "content": "You are a health assistant..."},
        {"role": "user", "content": "I've been having chest pain for 3 days..."},
        {"role": "assistant", "content": "...previous AI response..."},
        {"role": "user", "content": "Should I see a cardiologist?"}
      ]
    }

    該請求包含:

    • 使用者的健康問題(HIPAA 下的受保護健康資訊)
    • 對話歷史(累積的個人上下文)
    • 系統提示詞(你應用程式的專有邏輯)

    每輪對話都發送完整的歷史。到第 5 輪時,API 已經收到了使用者的完整互動記錄,不僅僅是最新的訊息。

    RAG 上下文使問題更嚴重

    如果你的應用程式使用檢索增強生成,請求還包含檢索到的文件。在金融應用程式中,那可能是使用者的交易記錄。在法律應用程式中,是保密的案件細節。在筆記應用程式中,是他們的私人筆記。

    你為了提高回應品質而提供的上下文越多,你傳輸的私人資料就越多。

    你繼承的隱私政策

    當你將使用者資料發送到 AI 供應商時,他們的資料處理政策適用:

    OpenAI: 截至 2026 年,API 資料預設不用於模型訓練(你必須選擇加入)。但資料會保留 30 天用於濫用監控。OpenAI 員工可能會審查被標記的內容。

    Anthropic: 類似的政策。API 資料不用於訓練。保留用於安全監控,可能對被標記的內容進行人工審查。

    Google Gemini: 對於付費 API(不是免費消費者產品),資料不用於訓練。保留政策因協議而異。

    共同點是:你的使用者資料在第三方伺服器上存放數天到數週,可能被你不認識的人審查,受到可以透過更新服務條款單方面變更的政策約束。

    合規問題

    HIPAA(醫療保健)

    如果你的應用程式處理受保護的健康資訊(PHI),將其發送到 AI 供應商需要商業夥伴協議(BAA)。OpenAI 和 Anthropic 為企業級方案提供 BAA,但:

    • BAA 僅在企業方案中提供(不適用於標準 API 存取)
    • BAA 涵蓋資料處理,但不涵蓋資料經由公共網路傳輸的事實
    • 稽核人員越來越多地將雲端 AI 標記為合規風險,即使有 BAA

    GDPR(歐洲使用者)

    GDPR 要求處理個人資料和將其轉移至歐盟以外有合法依據。將歐洲使用者的資料發送到位於美國的 AI 供應商在 Schrems II 下引發了資料轉移問題。

    即使有標準合約條款(SCCs),資料保護機構(DPA)也可能質疑該轉移是否受到充分保護。風險是真實的:GDPR 罰款可高達全球年收入的 4%。

    SOC 2 / ISO 27001

    如果你的公司持有 SOC 2 或 ISO 27001 認證,第三方資料處理必須被記錄和稽核。每個 AI API 供應商都成為你供應鏈中稽核人員會審查的供應商。

    App Store 隱私標籤

    Apple 要求隱私營養標籤。如果你的應用程式將使用者資料發送到 AI API,你必須揭露:

    • 與使用者關聯的資料
    • 用於追蹤的資料(如果附帶任何分析)
    • 第三方資料分享

    使用者在下載前就會看到這些。資料分享揭露較多的應用程式,安裝率低於隱私友善的替代方案。

    使用者信任

    行動使用者的隱私顧慮正在增長:

    • 87% 的消費者表示如果對公司的資料做法有疑慮,他們不會與該公司做生意(Cisco Consumer Privacy Survey, 2025)
    • 76% 的智慧型手機使用者曾因隱私顧慮拒絕過應用程式權限(Pew Research)
    • 當使用者透過新聞報導或隱私報告發現非預期的資料分享時,應用程式解除安裝率會上升

    對於敏感類別的應用程式(健康、金融、個人生產力),隱私是競爭優勢。「你的資料永遠不會離開你的裝置」是一個能引起共鳴的行銷訊息。

    裝置端替代方案

    裝置端 AI 從結構上消除了隱私問題。模型在使用者的手機上運行。使用者的輸入在本地處理。沒有資料被傳輸。

    因素雲端 API裝置端
    使用者資料發送至第三方每次請求永遠不會
    HIPAA 合規需要 BAA + 企業級方案架構上合規
    GDPR 資料轉移疑慮是(位於美國的供應商)無(資料留在裝置上)
    App Store 隱私標籤「資料與第三方分享」「不收集資料」
    供應商資料保留30 天(典型)
    人工審查風險可能(被標記的內容)
    政策變更風險條款可單方面變更不適用

    技術實作

    裝置端推理意味著 AI 模型直接在使用者的硬體上運行。推理迴圈如下:

    1. 使用者輸入文字
    2. 輸入在裝置上進行 token 化
    3. 模型在裝置上生成回應
    4. 顯示回應

    沒有網路呼叫。沒有外部伺服器。沒有傳輸中的資料。使用者的資料只存在於應用程式的本地儲存和推理期間的裝置 RAM 中。

    商業案例

    除了法規合規之外,裝置端 AI 具有具體的商業影響:

    降低敏感市場中的阻力: 健康、金融和法律應用程式如果能真實地聲明「你的資料永遠不會離開你的裝置」,將面臨更少的使用者反對和更低的流失率。

    更簡單的合規態勢: 不需要協商 BAA、不需要資料處理協議、不需要 GDPR 資料轉移評估。合規的複雜度大幅縮減。

    降低責任風險: 如果使用者資料從未被傳輸,就沒有傳輸中的資料可以被攔截、沒有第三方資料洩露會暴露你的使用者、也沒有供應商政策變更會造成追溯性合規問題。

    App Store 優勢: App Store 和 Play Store 上乾淨的隱私標籤,在使用者打開應用程式之前就建立了信任。

    進行轉換

    1. 稽核你目前的資料流。 每次 API 呼叫中包含了哪些使用者資料?映射每個欄位。
    2. 評估法規暴露。 哪些法規適用於你的使用者群和資料類型?
    3. 收集訓練資料。 你現有的 API 互動(取得適當同意後)就是你的訓練資料集。
    4. 微調領域模型。 使用像 Ertas 這樣的平台,在你的特定任務上微調小型模型(1-3B 參數)。
    5. 部署到裝置端。 匯出為 GGUF,整合 llama.cpp,在本地運行。
    6. 更新你的隱私政策。 最棒的部分:你可以移除第三方資料分享的揭露。

    隱私改善不僅僅是合規勾選項目。它是一個面向使用者的功能,能建立信任並降低流失率。

    Ship AI that runs on your users' devices.

    Early bird pricing starts at $14.50/mo — locked in for life. Plans for builders and agencies.

    Ship AI that runs on your users' devices.

    Early bird pricing starts at $14.50/mo — locked in for life. Plans for builders and agencies.

    Keep reading