為何某些組織永遠無法使用 OpenAI——以及他們改用什麼

當前關於 OpenAI 戰略方向、Anthropic 的選擇和企業 AI 供應商風險的行業對話，預設了一件對所有人來說都不是真的事情：你可以自由選擇。

相當一部分企業——政府機構、臨床系統、工業運營商、某些金融機構、競爭情報職能部門——在法律上或結構上沒有能力使用基於雲端的 AI 提供商。不是因為偏好。不是因為價格。而是因為架構、分類要求、法規授權，或完全早於 AI 存在的運營設計。

對於這些組織，問題不是使用哪家 AI 供應商。而是如何在沒有任何外部 API 依賴的情況下構建有能力的 AI 基礎設施。

類別一：機密和 ITAR 受監管的環境

最絕對的排除是機密等級。在政府和國防環境中以某些機密等級運行的系統——那些處理機密國家安全資訊的系統——不能與商業雲端服務交互。全面禁止。

這不是可以因供應商能力足夠而被豁免的政策選擇。這是架構要求。機密網路與非機密基礎設施物理隔離。對 OpenAI、Anthropic、Google 或任何商業提供商的 API 調用是不可能的，因為網路路徑不存在，且在不違反系統分類要求的情況下無法創建。

《武器出口管制條例》（ITAR）為與受控技術資料合作的國防承包商和製造商創造了相關限制。ITAR 受控技術在沒有特定出口授權的情況下不能在商業雲端基礎設施上處理——對於操作系統，這種授權通常不可用。處理涉及受控技術領域資料的國防主承包商、航空航天製造商和某些研究機構，實際上被禁止將商業雲端 AI 用於接觸受控技術領域的資料。

這些環境中的 AI 基礎設施：本地推理，通常在政府管理或承包商管理的硬體上，使用專門為機密使用開發的模型，或通過相關安全審查流程批准的微調開源模型。

類別二：隔離網路工業系統

製造業、發電、水處理和其他關鍵基礎設施中的操作技術（OT）網路是故意與互聯網斷開連接的。這不是遺留的疏忽——這是刻意的安全架構決策，由 CISA 指南、IEC 62443 標準和行業特定法規加強。

需要互聯網連接才能運行的 AI 系統不能在這些環境中部署。天然氣壓縮機站、核電站的控制系統、水處理設施的 SCADA 網路——這些系統被設計為隔離網路。任何在這些環境中支援操作的 AI 都在本地、在 OT 網路上的硬體上運行，沒有外部依賴。

工業 OT 環境中 AI 的使用場景是真實且不斷增長的：設備傳感器資料的預測性維護、過程控制中的異常檢測、操作員的文件輔助、歷史資料分析。所有這些都必須在本地基礎設施上運行，因為那是唯一可用的基礎設施。

類別三：受限制的醫療環境

醫療與 AI 連接的關係比類別一和二中的絕對排除更為細緻，但相當一部分臨床環境有連接限制，實際上排除了商業雲端 AI。

一些臨床資訊系統出於網路安全原因在隔離網路上運行——這是對 2020 年代初期醫療基礎設施遭受勒索軟件攻擊（導致患者傷害）的回應。隔離的臨床網路不能進行外部 API 調用，就像機密網路一樣。

某些政府醫療系統——一些軍事醫療設施、一些在資料主權要求嚴格的國家的國家醫療服務環境——對將患者資料發送到商業雲端提供商有明確的限制。英國的 NHS、德國和法國的公共衛生系統，以及多個國家的國防醫療系統，對商業雲端 AI 用於患者資料的使用有不同程度的限制。

對於這些環境，有效的 AI 意味著在臨床網路上運行的 AI。基於供應商能力或合約保護，沒有例外。

類別四：有資料本地化要求的金融系統

並非所有金融 AI 排除都是絕對的，但有些是。資料本地化要求嚴格的國家——要求在其邊界內物理位置的基礎設施上處理金融資料——實際上禁止對處理該資料的系統使用基於美國的雲端 AI 提供商。

俄羅斯聯邦法律第 242-FZ 要求俄羅斯公民的個人資料存儲在俄羅斯境內的伺服器上。中國的網路安全法有類似的要求。其他幾個司法管轄區已經或正在制定類似框架。在這些司法管轄區為處理受監管資料的系統運營的銀行和金融機構，不能將該資料路由到基於美國的 AI 提供商。

EU 的 GDPR 不創造絕對禁止，但為向美國提供商轉移創造了重大摩擦——一些組織通過將資料限制在本地或歐盟位置的處理來解決這種摩擦。

對於這些組織，本地推理不是偏好——它是唯一合規的架構。

類別五：有特權限制的法律環境

法律行業的排除是實際的而非法律的，但實際限制是約束性的。

律師-客戶特權和工作產品原則保護在適當邊界內保密的通信和分析。多個司法管轄區的律師協會指導已經解決了法律實踐中的 AI 使用問題，雖然指導各不相同，但一個共同主題是，使用雲端 AI 進行案件相關工作的律師需要能夠確保客戶資訊的保密性。

許多律師事務所——特別是 Am Law 100、Magic Circle 事務所以及處理敏感併購、訴訟或監管事宜的事務所——有禁止在案件相關工作中使用雲端 AI 平台的政策。禁令不是基於特定的法律規則。它基於特權風險分析和建議反對它的律師協會指導。

實際結果：想要在這些事務所使用 AI 進行法律工作的律師，在事務所管理的基礎設施上使用本地模型，或者根本不在案件相關工作中使用 AI。

類別六：競爭敏感的企業

這個類別沒有面臨法律禁止，但通過風險分析得出了相同的結論：有些資料過於競爭敏感，不能發送到任何外部系統。

處理未披露交易的併購顧問。擁有客戶發明披露的專利律師。具有不受 ITAR 覆蓋但在競爭上仍然關鍵的專有系統設計的國防主承包商。擁有專有交易策略資料的投資經理。這些組織確定，在商業雲端基礎設施上處理其最敏感資料的風險——即使有強有力的合約保護——是不可接受的。

計算不是關於供應商可信度。而是關於攻擊面。在外部系統上處理的資料暴露於該系統的安全狀況、子處理器的系統，以及所有具有管理訪問權限的人的安全操作。對於洩露會是災難性的資料，最小化暴露面意味著保持本地處理。

這些組織改用什麼

這些組織的本地 AI 堆疊在各類別中具有相同的組成部分：

開源基礎模型：Llama 3.3、Qwen 2.5、Mistral 和 Gemma 是開放許可下可用的有能力基礎模型。它們可以在私有基礎設施上下載、審查和部署，無需持續的供應商關係。

在領域資料上微調：通用模型通過在組織特定資料上微調而領域專業化——臨床記錄、法律文件、技術手冊、財務記錄。微調的 7B 模型在狹窄的領域任務上始終達到 90 至 95% 的準確率，在特定重要任務上匹配或超過 GPT-4 級別的性能。

本地推理基礎設施：Ollama、llama.cpp 和 vLLM 在本地硬體上運行，從高端工作站到專用 GPU 伺服器。推理不需要互聯網連接。

本地資料準備工具：讓資料為微調做好準備——攝取、清洗、標注、增強、格式轉換——需要工具。基於雲端的資料準備工具對這些組織不是選項，這意味著他們需要桌面或本地解決方案。

Ertas 對被排除組織的架構

Ertas Data Suite 是專門為結構性排除情況設計的。它是一個使用 Tauri 2.0 構建的原生桌面應用程式——不是需要伺服器的網路應用程式，不是帶有本地選項的雲端服務，而是像企業軟體一樣安裝和運行的實際桌面軟體。

完整的資料準備管線在本地運行：攝取、清洗、標注、增強和匯出——從原始資料到微調就緒資料集的完整工作流程，完全在用戶的機器上。沒有資料外洩。沒有網路要求。隔離網路操作作為一等設計要求，而非事後補充。完整的稽核追蹤內建。

對於微調步驟，Ertas Fine-Tuning SaaS 提供了一個選項，即使對某些受限環境也有效：帶上你的資料集（你已在本地準備好的），上傳進行雲端 GPU 上的微調運行，下載生成的 GGUF 權重，然後完全在本地運行推理。你的資料只在訓練運行期間在雲端，不在持久存儲中，生成的模型在你的基礎設施上運行，沒有持續的雲端依賴。

對於即使那個雲端訓練步驟也不可接受的組織——某些機密環境、嚴格隔離網路操作——可以通過其他方式獲取權重：通過批准渠道下載的預訓練開源權重、在私有 GPU 基礎設施上運行的微調，或通過適當渠道採購的微調模型工件。

更廣泛的意義

在結構上被排除在商業雲端 AI 之外的組織不是邊緣案例。它們代表了相當大比例的經濟活動：政府、國防、醫療、金融服務、法律和競爭敏感的企業。其中許多組織一直在等待本地 AI 基礎設施達到它能夠解決其實際問題的能力水平。

那個閾值已經被越過。本地 GPU 伺服器上的微調 7B 模型，對於大多數生產企業使用場景來說，不再是能力妥協。它是一個可行的替代方案——對於狹窄的、定義明確的任務通常是更好的替代方案——碰巧也滿足了這些組織面臨的連接性、資料治理和操作限制。

「無法使用 OpenAI」的組織正在發現他們不需要。

查看 Ertas Fine-Tuning SaaS 的早鳥定價 →

預約關於 Ertas Data Suite 的發現電話 →