程式碼生成
用內部程式碼庫、程式撰寫規範和架構模式微調開源模型,再把訓練好的模型部署在自己的伺服器上,讓補全請求和隨之送出的程式碼都留在你的網路內。
The Challenge
軟體開發團隊正以飛快的速度採用 AI 驅動的程式碼補全、程式碼審查和文件生成——但通用程式碼模型在企業程式碼庫上的生產力提升很快就達到瓶頸。內部框架、專有 API、自訂設計模式和組織特定的編碼慣例對於在公開開源儲存庫上訓練的模型來說是不可見的。結果是 AI 建議在語法上正確但在架構上錯誤:匯入已棄用的內部套件、忽略自訂 lint 規則,或生成與團隊既 有模式相矛盾的樣板程式碼。
智慧財產權是更深層的隱憂。企業原始碼代表著多年的工程投資和競爭優勢。將專有程式碼發送到第三方 AI 供應商的 API——在那裡它可能被記錄、快取或以聚合方式用於改進供應商的模型——產生了法律和安全團隊有理由拒絕的智慧財產權曝露風險。許多有嚴格智慧財產權政策的組織已經完全禁止使用雲端程式碼助手,迫使開發人員回到手動工作流程,而競爭對手卻在借助 AI 加速。
The Solution
透過 Ertas,工程團隊可以訓練一個熟悉自家程式碼庫的程式碼模型,並在自己的基礎設施上執行。在 Ertas Studio 中,平台團隊上傳由內部儲存庫整理出的 JSONL 資料集(程式碼與註解配對、附 docstring 的函式簽章、pull request diff 和程式碼審查意見),透過視覺化畫布在 Ertas 的雲端 GPU 上用 LoRA 微調開源模型。訓練需要把資料集上傳到 Ertas,因此由團隊自行決定放入哪些內容:只選智慧財產權政策允許的儲存庫,並事先清除金鑰和憑證。多個專用模型可以並行訓練:一個針對後端服務,一個針對行動端程式碼庫,還有一個針對基礎設施即程式碼範本。每個模型都會學到所屬那部分程式碼的內部套件、錯誤處理模式和撰寫慣例。
某次訓練結果令人滿意後,團隊從 Hub 下載模型:GGUF 格式適用於 llama.cpp、Ollama 或 LM Studio,完整的 safetensors 適用於 vLLM 等伺服器端執行環境。模型在公司自己的伺服器或開發者的電腦上執行,補全請求、隨請求送出的程式碼脈絡以及回傳的建議都留在內網。編輯器可以透過任何支援本機伺服器或 OpenAI 相容伺服器的擴充套件或閘道來呼叫它。模型歸公司所有,執行時不依賴 Ertas。
Key Features
程式碼庫微調
使用 Studio 的視覺化畫布,以內部儲存庫整理出的 JSONL 資料集微調開源模型,資料可包括程式碼與註解配對、pull request diff、程式碼審查回饋和文件。可以為不同語言、框架或程式碼庫的不同部分分別訓練模型,並同時執行多個訓練任務來比較基礎模型和參數設定。
規模合適的開源基礎模型
從 Studio 模型目錄中的開源模型起步,例如 Qwen 2.5 7B、Llama 3.1 8B、Mistral 7B 或 Phi-4 Mini,也可以從 Hugging Face 匯入相容的模型。1B 到 4B 的小模型適合快速的行內補全,7B 和 8B 的模型則為程式碼審查和文件任務保留更多餘裕。
在自有伺服器上執行補全
從 Hub 下載訓練好的模型:GGUF 格式適用於 llama.cpp、Ollama 或 LM Studio,完整的 safetensors 適用於 vLLM。把它部署在自己的硬體上,再透過任何支援本機伺服器或 OpenAI 相容伺服器的擴充套件連接 VS Code、JetBrains 或 Neovim。補全請求和隨之送出的程式碼都留在你的網路內。
訓練資料由你決定
訓練在 Ertas 的雲端 GPU 上進行,因此訓練集會上傳到 Ertas。只擷取政策允許的儲存庫和檔案,事先清除金鑰和憑證,並在訓練前於 Data Craft 中審核範例。資料集會被保存,方便重複訓練,用完後也可以隨時刪除。
Example Workflow
一家擁有 200 名工程師、維護大型 Python 和 TypeScript 單體儲存庫的金融科技公司,希望導入遵循自家規範的 AI 程式碼補全,同時不把交易和風控程式碼交給第三方 AI API。平台工程團隊撰寫了一支內部腳本,從單體儲存庫中擷取程式碼與註解配對、附 docstring 的函式簽章以及 pull request 審查意見。腳本會略過智慧財產權政策標記為受限的目錄並清除金鑰,輸出整理成 JSONL 資料集後上傳到 Ertas Studio。團隊在畫布上以 Qwen 2.5 7B 為基礎模型設定了兩個 LoRA 微調任務,一個使用 Python 後端範例,一個使用 TypeScript 前端範例,另外在 Llama 3.1 8B 上設定對應的兩個任務來比較基礎模型。四個任務並行訓練。團隊下載訓練完成的模型,用一組預留的內部補全任務進行測試,檢查建議是否引用了正確的內部套件,是否遵循團隊的錯誤處理和 TypeScript 嚴格模式慣例。每個程式碼庫表現較好的模型部署到公司 Kubernetes 叢集中的一台 GPU 伺服器上,位於企業 VPN 之後,並透過開發者編輯器擴充套件已經支援的 OpenAI 相容執行環境提供服務。補全請求和隨之送出的程式碼都留在公司硬體上。接下來幾週,團隊持續追蹤開發者採用建議的比例,並隨著程式碼庫演進,用新的審查意見重新訓練。
Related Resources
Fine-Tuning(微調)
GGUF
JSONL
LoRA
Inference(推論)
Quantization(量化)
Base Model(基礎模型)
Privacy-Conscious AI Development: Fine-Tune in the Cloud, Run on Your Terms
Getting Started with Ertas: Fine-Tune and Deploy Custom AI Models
From Cursor to Production: Deploying AI Features Without Vendor Lock-In
Vibe-Coded App AI Costs: $4.5K/Month at 8K Users
Hugging Face
Ollama
llama.cpp
LM Studio
vLLM
Cursor
Ertas for SaaS Product Teams
Ertas for Content Creation
Ertas for Data Extraction
Ertas for Finance
Ertas for Indie Developers & Vibe-Coded Apps
Ertas for ML Engineers & Fine-Tuning Practitioners
Ship AI that runs on your users' devices.
Start free with 150 credits after card verification. Paid plans from $20/mo USD.