Ertas 助力代码生成
用内部代码库、编码规范和架构模式微调开源模型,再把训练好的模型部署在自己的服务器上,让补全请求和随之发送的代码都留在你的网络内。
The Challenge
软件开发团队正在快速采用 AI 驱动的代码补全、代码审查和文档生成功能——但通用代码模型在企业代码库上的生产力提升很快就会遇到瓶颈。内部框架、专有 API、自定义设计模式和组织特定的编码规范对于在公共开源仓库上训练的模型来说是不可见的。结果是 AI 建议在语法上有效但在架构上是错误的:导入已弃用的内部包、忽略自定义 lint 规则,或生成与团队既定模式相矛盾的样板代码。
知识产权是更深层的问题。企业源代码代表着多年的工程投资和竞争优势。将专有代码发送到第三方 AI 提供商的 API——在那里它可能被记录、缓存或以聚合方式用于改进提供商的模型——造成了法务和安全团队有理由拒绝的知识产权风险。许多有严格知识产权政策的组织已经完全禁止了基于云的代码助手,迫使开发人员在竞争对手借助 AI 加速的同时回到手动工作流程。
The Solution
借助 Ertas,工程团队可以训练一个熟悉自家代码库的代码模型,并在自己的基础设施上运行它。在 Ertas Studio 中,平台团队上传由内部仓库整理出的 JSONL 数据集(代码与注释对、带 docstring 的函数签名、pull request diff 和代码评审意见),通过可视化画布在 Ertas 的云端 GPU 上用 LoRA 微调开源模型。训练需要把数据集上传到 Ertas,因此由团队自己决定放进哪些内容:只选知识产权政策允许的仓库,并事先清除密钥和凭据。多个专用模型可以并行训练:一个面向后端服务,一个面向移动端代码库,还有一个面向基础设施即代码模板。每个模型都会学到所在那部分代码的内部包、错误处理模式和编码约定。
某次训练结果满意后,团队从 Hub 下载模型:GGUF 格式适用于 llama.cpp、Ollama 或 LM Studio,完整的 safetensors 适用于 vLLM 等服务端运行时。模型运行在公司自己的服务器或开发者的电脑上,补全请求、随请求发送的代码上下文以及返回的建议都留在内网。编辑器可以通过任何支持本地服务器或 OpenAI 兼容服务器的扩展或网关来调用它。模型归公司所有,运行时不 依赖 Ertas。
Key Features
代码库微调
使用 Studio 的可视化画布,基于内部仓库整理出的 JSONL 数据集微调开源模型,数据可以包括代码与注释对、pull request diff、代码评审反馈和文档。可以为不同语言、框架或代码库的不同部分分别训练模型,并同时运行多个训练任务来比较基础模型和参数配置。
规模合适的开源基础模型
从 Studio 模型目录中的开源模型起步,例如 Qwen 2.5 7B、Llama 3.1 8B、Mistral 7B 或 Phi-4 Mini,也可以从 Hugging Face 导入兼容的模型。1B 到 4B 的小模型适合快速的行内补全,7B 和 8B 的模型则为代码评审和文档任务留出更多余量。
在自有服务器上运行补全
从 Hub 下载训练好的模型:GGUF 格式适用于 llama.cpp、Ollama 或 LM Studio,完整的 safetensors 适用于 vLLM。把它部署在自己的硬件上,再通过任何支持本地服务器或 OpenAI 兼容服务器的扩展连接 VS Code、JetBrains 或 Neovim。补全请求和随之发送的代码都留在你的网络内。
训练数据由你决定
训练在 Ertas 的云端 GPU 上进行,因此训练集会上传到 Ertas。只提取政策允许的仓库和文件,事先清除密钥和凭据,并在训练前于 Data Craft 中审核示例。数据集会被保存,方便重复训练,用完后也可以随时删除。
Example Workflow
一家拥有 200 名工程师、维护着大型 Python 和 TypeScript 单体仓库的金融科技公司,希望引入遵循自家规范的 AI 代码补全,同时不把交易和风控代码交给第三方 AI API。平台工程团队编写了一个内部脚本,从单体仓库中提取代码与注释对、带 docstring 的函数签名以及 pull request 评审意见。脚本会跳过知识产权政策标记为受限的目录并清除密钥,输出整理成 JSONL 数据集后上传到 Ertas Studio。团队在画布上以 Qwen 2.5 7B 为基础模型设置了两个 LoRA 微调任务,一个使用 Python 后端示例,一个使用 TypeScript 前端示例,另外在 Llama 3.1 8B 上设置了对应的两个任务来比较基础模型。四个任务并行训练。团队下载训练完成的模型,用一组预留的内部补全任务进行测试,检查建议是否引用了正确的内部包,是否遵循团队的错误处理和 TypeScript 严 格模式约定。每个代码库表现更好的那个模型部署到公司 Kubernetes 集群中的一台 GPU 服务器上,位于企业 VPN 之后,并通过开发者编辑器扩展已经支持的 OpenAI 兼容运行时提供服务。补全请求和随之发送的代码都留在公司硬件上。接下来几周,团队持续跟踪开发者接受建议的比例,并随着代码库的演进,用新的评审意见重新训练。
Related Resources
微调
GGUF
JSONL
LoRA
推理
量化(Quantization)
基础模型
Privacy-Conscious AI Development: Fine-Tune in the Cloud, Run on Your Terms
Getting Started with Ertas: Fine-Tune and Deploy Custom AI Models
From Cursor to Production: Deploying AI Features Without Vendor Lock-In
Vibe-Coded App AI Costs: $4.5K/Month at 8K Users
Hugging Face
Ollama
llama.cpp
LM Studio
vLLM
Cursor
Ertas for SaaS Product Teams
Ertas for Content Creation
Ertas for Data Extraction
Ertas for Finance
Ertas for Indie Developers & Vibe-Coded Apps
Ertas for ML Engineers & Fine-Tuning Practitioners
Ship AI that runs on your users' devices.
Start free with 150 credits after card verification. Paid plans from $20/mo USD.