法律
以事務所自己的法律文件訓練 AI 模型,再於自有伺服器上執行,律師日常送給模型的客戶文件都留在事務所內部。
The Challenge
律師事務所和企業法律部門每天都會產出大量的合約、辯護狀、備忘錄和案例法研究。從這些資料中提取模式——識別供應商協議中的不利條款、摘要證言,或在數千份文件中找出相關判例——正是大型語言模型擅長的任務。然而在網路文字上訓練的通用模型經常誤用法律術語、混淆管轄權,並產出引用不存在案例的引述。
保密性問題比準確性問題更為嚴重。律師-客戶保密特權和工作成果原則對法律資料的處理方式施加了嚴格的義務。將客戶合約或訴訟策略文件發送到第三方 API——在那裡資料可能被記錄、快取或用於模型改進——產生了任何法務長都不願接受的特權放棄風險。許多事務所有全面禁止在客戶事務上使用外部 AI 服務的政策,使律師無法享受企業其他部門所享有的生產力提升。
The Solution
Ertas 讓法律團隊建構在自身領域內準確的 AI 模型。在 Ertas Studio 中,法律科技人員以精選的去識別化合約、案例摘要與內部知識管理內容微調開源模型。這些資料可以用 JSONL 上傳,也可以在 Studio 的引導式資料集建構工具 Data Craft 中建立,由律師逐筆審閱、編輯並核准。LoRA 微調讓訓練維持高效,多個候選模型可以平行訓練、並排比較。訓練出的模型會掌握事務所的引註格式、合約慣用條款與各法域特有的用語。
訓練在 Ertas 的雲端 GPU 上進行,因此訓練集會上傳到 Ertas。事務所應先去識別化或盡量精簡,並依自身的保密義務決定哪些資料適合用於訓練。訓練完成後,從 Hub 以 GGUF 或 safetensors 格式下載模型,在事務所自己的伺服器上執行,律師日常工作中送給模型的文件都留在事務所網路內。存取控制、案件區隔、道德牆與日誌紀錄,由事務所在該伺服器周邊既有的系統負責。如需協助規劃專案,可以從 Ertas 的企業專屬模型服務開始:先進行免費的使用案例評估,再進行為期三到四週的概念驗證。
Key Features
法律語料庫微調
使用 Studio 的視覺化微調畫布,在合約條款、法律問答配對、案例摘要和監管文字的 JSONL 資料集上訓練模型。套用 LoRA 適配器為合約審查、法律研究或文件起草進行模型專門化,無需完整重新訓練的成本。
經律師審閱的訓練資料
在 Studio 的引導式資料集建構工具 Data Craft 中建立並修訂範例。律師可以新增與編輯 USER 和 ASSISTANT 輪次、保留版本,並標記哪些範例已核准,確保只有審閱過的內容進入訓練。
在自有伺服器上推論
從 Hub 下載訓練好的模型,GGUF 格式可用於 llama.cpp 或 Ollama,safetensors 格式可用於 vLLM,再於事務所自己的伺服器上執行。審閱過程中送給模型的文件都留在事務所網路內,模型執行時也不依賴 Ertas。
每個業務組一個獨立模型
為公司法務、訴訟或智慧財產團隊分別訓練獨立模型,每個模型只使用該團隊自己的資料集。每個模型都是事務所擁有的檔案,可以放在事務所既有的存取規則與道德牆之後。
Example Workflow
一家中型企業法律事務所希望加快併購實地查核中的合約審閱。法律科技團隊從事務所的文件管理系統匯出 30,000 份商業合約,進行去識別化並移除客戶識別資訊,再把逐條款的標註轉成 JSONL 資料集。上傳到 Ertas Studio 之前,資深律師先在 Data Craft 中抽查部分樣本。團隊在 Mistral 7B 與 Llama 3.1 8B 上平行啟動 LoRA 微調,著重條款分類與風險標記,並以一組事務所律師已審閱過的預留合約比較每次訓練的結果。表現較好的模型以 safetensors 格式匯出,在事務所自己的伺服器上以 vLLM 提供服務。交易團隊的律師透過連接該伺服器的內部審閱工具提交目標公司的合約,取得針對控制權變更條款、賠償上限與非標準終止條款的逐條風險提示。律師會複核每一個標記,他們的修正會用於下一次訓練。
Compliance & Security
某種 AI 使用方式能否保全律師與客戶間的特權,或是否符合律師公會與職業倫理規範,由事務所自行判斷,Ertas 不對此 作任何表態。產品實際做的是:訓練在 Ertas 的雲端 GPU 上進行,因此訓練集會上傳到 Ertas,請在上傳前將客戶資料去識別化或盡量精簡,並確認用於訓練符合事務所的委任條款。資料集會被保存,以便重複訓練,你也可以刪除它們。匯出後,模型在事務所自己的基礎設施上執行,日常工作中送給模型的文件都留在那裡。該伺服器周邊的存取控制、道德牆與日誌紀錄,由事務所既有的系統負責。
Related Resources
Fine-Tuning(微調)
GGUF
JSONL
LoRA
Inference(推論)
Privacy-Conscious AI Development: Fine-Tune in the Cloud, Run on Your Terms
Introducing Ertas Studio: A Visual Canvas for Fine-Tuning AI Models
Data Sovereignty for AI Agencies: Why Clients Demand Local Models
Hugging Face
Ollama
llama.cpp
Ertas for Healthcare
Ertas for Finance
Ertas for Customer Support
Ertas for Data Extraction
Ertas for AI Automation Agencies
Ship AI that runs on your users' devices.
Start free with 150 credits after card verification. Paid plans from $20/mo USD.