文字摘要
建構自動摘要長文件和內容的 AI 模型
The Challenge
每個組織都淹沒在文字中——會議逐字稿、研究論文、法律辯護狀、客戶回饋、新聞文章和內部報告。摘要工具承諾解決這種過載,但通用模型產出的摘要遺漏了領域關鍵的細節。臨床試驗報告的通用摘要可能捕捉了頭條結果,但遺漏了安全審查員需要的不良事件資料。法律動議的摘要可能改述了論點,但丟失了訴訟律師依賴的特定法規引用。
根本問題在於摘要需要對什麼重 要做出判斷——而重要性是領域相關的。財報電話會議逐字稿中重要的內容(營收指引、利潤趨勢、競爭定位)與病患出院摘要中重要的內容(藥物變更、追蹤預約、警告徵兆)完全不同。通用模型應用通用的重要性信號,產出語法正確但遺漏使摘要對領域專家有用的特定資訊的摘要。
The Solution
Ertas 讓團隊用所屬領域專家撰寫的摘要範例微調摘要模型。透過在完整文件與專家所寫摘要組成的配對上訓練,模型不只學會壓縮文字,也學會針對特定讀者該保留什麼。在 Ertas Studio 中,團隊上傳 JSONL 資料集,每筆記錄包含原文和目標摘要,也可以在 Studio 的引導式資料集建構工具 Data Craft 中建立資料集,再透過視覺化畫布以 LoRA 微調開源模型,同時執行多種設定加以比較。
經過訓練的小模型就能把這件事做好。在 QMSum 會議摘要基準上,一個用 Ertas 訓練的 1.2B 模型在測試集上取得 35.41 的 ROUGE-1,而五個代管前沿模型在零樣本條件下的最佳成績是 32.43。完整方法及其限制請見我們的研究頁面。訓練好的模型從 Hub 匯出為 GGUF 或 safetensors,在您自己的伺服器上透過 Ollama、llama.cpp 或 vLLM 執行,可以隨需產生摘要、在夜間批次處理文件,或為應用程式中的摘要功能提供支援,它讀取的文件留在您的網路內。訓練在 Ertas 的雲端 GPU 上進行,文件與摘要的配對會上傳到 Ertas,因此請盡可能先刪除其中的機密內容。當優先事項改變或出現新的文件類型時,團隊補充更新後的範例、重新訓練即可。
Key Features
領域專屬摘要訓練
用所屬領域專家撰寫的摘要範例訓練摘要模型。範例決定輸出的長度、結構和重點:用一頁執行摘要訓練出來的模型,寫出的就是一頁執行摘要。
在 Data Craft 中審核摘要
領域專家在 Studio 的引導式資料集建構工具 Data Craft 中編輯並核准範例摘要,並隨著內部寫作風格的變動保存資料集版本。模型從專家認可的摘要中學習。
匯出並在內部執行
從 Hub 下載訓練好的模型:GGUF 格式用於 llama.cpp、Ollama 或 LM Studio,完整的 safetensors 用於 vLLM。在您自己的伺服器上部署,隨需或依排程批次產生摘要,執行時不依賴 Ertas。
自適應模型端點
如果您現在的摘要來自前沿模型 API,自適應模型端點為這項任務提供一個統一的 API:以您自己的請求和團隊回饋訓練的客製模型,在通過您的評測後承擔愈來愈多的請求,疑難案例仍交由前沿模型處理。部署方式可選 Ertas 代管、您自己的雲端環境或地端部署。
Example Workflow
一家管理顧問公司每週處理 200 多份客戶交付成果(產業分析、競爭評估和策略建議),每份 30 到 80 頁。資深合夥人需要一頁的執行摘要,突顯策略洞察、市場規模資料和建議行動。知識管理團隊從過往交付成果中蒐集了 5,000 組文件與摘要的配對,刪除客戶名稱後上傳到 Ertas Studio。他們微調出一個模型,依合夥人偏好的結構撰寫執行摘要:策略背景、關鍵發現和建議行動。正式上線前,合夥人在一組模型從未見過的交付成果上,把它的草稿與人工撰寫的摘要加以比較。模型從 Hub 匯出,在公司自己的伺服器上執行,接上文件管理系統。顧問上傳最終交付成果後,系統會產生一份執行摘要草稿,交由合夥人審閱和修改。
Related Resources
Fine-Tuning(微調)
JSONL
LoRA
Inference(推論)
GGUF
Fine-Tune AI Without Code: 6 Visual Steps
Getting Started with Ertas: Fine-Tune and Deploy Custom AI Models
How to Fine-Tune an LLM Locally: 6 Steps (2026)
Privacy-Conscious AI Development: Fine-Tune in the Cloud, Run on Your Terms
Introducing Ertas Studio: A Visual Canvas for Fine-Tuning AI Models
LangChain
LlamaIndex
Ollama
vLLM
Ertas for Legal
Ertas for Healthcare
Ertas for Finance
Ertas for Data Extraction
Ship AI that runs on your users' devices.
Start free with 150 credits after card verification. Paid plans from $20/mo USD.