文字摘要

    建構自動摘要長文件和內容的 AI 模型

    The Challenge

    每個組織都淹沒在文字中——會議逐字稿、研究論文、法律辯護狀、客戶回饋、新聞文章和內部報告。摘要工具承諾解決這種過載,但通用模型產出的摘要遺漏了領域關鍵的細節。臨床試驗報告的通用摘要可能捕捉了頭條結果,但遺漏了安全審查員需要的不良事件資料。法律動議的摘要可能改述了論點,但丟失了訴訟律師依賴的特定法規引用。

    根本問題在於摘要需要對什麼重要做出判斷——而重要性是領域相關的。財報電話會議逐字稿中重要的內容(營收指引、利潤趨勢、競爭定位)與病患出院摘要中重要的內容(藥物變更、追蹤預約、警告徵兆)完全不同。通用模型應用通用的重要性信號,產出語法正確但遺漏使摘要對領域專家有用的特定資訊的摘要。

    The Solution

    Ertas 讓團隊用所屬領域專家撰寫的摘要範例微調摘要模型。透過在完整文件與專家所寫摘要組成的配對上訓練,模型不只學會壓縮文字,也學會針對特定讀者該保留什麼。在 Ertas Studio 中,團隊上傳 JSONL 資料集,每筆記錄包含原文和目標摘要,也可以在 Studio 的引導式資料集建構工具 Data Craft 中建立資料集,再透過視覺化畫布以 LoRA 微調開源模型,同時執行多種設定加以比較。

    經過訓練的小模型就能把這件事做好。在 QMSum 會議摘要基準上,一個用 Ertas 訓練的 1.2B 模型在測試集上取得 35.41 的 ROUGE-1,而五個代管前沿模型在零樣本條件下的最佳成績是 32.43。完整方法及其限制請見我們的研究頁面。訓練好的模型從 Hub 匯出為 GGUF 或 safetensors,在您自己的伺服器上透過 Ollama、llama.cpp 或 vLLM 執行,可以隨需產生摘要、在夜間批次處理文件,或為應用程式中的摘要功能提供支援,它讀取的文件留在您的網路內。訓練在 Ertas 的雲端 GPU 上進行,文件與摘要的配對會上傳到 Ertas,因此請盡可能先刪除其中的機密內容。當優先事項改變或出現新的文件類型時,團隊補充更新後的範例、重新訓練即可。

    Key Features

    Studio

    領域專屬摘要訓練

    用所屬領域專家撰寫的摘要範例訓練摘要模型。範例決定輸出的長度、結構和重點:用一頁執行摘要訓練出來的模型,寫出的就是一頁執行摘要。

    Studio

    在 Data Craft 中審核摘要

    領域專家在 Studio 的引導式資料集建構工具 Data Craft 中編輯並核准範例摘要,並隨著內部寫作風格的變動保存資料集版本。模型從專家認可的摘要中學習。

    Hub

    匯出並在內部執行

    從 Hub 下載訓練好的模型:GGUF 格式用於 llama.cpp、Ollama 或 LM Studio,完整的 safetensors 用於 vLLM。在您自己的伺服器上部署,隨需或依排程批次產生摘要,執行時不依賴 Ertas。

    Cloud

    自適應模型端點

    如果您現在的摘要來自前沿模型 API,自適應模型端點為這項任務提供一個統一的 API:以您自己的請求和團隊回饋訓練的客製模型,在通過您的評測後承擔愈來愈多的請求,疑難案例仍交由前沿模型處理。部署方式可選 Ertas 代管、您自己的雲端環境或地端部署。

    Example Workflow

    一家管理顧問公司每週處理 200 多份客戶交付成果(產業分析、競爭評估和策略建議),每份 30 到 80 頁。資深合夥人需要一頁的執行摘要,突顯策略洞察、市場規模資料和建議行動。知識管理團隊從過往交付成果中蒐集了 5,000 組文件與摘要的配對,刪除客戶名稱後上傳到 Ertas Studio。他們微調出一個模型,依合夥人偏好的結構撰寫執行摘要:策略背景、關鍵發現和建議行動。正式上線前,合夥人在一組模型從未見過的交付成果上,把它的草稿與人工撰寫的摘要加以比較。模型從 Hub 匯出,在公司自己的伺服器上執行,接上文件管理系統。顧問上傳最終交付成果後,系統會產生一份執行摘要草稿,交由合夥人審閱和修改。

    Related Resources

    Ship AI that runs on your users' devices.

    Start free with 150 credits after card verification. Paid plans from $20/mo USD.