內部知識庫
建構理解您組織內部知識並提供準確答案的 AI 模型
The Challenge
每個組織都會在 wiki、Confluence 頁面、SharePoint 網站、Slack 對話、電子郵件存檔和資深員工的腦海中累積機構知識。在需要時找到正確的資訊是現代組織中最持久的生產力挑戰之一。據估計,員工將 20% 的工作時間花在搜尋資訊、向同事提問以及重新創建組織中某處已存在的知識。
通用 AI 聊天工具和企業搜尋解決方案部分解決了這個問題,但在關鍵方面仍有不足。它們可以檢索包含相關關鍵字的文件,但無法回答需要綜合多個來源資訊或理解組織特定脈絡的問題。像「我們處理客戶資料外洩的流程是什麼?」或「哪個團隊負責與 Stripe 的計費整合?」這樣的問題需要了解組織的特定流程、團隊結構和技術堆疊——通用模型不具備的脈絡,關鍵字搜尋也無法提供。
The Solution
Ertas 讓組織能以自己的內部文件、來自服務台和支援管道的問答對以及流程文件微調知識庫模型。產出的模型會學到組織的術語、團隊結構、工具和作業程序,能在公司自身的脈絡中回答問題,並替員工指出合適的資源。搭配以最新文件為基礎的 RAG,它的回答既來自訓練所學,也來自最新的文件。
在 Ertas Studio 中,知識管理團隊以從內部支援管道、IT 服務台工單、HR 常見問題回覆和專家訪談中整理出的問答對進行訓練。模型會學到每個答案背後的脈絡:該聯絡哪個團隊、用哪個工具、走哪個流程,以及有哪些例外。模型從 Hub 匯出後,透過 AnythingLLM、Dify 或自建的聊天介面部署在內部基礎設施上,成為員工可用自然語言提問的對話助理,問題和答案都留在公司網路內。訓練資料需要上傳到 Ertas 的雲端 GPU,因此請把受限資料排除在訓練集之外。文件層級的權限應交由檢索層處理。訓練過的模型可能把訓練資料中的任何內容告訴任何提問的人,所以只用助理所有使用者都有權查看的知識來訓練。
Key Features
組織知識訓練
在 Studio 中以內部問答對、流程文件和組織知識訓練模型。模型會學到貴組織的術語、團隊結構和作業程序。
在 Data Craft 中整理問答
在 Studio 的引導式資料集建構工具 Data Craft 中建立訓練集。各領域專家以 ASSISTANT 回合撰寫或修正答案,在流程變動時保存新版本,並在訓練前逐筆核准。
私有知識助理
Hub 列出您訓練好的模型。可匯出為 GGUF 搭配 Ollama 或 LM Studio,或匯出完整的 safetensors 搭配 vLLM,再部署在聊天介面、Slack 機器人或搜尋元件後面。查詢和回覆都留在您的基礎設施內。
權限交由檢索層處理
把存取規則放在替模型提供最 新文件的檢索層,讓每位使用者只能檢索到自己原本就能開啟的內容。模型本身只用助理所有使用者都有權查看的知識來訓練。
Example Workflow
一家 2,000 人的科技公司,組織知識分散在 Confluence(15,000 個頁面)、Slack(3 年的歷史紀錄)和 Zendesk 服務台(50,000 張已解決工單)中。IT 和 People Ops 團隊從服務台工單、Slack 支援頻道和整理過的常見問題文件中擷取 25,000 組問答對,刪除個人資料和僅限特定團隊查看的內容後上傳到 Ertas Studio。專家在 Data Craft 中審閱 HR 和資安相關的答案後再核准。團隊微調出一個熟悉公司工具(內部系統名稱、縮寫、團隊名稱)、流程(到職、採購、事件應變)和政策(休假、報帳、資料分級)的模型,並用一組保留的真實員工問題比較各次訓練。選定的模型匯出後透過 AnythingLLM 部署在內部基礎設施上,並在現有權限下把 Confluence 頁面載入為 RAG 脈絡。員工透過 Slack 機器人和網頁介面使用它。團隊以自己的評估追蹤服務台工單量和回答準確率,並每季以新解決的工單重新訓練。
Related Resources
Fine-Tuning(微調)
JSONL
LoRA
Inference(推論)
Getting Started with Ertas: Fine-Tune and Deploy Custom AI Models
Privacy-Conscious AI Development: Fine-Tune in the Cloud, Run on Your Terms
Running AI Models Locally: The Complete Guide to Local LLM Inference
Fine-Tune AI Without Code: 6 Visual Steps
Self-Hosted AI for Indie Apps: Replace GPT-4 with Your Own Model
Ollama
LlamaIndex
LangChain
Ertas for Customer Support
Ertas for SaaS Product Teams
Ertas for Education
Ertas for Data Extraction
Ship AI that runs on your users' devices.
Start free with 150 credits after card verification. Paid plans from $20/mo USD.