跳到正文
    Ertas

    來自實作的
    思考與記錄。

    指南、研究筆記,以及我們在建立模型時學到的經驗。

    如何合法蒸餾開源模型

    當教師模型的授權允許衍生作品時,模型蒸餾就是合法的。如何選擇開源教師模型、訓練學生模型並匯出為 GGUF。

    閱讀文章

    SaaS 客戶支援自動化的微調 AI

    你的 RAG 聊天機器人解決 34% 的支援工單。微調將其推升至 87%。以下是如何構建真正有效的支援自動化管道——包含解決率、每張工單成本和所需訓練資料的真實數字。

    閱讀文章

    n8n 和 Make.com 工作流程的微調工具呼叫

    用微調的本地模型替換 n8n 或 Make.com 工作流程中的 OpenAI 節點。相同的工具路由、相同的結構化輸出、零 API 成本。以下是確切的模式——從工作流程日誌中擷取訓練資料到通過 Ollama 部署。

    閱讀文章

    FunctionGemma 與專用工具呼叫模型的崛起

    Google 發布了 FunctionGemma——一個 2.7 億參數的模型,專為函數呼叫而微調。它體積小、速度快,並標誌著一個重大轉變:特定任務模型的時代來臨。這對建構者意味著什麼、何時使用它,以及何時微調自己的模型。

    閱讀文章

    本地模型上的多步驟 AI 代理:架構與模式

    多步驟推理是小型模型歷來失敗的地方。但通過正確的架構——專家鏈、暫存微調和混合路由——你可以在本地 7B-14B 模型上運行可靠的多步驟代理。以下是三種帶有基準測試的已驗證模式。

    閱讀文章

    多租戶微調:SaaS 中的每個客戶 AI 模型

    你的 SaaS 客戶想要了解他們資料的 AI,而不是通用回應。以下是如何使用 LoRA 適配器設計每個租戶的微調模型——包含真實存儲計算、費用分解和可擴展到數百個租戶的服務架構。

    閱讀文章

    代理商每客戶 AI 助理:LoRA + 工具調用實作手冊

    每個代理商客戶都獲得相同的 GPT 封裝。這就是問題所在。通過每客戶 LoRA 適配器和自訂工具模式,您可以提供了解每個客戶 CRM、工作流程和術語的 AI 助理——每個客戶僅需 50-200MB。這是完整的實作手冊。

    閱讀文章

    如何為微調創建工具呼叫訓練資料集

    微調指南中最大的空缺:沒有人說明如何實際建立資料集。以下是創建工具呼叫訓練資料的逐步流程——從模式文件到合成擴展到 JSONL 格式化——包含一個 5 工具客服代理的真實示例。

    閱讀文章