Flowise + Ertas

在 Flowise 中使用 Ertas 訓練的模型作為推理引擎，以視覺化方式建構 AI 自動化工作流程——無需編碼即可建構複雜的 LLM 管線。

Overview

Flowise 是一個用於 LLM 應用程式的開源視覺化工作流程建構器。它提供拖放畫布，使用者可以將預建節點——聊天模型、向量儲存、文件載入器、工具和記憶體模組——連接成功能完整的 AI 管線，無需編寫程式碼。Flowise 基於 LangChain 建構，透過直觀的視覺介面暴露鏈式協調的全部功能，使 LLM 應用程式開發對非開發者更加可及，同時對經驗豐富的工程師也大幅提速。

Flowise 支援作為自託管服務部署，具有內建 API 層，這意味著在視覺編輯器中建構的工作流程可以作為 REST 端點被任何應用程式使用。它包括內建的認證管理、對話記憶和分析儀表板。對於需要快速迭代 AI 工作流程——測試不同提示、檢索策略和模型設定——的團隊，Flowise 消除了程式碼-編譯-部署的循環，取而代之以即時視覺回饋迴路。

How Ertas Integrates

Ertas 訓練的模型透過任何 OpenAI 相容的聊天模型節點連接到 Flowise。在 Ertas Studio 中微調後，您透過 Ollama、vLLM 或 Ertas Cloud 部署模型，然後在 Flowise 畫布中新增 ChatOpenAI 或 ChatOllama 節點並將其指向您的推理端點。該模型立即可作為您建構的任何工作流程的推理引擎——RAG 鏈、對話代理、文件處理管線或多步驟分類流程。

這種組合對業務團隊和自動化代理商特別強大。Ertas 處理模型微調和部署的技術複雜性，而 Flowise 提供建構和迭代 AI 工作流程的視覺介面。行銷團隊可以在 Ertas Studio 中微調品牌聲音模型，在本地部署，然後使用 Flowise 建構從知識庫中提取內容的內容生成工作流程——完全無需接觸任何一行程式碼。結果是通常需要完整 ML 工程團隊才能實現的領域特定 AI 自動化。

Getting Started

1
在 Ertas Studio 中微調您的模型
針對您的特定使用場景資料訓練模型。Ertas Studio 自動處理資料集準備、訓練設定和模型匯出。
2
部署到本地或雲端端點
匯出 GGUF 模型並透過 Ollama 或 vLLM 在本地提供服務，或部署到 Ertas Cloud 以獲得託管端點。
3
在 Flowise 中新增聊天模型節點
開啟 Flowise 畫布並拖入 ChatOpenAI 或 ChatOllama 節點。使用您的模型端點 URL 和模型名稱進行設定。
4
以視覺化方式建構工作流程
連接文件載入器、向量儲存、提示範本和工具節點來建立您的 AI 工作流程。使用內建聊天介面進行即時測試。
5
部署為 API 端點
將您的 Flowise 工作流程發布為 REST API。任何應用程式現在都可以透過簡單的 HTTP 呼叫使用您的領域特定 AI 管線。

json

{
  "nodes": [
    {
      "id": "chatModel_0",
      "type": "ChatOpenAI",
      "data": {
        "baseUrl": "http://localhost:11434/v1",
        "modelName": "ertas-support-7b",
        "temperature": 0.2,
        "maxTokens": 1024
      }
    },
    {
      "id": "vectorStore_0",
      "type": "InMemoryVectorStore",
      "data": {
        "topK": 5
      }
    },
    {
      "id": "chain_0",
      "type": "ConversationalRetrievalQA",
      "data": {
        "returnSourceDocuments": true
      }
    }
  ]
}

範例 Flowise 工作流程設定，將 Ertas 訓練的模型連接到向量儲存以進行對話式問答。