Flowise + Ertas

在 Flowise 中使用 Ertas 训练的模型作为推理引擎，通过可视化方式构建 AI 自动化工作流——无需代码即可创建复杂的 LLM 管道。

Overview

Flowise 是一个用于 LLM 应用的开源可视化工作流构建器。它提供了一个拖放式画布，用户可以在其中连接预构建的节点——聊天模型、向量存储、文档加载器、工具和内存模块——组成功能完善的 AI 管道，无需编写代码。基于 LangChain 构建，Flowise 通过直观的可视化界面暴露了链编排的全部功能，使 LLM 应用开发对非开发者更加友好，对经验丰富的工程师也大幅提升效率。

Flowise 支持以自托管服务的方式部署，并带有内置的 API 层，这意味着在可视化编辑器中构建的工作流可以作为 REST 端点被任何应用消费。它包含内置的凭证管理、对话内存和分析仪表板。对于需要快速迭代 AI 工作流——测试不同的提示、检索策略和模型配置——的团队来说，Flowise 消除了代码编译部署的循环，代之以实时的可视化反馈回路。

How Ertas Integrates

Ertas 训练的模型通过任何兼容 OpenAI 的聊天模型节点连接到 Flowise。在 Ertas Studio 中微调后，您通过 Ollama、vLLM 或 Ertas Cloud 部署模型，然后在 Flowise 画布中添加 ChatOpenAI 或 ChatOllama 节点并将其指向您的推理端点。该模型立即成为您构建的任何工作流的推理引擎——RAG 链、对话式智能体、文档处理管道或多步骤分类流程。

这种组合对于业务团队和自动化代理机构特别强大。Ertas 处理模型微调和部署的技术复杂性，而 Flowise 提供构建和迭代 AI 工作流的可视化界面。营销团队可以在 Ertas Studio 中针对品牌语调微调模型，在本地部署，然后使用 Flowise 构建一个从知识库中提取信息的内容生成工作流——所有这些都无需接触一行代码。结果是领域特定的 AI 自动化，通常需要一个完整的 ML 工程团队才能实现。

Getting Started

1
在 Ertas Studio 中微调您的模型
针对您的特定用例数据训练模型。Ertas Studio 自动处理数据集准备、训练配置和模型导出。
2
部署到本地或云端点
导出 GGUF 模型并通过 Ollama 或 vLLM 在本地提供服务，或部署到 Ertas Cloud 获取托管端点。
3
在 Flowise 中添加聊天模型节点
打开 Flowise 画布并拖入一个 ChatOpenAI 或 ChatOllama 节点。配置您的模型端点 URL 和模型名称。
4
可视化构建您的工作流
连接文档加载器、向量存储、提示模板和工具节点来创建您的 AI 工作流。使用内置聊天界面进行实时测试。
5
部署为 API 端点
将您的 Flowise 工作流发布为 REST API。任何应用现在都可以通过简单的 HTTP 调用使用您的领域特定 AI 管道。

json

{
  "nodes": [
    {
      "id": "chatModel_0",
      "type": "ChatOpenAI",
      "data": {
        "baseUrl": "http://localhost:11434/v1",
        "modelName": "ertas-support-7b",
        "temperature": 0.2,
        "maxTokens": 1024
      }
    },
    {
      "id": "vectorStore_0",
      "type": "InMemoryVectorStore",
      "data": {
        "topK": 5
      }
    },
    {
      "id": "chain_0",
      "type": "ConversationalRetrievalQA",
      "data": {
        "returnSourceDocuments": true
      }
    }
  ]
}

示例 Flowise 工作流配置，将 Ertas 训练的模型连接到向量存储以实现对话式问答。