AutoGen + Ertas

使用 Ertas 訓練的模型作為專業代理大腦，透過 AutoGen 建構多代理系統，實現協作式問題解決和複雜任務自動化。

Overview

AutoGen 是由 Microsoft Research 開發的開源多代理框架，支援建構多個 AI 代理透過對話協作解決複雜任務的應用程式。AutoGen 不是讓單一 LLM 處理所有事情，而是協調專業代理之間的對話——規劃代理分解任務、程式設計代理編寫解決方案、評論代理審查輸出，以及使用者代理處理人機互動。這種分工方式模仿了人類團隊的工作方式，在複雜的多步驟問題上產生明顯更好的結果。

AutoGen 的對話驅動架構同時支援完全自主的代理團隊和人工監督的工作流程，代理在採取關鍵行動前請求核准。該框架自動處理訊息路由、對話狀態管理、終止條件和錯誤恢復。代理可以使用工具、在沙箱環境中執行程式碼並存取外部資料來源。對於需要建構超越單一提示互動的複雜 AI 工作流程的企業團隊，AutoGen 提供了協調多個專業模型以形成連貫問題解決管線的協調層。

How Ertas Integrates

Ertas 訓練的模型透過為每個代理配置針對其特定角色最佳化的不同微調模型來與 AutoGen 整合。在 Ertas Studio 中訓練多個專家模型後——一個用於規劃、一個用於領域分析、一個用於程式碼生成、一個用於品質審查——您將每個模型分配給相應的 AutoGen 代理。這建立了一個多代理系統，其中每個代理都是其特定功能的專家，而不是依賴單一通用模型處理所有角色。

對代理系統效能的影響是顯著的。充當程式碼審查代理的通用模型可能會遺漏領域特定的反模式，但在您程式碼庫審查歷史上微調的模型能精確捕捉您團隊關注的模式。在您組織的任務分解模式上訓練的規劃代理比通用模型猜測您的工作流程能生成更好的工作分解結構。Ertas 使訓練這些專家模型變得實際可行，因為 LoRA 適配器體積小且訓練效率高——您可以維護一個共享相同基礎模型的角色特定適配器庫，部署到使用 Ollama 或 vLLM 的同一推理伺服器上。

Getting Started

1
識別代理角色並微調專家模型
規劃您的多代理工作流程並識別專家角色。在 Ertas Studio 中使用角色特定的訓練資料為每個角色微調單獨的模型。
2
將模型部署到推理端點
透過 Ollama（支援同時服務多個模型）提供每個微調模型的服務，或部署單獨的 vLLM 實例以獲得更高的吞吐量。
3
使用模型分配設定 AutoGen 代理
建立 AutoGen 代理，並透過 OpenAI 相容的 API 設定為每個代理分配其專用的 Ertas 訓練模型。
4
定義對話流程和終止條件
設定多代理對話拓撲——哪些代理相互通訊、如何委派任務，以及何時終止對話。
5
運行並最佳化代理團隊
執行多代理工作流程並分析對話記錄。識別哪些代理需要更好的訓練資料，並在 Ertas Studio 中重新訓練以持續改善。

python

from autogen import AssistantAgent, UserProxyAgent

# Configure different Ertas-trained models for each agent role
planner_config = {
    "config_list": [{
        "model": "ertas-planner-7b",
        "base_url": "http://localhost:11434/v1",
        "api_key": "not-needed",
    }]
}

analyst_config = {
    "config_list": [{
        "model": "ertas-legal-analyst-7b",
        "base_url": "http://localhost:11434/v1",
        "api_key": "not-needed",
    }]
}

# Create specialized agents
planner = AssistantAgent(
    name="Planner",
    system_message="Break down complex legal research tasks into steps.",
    llm_config=planner_config,
)

analyst = AssistantAgent(
    name="LegalAnalyst",
    system_message="Analyze legal documents and extract key findings.",
    llm_config=analyst_config,
)

user_proxy = UserProxyAgent(name="User", human_input_mode="TERMINATE")

# Start a multi-agent conversation
user_proxy.initiate_chat(
    planner,
    message="Analyze the merger agreement for antitrust risks.",
)

使用不同的 Ertas 訓練模型分別擔任規劃和領域分析角色，透過 AutoGen 建立多代理法律分析系統。