Claude Desktop是强大的AI助手。你的微调模型专门用于你的领域。你可以通过MCP(Model Context Protocol)连接它们,获得Claude的界面加你的模型的领域专业知识——专门推理零API成本。
前提条件
- 已安装Claude Desktop
- 来自Ertas的微调GGUF模型
- Node.js 18+
- 8GB以上RAM
步骤1:安装和配置Ollama
# macOS / Linux
curl -fsSL https://ollama.ai/install.sh | sh导入你的微调GGUF模型:
cat > Modelfile << 'EOF'
FROM /path/to/your-model.gguf
SYSTEM """
你是[你的领域]的专业AI助手。
"""
PARAMETER temperature 0.3
PARAMETER num_ctx 4096
EOF
ollama create my-domain-model -f Modelfile步骤2:安装MCP SDK
mkdir claude-domain-mcp
cd claude-domain-mcp
npm init -y
npm install @modelcontextprotocol/sdk步骤3:编写MCP服务器
创建server.mjs,定义Claude可以使用的工具,连接到你的Ollama模型。
步骤4:配置Claude Desktop
编辑配置文件,添加你的MCP服务器。使用server.mjs的绝对路径。
步骤5:验证连接
在Claude Desktop中,查找工具图标,你应该看到ask_domain_model。

