Claude Desktop + 本地微调模型：完整设置指南

Claude Desktop是强大的AI助手。你的微调模型专门用于你的领域。你可以通过MCP（Model Context Protocol）连接它们，获得Claude的界面加你的模型的领域专业知识——专门推理零API成本。

前提条件

• 已安装Claude Desktop
• 来自Ertas的微调GGUF模型
• Node.js 18+
• 8GB以上RAM

步骤1：安装和配置Ollama

# macOS / Linux
curl -fsSL https://ollama.ai/install.sh | sh

导入你的微调GGUF模型：

cat > Modelfile << 'EOF'
FROM /path/to/your-model.gguf
SYSTEM """
你是[你的领域]的专业AI助手。
"""
PARAMETER temperature 0.3
PARAMETER num_ctx 4096
EOF

ollama create my-domain-model -f Modelfile

步骤2：安装MCP SDK

mkdir claude-domain-mcp
cd claude-domain-mcp
npm init -y
npm install @modelcontextprotocol/sdk

步骤3：编写MCP服务器

创建server.mjs，定义Claude可以使用的工具，连接到你的Ollama模型。

步骤4：配置Claude Desktop

编辑配置文件，添加你的MCP服务器。使用server.mjs的绝对路径。

步骤5：验证连接

在Claude Desktop中，查找工具图标，你应该看到ask_domain_model。

---