LMStudio-MCP

一个模型控制协议（MCP）服务器，允许Claude通过LM Studio与本地运行的LLM模型进行通信。

<img width="1881" alt="截图 2_22_2025 16_50_53" src="https://gips1.baidu.com/it/u=3191696185,2826625428&fm=3081&app=3081&f=PNG?w=3762&h=2096" />

概述

LMStudio-MCP在Claude（具有MCP能力）和您本地运行的LM Studio实例之间创建了一个桥梁。这使得Claude能够：

• 检查您的LM Studio API的健康状况
• 列出可用的模型
• 获取当前加载的模型
• 使用本地模型生成完成内容

这使您可以通过Claude的界面利用自己本地运行的模型，结合Claude的能力与您的私有模型。

预备条件

• Python 3.7+
• 已安装并本地运行的LM Studio，且已加载模型
• 具有MCP访问权限的Claude
• 所需的Python包（参见安装部分）

🚀 快速安装

单行安装（推荐）

curl -fsSL https://raw.githubusercontent.com/infinitimeless/LMStudio-MCP/main/install.sh | bash

手动安装方法

1. 本地Python安装

git clone https://github.com/infinitimeless/LMStudio-MCP.git
cd LMStudio-MCP
pip install requests "mcp[cli]" openai

2. Docker安装

# 使用预构建镜像
docker run -it --network host ghcr.io/infinitimeless/lmstudio-mcp:latest

# 或者本地构建
git clone https://github.com/infinitimeless/LMStudio-MCP.git
cd LMStudio-MCP
docker build -t lmstudio-mcp .
docker run -it --network host lmstudio-mcp

3. Docker Compose

git clone https://github.com/infinitimeless/LMStudio-MCP.git
cd LMStudio-MCP
docker-compose up -d

详细的部署说明，请参阅DOCKER.md。

MCP配置

快速设置

直接使用GitHub（最简单）：

{
  "lmstudio-mcp": {
    "command": "uvx",
    "args": [
      "https://github.com/infinitimeless/LMStudio-MCP"
    ]
  }
}

使用本地安装：

{
  "lmstudio-mcp": {
    "command": "/bin/bash",
    "args": [
      "-c",
      "cd /path/to/LMStudio-MCP && source venv/bin/activate && python lmstudio_bridge.py"
    ]
  }
}

使用Docker：

{
  "lmstudio-mcp-docker": {
    "command": "docker",
    "args": [
      "run",
      "-i",
      "--rm",
      "--network=host",
      "ghcr.io/infinitimeless/lmstudio-mcp:latest"
    ]
  }
}

完整的MCP配置说明，请参阅MCP_CONFIGURATION.md。

使用方法

1. 启动LM Studio，确保它运行在默认端口1234上
2. 在LM Studio中加载一个模型
3. 使用上述配置之一配置Claude MCP
4. 当提示时，在Claude中连接到MCP服务器

可用功能

该桥梁提供了以下功能：

• health_check()：验证LM Studio API是否可访问
• list_models()：获取LM Studio中所有可用模型的列表
• get_current_model()：识别当前加载的模型
• chat_completion(prompt, system_prompt, temperature, max_tokens)：从您的本地模型生成文本

部署选项

此项目支持多种部署方式：

方法	使用场景	优点	缺点
本地Python	开发、简单设置	快速、直接控制	需要Python环境
Docker	隔离环境	清洁、便携	需要Docker
Docker Compose	生产部署	易于管理	设置更复杂
Kubernetes	企业级/扩展	高度可扩展	配置复杂
GitHub直接	零设置	不需要本地安装	需要互联网

已知限制

• 某些模型（例如phi-3.5-mini-instruct_uncensored）可能存在兼容性问题
• 目前桥梁仅使用LM Studio的OpenAI兼容API端点
• 模型响应将受限于您本地加载模型的能力

故障排除

API连接问题

如果Claude尝试连接LM Studio时报告404错误：

• 确保LM Studio正在运行并且已加载模型
• 检查LM Studio的服务器是否运行在端口1234上
• 确认防火墙没有阻止连接
• 如果问题持续，尝试在API URL中使用"127.0.0.1"而不是"localhost"

模型兼容性

如果某些模型不能正常工作：

• 某些模型可能不完全支持OpenAI聊天完成API格式
• 尝试为有问题的模型使用不同的参数值（温度、最大令牌数）
• 如果问题持续，考虑切换到一个更兼容的模型

详细的故障排除帮助，请参阅TROUBLESHOOTING.md。

🐳 Docker及容器化

此项目包括全面的Docker支持：

• 多架构镜像（AMD64，ARM64/Apple Silicon）
• 通过GitHub Actions进行自动构建
• GitHub Container Registry上的预构建镜像
• 使用Docker Compose进行轻松部署
• 用于生产部署的Kubernetes清单

完整的容器化文档，请参阅DOCKER.md。

贡献

欢迎贡献！请参阅CONTRIBUTING.md以获取指南。

许可证

MIT

致谢

该项目最初开发为“Claude-LMStudio-Bridge_V2”，现已更名为并开源为“LMStudio-MCP”。

---

🌟 如果这个项目对您有所帮助，请考虑给它一个星！