一个最小化的客户端应用程序,用于与本地 OLLAMA 模型进行交互,利用多个 MCP 代理工具,并使用 BeeAI 框架。
下面是该客户端应用程序的示例视觉图,显示了带有聊天界面的 Postgres 数据库操作,以及 AI 采取的思考步骤,以使用正确的 MCP 代理并转换请求和响应:
<video controls loop muted poster="https://raw.githubusercontent.com/tamdilip/mcp-ollama-beeai/docs/demo-pic.png" src="https://github.com/user-attachments/assets/618b76b5-111c-493f-a0fe-d974b915d619" title="演示视频"></video>
在您的本地机器上安装并运行 ollama,使用以下命令。
$ curl -fsSL https://ollama.com/install.sh | sh
$ ollama serve
$ ollama pull llama3.1
在根目录下的 mcp-servers.json 文件中添加您的 MCP 代理,以便应用程序能够识别并与其一起工作。
如果您想使用不同的 LLM 模型和 LLM 服务器,请在 npm start 之前覆盖以下属性。
OLLAMA_CHAT_MODEL=llama3.1
OLLAMA_BASE_URL=http://localhost:11434/api
$ git clone https://github.com/tamdilip/mcp-ollama-beeai.git
$ cd mcp-ollama-beeai
$ npm i
$ npm start
应用程序启动并运行后,在浏览器中访问 -> http://localhost:3000
Server 和 tools 下拉菜单中选择要使用的相应 MCP 代理。BeeAI 框架简化 ReAct(Reason And Act)代理与 MCP 工具的设置。Markdown JS 库以适当的可读视觉格式呈现响应。愉快编码 :) !!