架构 on 云原生 MCP 服务器

架构概览

Mon, 01 Jan 0001 00:00:00 +0000

架构概览#

本文档描述 Cloud Native MCP Server 的整体架构、设计原则和部署模式。

系统架构#

Cloud Native MCP Server 采用分层架构设计，从上到下分为：

1. 客户端层#

支持多种客户端类型：

Claude Desktop: Anthropic 的官方桌面客户端
Web Browser: 通过浏览器访问
Custom MCP Clients: 自定义的 MCP 客户端

客户端通过 MCP 协议与服务器通信，支持以下传输方式：

SSE (Server-Sent Events): 实时事件推送
Streamable-HTTP: 流式 HTTP 响应

2. HTTP 服务器层#

处理传入的 HTTP/SSE 请求和连接：

路由层: 动态路由注册，路径参数解析，查询参数验证
中间件层: 认证、审计、速率限制、安全、指标收集
健康检查: 优雅关闭，健康检查端点

3. 服务管理层#

管理所有注册的服务和工具：

服务注册和发现: 自动注册和发现服务
工具调用路由: 将请求路由到正确的服务
服务生命周期管理: 初始化、健康检查、关闭
健康检查协调: 协调各服务的健康检查

4. 基础设施层#

提供共享的基础设施服务：

缓存层: LRU 缓存，分段缓存，TTL 支持
密钥管理: 安全存储，密钥轮换，密钥生成
日志系统: 结构化日志，多级别，JSON 和文本格式
指标系统: Prometheus 格式，请求计数，延迟统计

5. 外部服务层#

集成的云原生服务：

核心组件

Mon, 01 Jan 0001 00:00:00 +0000

核心组件#

本文档详细描述 Cloud Native MCP Server 的各个核心组件。

1. HTTP 服务器#

职责: 处理传入的 HTTP/SSE 请求和连接

特性:

支持多种运行模式 (SSE, Streamable-HTTP)
可配置的超时和连接限制
优雅关闭
健康检查端点

关键文件:

cmd/server/server.go
internal/middleware/

配置:

1
2
3
4
5
6


server:
 mode: "sse"
 addr: "0.0.0.0:8080"
 readTimeoutSec: 30
 writeTimeoutSec: 0
 idleTimeoutSec: 60

2. 路由层#

职责: 将请求路由到正确的服务和工具

特性:

数据流

Mon, 01 Jan 0001 00:00:00 +0000

数据流#

本文档描述 Cloud Native MCP Server 中的请求和响应数据流。

请求流#

完整请求流程#

客户端
 │
 ├─> HTTP/SSE 连接
 │
 ├─> 认证中间件
 │ ├─> 验证 API Key/Token
 │ └─> 检查权限
 │
 ├─> 速率限制中间件
 │ └─> 检查配额
 │
 ├─> 路由层
 │ ├─> 解析服务和方法
 │ └─> 验证参数
 │
 ├─> 审计中间件
 │ └─> 记录请求开始
 │
 ├─> 服务管理器
 │ └─> 路由到服务
 │
 ├─> 缓存层
 │ ├─> 检查缓存
 │ └─> 返回缓存或继续
 │
 ├─> 服务
 │ ├─> 调用外部 API
 │ ├─> 处理响应
 │ └─> 更新缓存
 │
 ├─> 审计中间件
 │ └─> 记录请求完成
 │
 ├─> 指标中间件
 │ └─> 记录指标
 │
 └─> 响应返回客户端

详细步骤#

1. 客户端连接#

客户端通过以下方式之一连接到服务器：