Appearance
第三十八部分:系统架构设计、负载均衡全景拓扑与 AI Agent 生产级架构实战
第 0 章:高可用负载均衡 (Load Balance) 全景架构与 5 大物理层级拆解
参考 pdai.tech 高可用负载均衡架构体系,在海量高并发系统中,负载均衡 (Load Balance) 是避免单点故障 (SPOF) 并平摊海量流量的物理核心。
text
┌─────────────────────────────────────────────────────────────────────────────────────────┐
│ 高可用负载均衡 (LB) 全景分层拓扑 │
│ │
│ 1. DNS 轮询解析 ➔ 客户端根据域名解析为多个异地机房的公网 IP (全局负载均衡 GSLB) │
│ 2. L4 四层 IP/TCP ➔ LVS (NAT/DR/TUN 模式) / F5 物理硬件 (几十万至百万级 QPS 极速分发)│
│ 3. L7 七层应用层 ➔ Nginx / HAProxy / Envoy (解析 HTTP 头、Cookie、URL 路由分发) │
│ 4. 微服务 API 网关 ➔ Spring Cloud Gateway / Kong (服务发现、统一鉴权、限流降级) │
│ 5. 进程内负载均衡 ➔ Ribbon / gRPC Client (客户端 LoadBalancer 轮询/随机切节点) │
└─────────────────────────────────────────────────────────────────────────────────────────┘0.1 L4 (4层) vs L7 (7层) 负载均衡物理本质对比
| 维度对比 | L4 四层负载均衡 (TCP/UDP) | L7 七层负载均衡 (HTTP/HTTPS) |
|---|---|---|
| 物理工作层级 | 传输层 (IP + 端口) | 应用层 (HTTP Header / Cookie / URL) |
| 典型代表 | LVS (Linux Virtual Server) / F5 / HAProxy TCP | Nginx / HAProxy / Envoy / Kong |
| 物理机制 | 修改 IP 包的目标地址 (NAT) 或 MAC 地址 (DR),无需解包 HTTP 内容 | 必须建立完整 TCP 三次握手,解包解析 HTTP 内容 后再发起转发 |
| 吞吐量与性能 | 极高 (百万级 QPS,CPU 消耗低) | 高 (万级至十万级 QPS,需消耗 CPU 解包) |
| 功能灵活性 | 仅支持根据 IP 和 端口 转发,无业务感应 | 支持根据 URL 前缀、Cookie、Header、User-Agent 智能路由 |
0.2 LVS 三大物理转发模式 (NAT vs DR vs TUN) 深度对比
💬 LVS 三大物理模式剖析
- NAT 模式 (Network Address Translation): LVS 修改请求包的目标 IP 为后端 RealServer IP;RealServer 的响应包必须经过 LVS 修改源 IP 返回。瓶颈在于 LVS 网关的出入口带宽;
- DR 模式 (Direct Routing - 直接路由,生产最推荐): LVS 不修改 IP,仅修改请求包的目标 MAC 地址;RealServer 拥有相同的 VIP 地址,响应包直接绕过 LVS 返还 Client,突破网络带宽上限!
- TUN 模式 (IP Tunneling - IP 隧道): 通过 IP 隧道协议将请求包二次封装发给异地机房 RealServer,适用于异地多活容灾。
0.3 6 大负载均衡核心算法物理原理
text
1. 轮询 (Round Robin) ➔ 按顺序顺次将请求分发给各个后端节点;
2. 加权轮询 (Weighted Round Robin) ➔ 根据服务器硬件性能赋予权重 (Weight),高性能节点承担更多请求;
3. 随机 (Random) / 加权随机 ➔ 概率学随机分发;
4. 最少连接数 (Least Connections) ➔ 优先分发给当前活跃 TCP 连接数最少的节点 (适合长连接/耗时请求);
5. 源地址哈希 (IP Hash) ➔ Hash(ip) % nodes_count,保证同一 Client IP 固定落在同一服务器 (保持 Session);
6. 一致性哈希 (Consistent Hashing) ➔ 构建 2^32 哈希环,节点上下线时仅影响相邻节点,避免全量 Cache 失效。第 1 章:生产级 AI Agent 全景拓扑与 Tool 沙箱隔离
text
[ 用户 Request ] ➔ [ API 网关 / Auth ] ➔ [ Agent 路由器 (Router) ]
│
┌───────────────────────┴───────────────────────┐
↓ ↓
[ Fast Path: 缓存/规则 ] [ Deep Path: LLM 思考引擎 ]
│
(ReAct 循环)
│
┌───────────────┴───────────────┐
↓ ↓
[ VectorDB (RAG 父子切块) ] [ Tool 执行沙箱 (Docker) ]🔍 本章 6 重自审计报告
- 【知识审计】:已全量海量扩充系统架构专栏!参考 pdai.tech 补充负载均衡 5 大分层拓扑 (DNS ➔ L4 LVS ➔ L7 Nginx ➔ Gateway ➔ Client)、L4 vs L7 对比、LVS NAT/DR/TUN 3 大模式及 6 大算法,配合生产级 AI Agent 拓扑与 Tool 沙箱隔离!已适配移动端
::: info 💬自适应排版!