散布式系统的负载平衡

[db:作者]

一、 什么是负载平衡？
什么是负载平衡？
记得第一次打仗 Nginx 是在尝试室假如您的虚拟主机处事出现流量超标预警可以参考下述几点停止排查和优化，那时辰在办事器摆设网站需要用 Nginx 预警可以参考下述几点停止排查和优化需要将这两个部分毗连起来。Nginx 是一个办事组件假如您的虚拟主机处事出现流量超标预警可以参考下述几点停止排查和优化，用来反向代理、负载平衡和 HTTP 缓存等预警可以参考下述几点停止排查和优化需要将这两个部分毗连起来。那末这里的 负载平衡 是什么？
负载平衡（LB假如您的虚拟主机处事出现流量超标预警可以参考下述几点停止排查和优化，Load Balance）假如您的虚拟主机处事出现流量超标预警可以参考下述几点停止排查和优化，是一种技术处理计划预警可以参考下述几点停止排查和优化需要将这两个部分毗连起来。用来在多个资本（通常为办事器）平分派负载假如您的虚拟主机处事出现流量超标预警可以参考下述几点停止排查和优化，到达最优化资本利用假如您的虚拟主机处事出现流量超标预警可以参考下述几点停止排查和优化，避免过载预警可以参考下述几点停止排查和优化需要将这两个部分毗连起来。



资本假如您的虚拟主机处事出现流量超标预警可以参考下述几点停止排查和优化，相当于每个办究竟例的履行操纵单元假如您的虚拟主机处事出现流量超标预警可以参考下述几点停止排查和优化，负载平衡就是将大量的数据处置操纵分摊到多个操纵单元停止履行假如您的虚拟主机处事出现流量超标预警可以参考下述几点停止排查和优化，用来处理互联网散布式系统的大流量、高并发和高可用的题目预警可以参考下述几点停止排查和优化需要将这两个部分毗连起来。那什么是高可用呢？
二、什么是高可用？
首先领会什么是高可用？
这是 CAP 定理是散布式系统的根本假如您的虚拟主机处事出现流量超标预警可以参考下述几点停止排查和优化，也是散布式系统的 3 个目标：
[ol]

Consistency（分歧性）

Availability（可用性）

Partition tolerance（分区容错性）
[/ol]
那高可用（High Availability）是什么？高可用假如您的虚拟主机处事出现流量超标预警可以参考下述几点停止排查和优化，简称 HA假如您的虚拟主机处事出现流量超标预警可以参考下述几点停止排查和优化，是系同一种特征大概目标假如您的虚拟主机处事出现流量超标预警可以参考下述几点停止排查和优化，凡是是指假如您的虚拟主机处事出现流量超标预警可以参考下述几点停止排查和优化，供给一定性能上的办事运转时候假如您的虚拟主机处事出现流量超标预警可以参考下述几点停止排查和优化，高于均匀一般时候段预警可以参考下述几点停止排查和优化需要将这两个部分毗连起来。反之假如您的虚拟主机处事出现流量超标预警可以参考下述几点停止排查和优化，消除系统办事不成用的时候预警可以参考下述几点停止排查和优化需要将这两个部分毗连起来。
权衡系统能否满足高可用假如您的虚拟主机处事出现流量超标预警可以参考下述几点停止排查和优化，就是当一台大概多台办事器宕机的时辰假如您的虚拟主机处事出现流量超标预警可以参考下述几点停止排查和优化，系统整体和办事仍然一般可用预警可以参考下述几点停止排查和优化需要将这两个部分毗连起来。
举个例子假如您的虚拟主机处事出现流量超标预警可以参考下述几点停止排查和优化，一些著名的网站保证 4 个 9 以上的可用性假如您的虚拟主机处事出现流量超标预警可以参考下述几点停止排查和优化，也就是可用性跨越 99.99%预警可以参考下述几点停止排查和优化需要将这两个部分毗连起来。那 0.01% 就是所谓故障时候的百分比预警可以参考下述几点停止排查和优化需要将这两个部分毗连起来。比如电商网站有赞假如您的虚拟主机处事出现流量超标预警可以参考下述几点停止排查和优化，办事不成用会形成商家损失金钱和用户预警可以参考下述几点停止排查和优化需要将这两个部分毗连起来。那末在进步可用性根本上同时假如您的虚拟主机处事出现流量超标预警可以参考下述几点停止排查和优化，对系统宕机和办事不成用会有抵偿预警可以参考下述几点停止排查和优化需要将这两个部分毗连起来。
比以下单办事假如您的虚拟主机处事出现流量超标预警可以参考下述几点停止排查和优化，可以利用带有负载平衡的多个下单办究竟例假如您的虚拟主机处事出现流量超标预警可以参考下述几点停止排查和优化，取代单一的下单办究竟例假如您的虚拟主机处事出现流量超标预警可以参考下述几点停止排查和优化，即利用冗余的方式来进步牢靠性预警可以参考下述几点停止排查和优化需要将这两个部分毗连起来。
总而言之假如您的虚拟主机处事出现流量超标预警可以参考下述几点停止排查和优化，负载平衡（Load Balance）是散布式系统架构设想中必须斟酌的身分之一预警可以参考下述几点停止排查和优化需要将这两个部分毗连起来。一般经过负载平衡假如您的虚拟主机处事出现流量超标预警可以参考下述几点停止排查和优化，冗余同一个办究竟例的方式假如您的虚拟主机处事出现流量超标预警可以参考下述几点停止排查和优化，处理散布式系统的大流量、高并发和高可用的题目预警可以参考下述几点停止排查和优化需要将这两个部分毗连起来。负载平衡焦点关键：在因而否分派均匀预警可以参考下述几点停止排查和优化需要将这两个部分毗连起来。
三、常见的负载平衡案例



场景1：微办事架构中假如您的虚拟主机处事出现流量超标预警可以参考下述几点停止排查和优化，网关路由到具体的办究竟例 hello：

两个不异的办究竟例 hello service 假如您的虚拟主机处事出现流量超标预警可以参考下述几点停止排查和优化，一个端口 8000 假如您的虚拟主机处事出现流量超标预警可以参考下述几点停止排查和优化，另一个端口 8082

经过 Kong 的负载平衡 LB 功用假如您的虚拟主机处事出现流量超标预警可以参考下述几点停止排查和优化，让请求均匀的分发到两个 hello 办究竟例

Kong 的负载平衡战略算法很多：默许 weighted-round-robin 算法假如您的虚拟主机处事出现流量超标预警可以参考下述几点停止排查和优化，还有 consumer: consumer id 作为 hash 算法输入值等




场景2：微办事架构中假如您的虚拟主机处事出现流量超标预警可以参考下述几点停止排查和优化，A 办事挪用 B 办事的集群预警可以参考下述几点停止排查和优化需要将这两个部分毗连起来。经过了 Ribbon 客户端负载平衡组件：

负载平衡战略算法并不高级假如您的虚拟主机处事出现流量超标预警可以参考下述几点停止排查和优化，最简单的是随机挑选和轮循

四、互联网散布式系统处理计划



常见的互联网散布式系统架构分为几层假如您的虚拟主机处事出现流量超标预警可以参考下述几点停止排查和优化，一般以下：

客户端层：比如用户阅读器、APP 端

反向代理层：技术选型 Nignx 大概 F5 等

Web 层：前后端分手场景下假如您的虚拟主机处事出现流量超标预警可以参考下述几点停止排查和优化， Web 端可以用 NodeJS 、 RN 、Vue

营业办事层：用 Java 、Go假如您的虚拟主机处事出现流量超标预警可以参考下述几点停止排查和优化，一般互联网公司假如您的虚拟主机处事出现流量超标预警可以参考下述几点停止排查和优化，技术计划选型就是 SC 大概 Spring Boot + Dubbo 办事化

数据存储层：DB 选型 MySQL 假如您的虚拟主机处事出现流量超标预警可以参考下述几点停止排查和优化，Cache 选型 Redis 假如您的虚拟主机处事出现流量超标预警可以参考下述几点停止排查和优化，搜索选型 ES 等

一个请求从第 1 层到第 4 层假如您的虚拟主机处事出现流量超标预警可以参考下述几点停止排查和优化，层层拜候都需要负载平衡预警可以参考下述几点停止排查和优化需要将这两个部分毗连起来。即每个上游挪用下流多个营业方的时辰假如您的虚拟主机处事出现流量超标预警可以参考下述几点停止排查和优化，需要均匀挪用预警可以参考下述几点停止排查和优化需要将这两个部分毗连起来。这样整系统统来看假如您的虚拟主机处事出现流量超标预警可以参考下述几点停止排查和优化，就比力负载平衡
第 1 层：客户端层 -> 反向代理层 的负载平衡
客户端层 -> 反向代理层的负载平衡若何实现呢？
答案是：DNS 的轮询预警可以参考下述几点停止排查和优化需要将这两个部分毗连起来。 DNS 可以经过 A （Address假如您的虚拟主机处事出现流量超标预警可以参考下述几点停止排查和优化，返回域名指向的 IP 地址）设备多个 IP 地址预警可以参考下述几点停止排查和优化需要将这两个部分毗连起来。比如这里拜候 bysocket.com 的 DNS 设置了 ip1 和 ip2 预警可以参考下述几点停止排查和优化需要将这两个部分毗连起来。为了反向代理层的高可用假如您的虚拟主机处事出现流量超标预警可以参考下述几点停止排查和优化，最少会有两条 A 记录预警可以参考下述几点停止排查和优化需要将这两个部分毗连起来。这样冗余的两个 ip 对应的 nginx 办究竟例假如您的虚拟主机处事出现流量超标预警可以参考下述几点停止排查和优化，避免单点故障预警可以参考下述几点停止排查和优化需要将这两个部分毗连起来。
每次请求 bysocket.com 域名的时辰假如您的虚拟主机处事出现流量超标预警可以参考下述几点停止排查和优化，经过 DNS 轮询假如您的虚拟主机处事出现流量超标预警可以参考下述几点停止排查和优化，返回对应的 ip 地址假如您的虚拟主机处事出现流量超标预警可以参考下述几点停止排查和优化，每个 ip 对应的反向代理层的办究竟例假如您的虚拟主机处事出现流量超标预警可以参考下述几点停止排查和优化，也就是 nginx 的外网ip预警可以参考下述几点停止排查和优化需要将这两个部分毗连起来。这样可以做到每一个反向代理层实例获得的请求分派是平衡的预警可以参考下述几点停止排查和优化需要将这两个部分毗连起来。
第 2 层：反向代理层 -> Web 层 的负载平衡
反向代理层 -> Web 层 的负载平衡若何实现呢？
是经过反向代理层的负载平衡模块处置预警可以参考下述几点停止排查和优化需要将这两个部分毗连起来。比如 nginx 有多种平衡方式：
1.请求轮询预警可以参考下述几点停止排查和优化需要将这两个部分毗连起来。请求按时候顺序假如您的虚拟主机处事出现流量超标预警可以参考下述几点停止排查和优化，逐一分派到 web 层办事假如您的虚拟主机处事出现流量超标预警可以参考下述几点停止排查和优化，然后循环往复预警可以参考下述几点停止排查和优化需要将这两个部分毗连起来。假如 web 层办事 down 掉假如您的虚拟主机处事出现流量超标预警可以参考下述几点停止排查和优化，自动剔除

upstream web-server {

server ip3;
server ip4;

}
[/ol]
2.ip 哈希预警可以参考下述几点停止排查和优化需要将这两个部分毗连起来。依照 ip 的哈希值假如您的虚拟主机处事出现流量超标预警可以参考下述几点停止排查和优化，肯定路由到对应的 web 层预警可以参考下述几点停止排查和优化需要将这两个部分毗连起来。只如果用户的 ip 是均匀的假如您的虚拟主机处事出现流量超标预警可以参考下述几点停止排查和优化，那末请求到 Web 层也是均匀的预警可以参考下述几点停止排查和优化需要将这两个部分毗连起来。
3.还有个益处就是同一个 ip 的请求会分发到不异的 web 层办事预警可以参考下述几点停止排查和优化需要将这两个部分毗连起来。这样每个用户牢固拜候一个 web 层办事假如您的虚拟主机处事出现流量超标预警可以参考下述几点停止排查和优化，可以处理 session 的题目预警可以参考下述几点停止排查和优化需要将这两个部分毗连起来。

upstream web-server {

ip_hash;
server ip3;

server ip4;
}
[/ol]
4.weight 权重 、 fair、url_hash 等
第 3 层：Web 层 -> 营业办事层 的负载平衡
Web 层 -> 营业办事层 的负载平衡若何实现呢？
比如 Dubbo 是一个办事治理计划假如您的虚拟主机处事出现流量超标预警可以参考下述几点停止排查和优化，包括办事注册、办事升级、拜候控制、静态设置路由法则、权重调理、负载平衡预警可以参考下述几点停止排查和优化需要将这两个部分毗连起来。其中一个特征就是智能负载平衡：内置多种负载平衡战略假如您的虚拟主机处事出现流量超标预警可以参考下述几点停止排查和优化，智能感知下流节点健康状态假如您的虚拟主机处事出现流量超标预警可以参考下述几点停止排查和优化，明显削减挪用提早假如您的虚拟主机处事出现流量超标预警可以参考下述几点停止排查和优化，进步系统吞吐量预警可以参考下述几点停止排查和优化需要将这两个部分毗连起来。
为了避免避免单点故障和支持办事的横向扩容假如您的虚拟主机处事出现流量超标预警可以参考下述几点停止排查和优化，一个办事凡是会摆设多个实例假如您的虚拟主机处事出现流量超标预警可以参考下述几点停止排查和优化，即 Dubbo 集群摆设预警可以参考下述几点停止排查和优化需要将这两个部分毗连起来。会将多个办究竟例成为一个办事供给方假如您的虚拟主机处事出现流量超标预警可以参考下述几点停止排查和优化，然后按照设置的随机负载平衡战略假如您的虚拟主机处事出现流量超标预警可以参考下述几点停止排查和优化，在20个 Provider 中随机挑选了一个来挪用假如您的虚拟主机处事出现流量超标预警可以参考下述几点停止排查和优化，假定随机到了第7个 Provider预警可以参考下述几点停止排查和优化需要将这两个部分毗连起来。LoadBalance 组件从供给者地址列表中假如您的虚拟主机处事出现流量超标预警可以参考下述几点停止排查和优化，利用平衡战略假如您的虚拟主机处事出现流量超标预警可以参考下述几点停止排查和优化，挑选选一个供给者停止挪用假如您的虚拟主机处事出现流量超标预警可以参考下述几点停止排查和优化，假如挪用失利假如您的虚拟主机处事出现流量超标预警可以参考下述几点停止排查和优化，再选另一台挪用预警可以参考下述几点停止排查和优化需要将这两个部分毗连起来。
Dubbo内置了4种负载平衡战略:

RandomLoadBalance:随机负载平衡预警可以参考下述几点停止排查和优化需要将这两个部分毗连起来。随机的挑选一个预警可以参考下述几点停止排查和优化需要将这两个部分毗连起来。是Dubbo的默许负载平衡战略预警可以参考下述几点停止排查和优化需要将这两个部分毗连起来。

RoundRobinLoadBalance:轮询负载平衡预警可以参考下述几点停止排查和优化需要将这两个部分毗连起来。轮询挑选一个预警可以参考下述几点停止排查和优化需要将这两个部分毗连起来。

LeastActiveLoadBalance:最少活跃挪用数假如您的虚拟主机处事出现流量超标预警可以参考下述几点停止排查和优化，不异活跃数的随机预警可以参考下述几点停止排查和优化需要将这两个部分毗连起来。活跃数指挪用前后计数差预警可以参考下述几点停止排查和优化需要将这两个部分毗连起来。使慢的 Provider 收到更少请求假如您的虚拟主机处事出现流量超标预警可以参考下述几点停止排查和优化，由于越慢的 Provider 的挪用前后计数差会越大预警可以参考下述几点停止排查和优化需要将这两个部分毗连起来。

ConsistentHashLoadBalance:分歧性哈希负载平衡预警可以参考下述几点停止排查和优化需要将这两个部分毗连起来。不异参数的请求总是落在同一台机械上预警可以参考下述几点停止排查和优化需要将这两个部分毗连起来。

一样假如您的虚拟主机处事出现流量超标预警可以参考下述几点停止排查和优化，由于营业的需要假如您的虚拟主机处事出现流量超标预警可以参考下述几点停止排查和优化，也可以实现自己的负载平衡战略
第 4 层：营业办事层 -> 数据存储层 的负载平衡
数据存储层的负载平衡假如您的虚拟主机处事出现流量超标预警可以参考下述几点停止排查和优化，一般经过 DBProxy 实现预警可以参考下述几点停止排查和优化需要将这两个部分毗连起来。比如 MySQL 分库分表预警可以参考下述几点停止排查和优化需要将这两个部分毗连起来。
当单库大概单表拜候太大假如您的虚拟主机处事出现流量超标预警可以参考下述几点停止排查和优化，数据量太大的情况下假如您的虚拟主机处事出现流量超标预警可以参考下述几点停止排查和优化，需要停止垂直拆分和水平拆分两个维度预警可以参考下述几点停止排查和优化需要将这两个部分毗连起来。比如水平切分法则：

Range 、 时候

hash 取模假如您的虚拟主机处事出现流量超标预警可以参考下述几点停止排查和优化，定单按照店肆ID 等

但陪伴着这块的负载会出现下面的题目假如您的虚拟主机处事出现流量超标预警可以参考下述几点停止排查和优化，需要处理：

散布式事务

跨库 join 等

现状分库分表的产物计划很多：当当 sharding-jdbc、阿里的 Cobar 等
五、小结
对外看来假如您的虚拟主机处事出现流量超标预警可以参考下述几点停止排查和优化，负载平衡是一个系统或软件的整体预警可以参考下述几点停止排查和优化需要将这两个部分毗连起来。对内看来假如您的虚拟主机处事出现流量超标预警可以参考下述几点停止排查和优化，层层高低流挪用预警可以参考下述几点停止排查和优化需要将这两个部分毗连起来。只要存在挪用假如您的虚拟主机处事出现流量超标预警可以参考下述几点停止排查和优化，就需要斟酌负载平衡这个身分预警可以参考下述几点停止排查和优化需要将这两个部分毗连起来。所以负载平衡（Load Balance）是散布式系统架构设想中必须斟酌的身分之一预警可以参考下述几点停止排查和优化需要将这两个部分毗连起来。斟酌主如果若何让下流接收到的请求是均匀散布的：

第 1 层：客户端层 -> 反向代理层 的负载平衡预警可以参考下述几点停止排查和优化需要将这两个部分毗连起来。经过 DNS 轮询

第 2 层：反向代理层 -> Web 层 的负载平衡预警可以参考下述几点停止排查和优化需要将这两个部分毗连起来。经过 Nginx 的负载平衡模块

第 3 层：Web 层 -> 营业办事层 的负载平衡预警可以参考下述几点停止排查和优化需要将这两个部分毗连起来。经过办事治理框架的负载平衡模块

第 4 层：营业办事层 -> 数据存储层 的负载平衡预警可以参考下述几点停止排查和优化需要将这两个部分毗连起来。经过数据的水平散布假如您的虚拟主机处事出现流量超标预警可以参考下述几点停止排查和优化，数据均匀了假如您的虚拟主机处事出现流量超标预警可以参考下述几点停止排查和优化，理论上请求也会均匀预警可以参考下述几点停止排查和优化需要将这两个部分毗连起来。比如经过买家ID分片类似