一、Ribbon目前也进入维护模式
1、是什么
Spring Cloud Ribbon是基于Netflix Ribbon实现的一套客户端负载均衡的工具。
简单的说,Ribbon是Netflix发布的开源项目,主要功能是提供客户端的软件负载均衡算法和服务调用。Ribbon客户端组件提供一系列完善的配置项如连接超时,重试等。简单的说,就是在配置文件中列出Load Balancer(简称LB)后面所有的机器,Ribbon会自动的帮助你基于某种规则(如简单轮询,随机连接等)去连接这些机器。很容易使用Ribbon实现自定义的负载均衡算法。
2、维护模式不再介绍,了解即可
GitHub - Netflix/ribbon: Ribbon is a Inter Process Communication (remote procedure calls) library with built in software load balancers. The primary usage model involves REST calls with various serialization scheme support.
3、Ribbon未来替换方案
spring-cloud-loadbalancer
二、spring-cloud-loadbalancer概述
1、官网
2、是什么
LB负载均衡(Load Balance)是什么
简单的说就是将用户的请求平摊的分配到多个服务上,从而达到系统的HA(高可用),常见的负载均衡有软件Nginx,LVS,硬件 F5等
spring-cloud-starter-loadbalancer组件是什么
Spring Cloud LoadBalancer是由SpringCloud官方提供的一个开源的、简单易用的客户端负载均衡器,它包含在SpringCloud-commons中用它来替换了以前的Ribbon组件。相比较于Ribbon,SpringCloud LoadBalancer不仅能够支持RestTemplate,还支持WebClient(WeClient是Spring Web Flux中提供的功能,可以实现响应式异步请求)
Spring Cloud LoadBalancer :: Spring Cloud Commons
3、面试题
客户端负载 VS 服务器端负载区别
loadbalancer本地负载均衡客户端 VS Nginx服务端负载均衡区别
Nginx是服务器负载均衡,客户端所有请求都会交给nginx,然后由nginx实现转发请求,即负载均衡是由服务端实现的。
loadbalancer本地负载均衡,在调用微服务接口时候,会在注册中心上获取注册信息服务列表之后缓存到JVM本地,从而在本地实现RPC远程服务调用技术。
三、spring-cloud-loadbalancer负载均衡解析
1、负载均衡演示案例-理论
架构说明:80通过轮询负载访问8001/8002/8003
LoadBalancer 在工作时分成两步:
第一步,先选择ConsulServer从服务端查询并拉取服务列表,知道了它有多个服务(上图3个服务),这3个实现是完全一样的,默认轮询调用谁都可以正常执行。类似生活中求医挂号,某个科室今日出诊的全部医生,客户端你自己选一个。
第二步,按照指定的负载均衡策略从server取到的服务注册列表中由客户端自己选择一个地址,所以LoadBalancer是一个客户端的负载均衡器。
2、负载均衡演示案例-实操
a、官网参考如何正确使用?
Spring Cloud LoadBalancer :: Spring Cloud Commons
b、按照8001拷贝后新建8002微服务
c、启动Consul,将8001/8002启动后注册进微服务
consul agent -dev
将8001/8002启动后注册进微服务
bug
之前的配置完全消失了....没有持久化保存
Consul数据持久化配置并且注册为Windows服务
- D:\devSoft\consul_1.17.0_windows_386目录下新建
空文件夹mydata
新建文件consul_start.bat后缀为.bat - consul_start.bat内容信息
@echo.服务启动......@echo off@sc create Consul binpath= "D:\devSoft\consul_1.17.0_windows_386\consul.exe agent -server -ui -bind=127.0.0.1 -client=0.0.0.0 -bootstrap-expect 1 -data-dir D:\devSoft\consul_1.17.0_windows_386\mydata"@net start Consul@sc config Consul start= AUTO@echo.Consul start is OK......success@pause - 右键管理员权限打开
- 启动结果
- win后台
- 后续consul的配置数据会保存进mydata文件夹,重启有了
后台自启动Consul测试地址
http://localhost:8001/pay/get/info
d、订单80模块修改POM并注册进consul,新增LoadBalancer组件
<!--loadbalancer-->
<dependency>
<groupId>org.springframework.cloud</groupId>
<artifactId>spring-cloud-starter-loadbalancer</artifactId>
</dependency>
e、订单80模块修改Controller并启动80
/**
* 获取配置文件中信息
*
* @param companyInfo 公司信息
* @return 配置文件中信息
*/
@GetMapping(value = "/consumer/pay/get/info")
private String getInfoByConsul() {
return restTemplate.getForObject(PAYMENT_SRV_URL + "/pay/get/info", String.class);
}
f、目前consul上的服务
g、测试
http://localhost/consumer/pay/get/info
通过上述地址,交替访问到了8001/8002
3、负载均衡演示案例-小总结
a、编码使用DiscoveryClient动态获取所有上线的服务列表
官网地址:https://docs.spring.io/spring-cloud-consul/reference/discovery.html
b、代码解释,修改80微服务的Controller
@Resource
private DiscoveryClient discoveryClient;
/**
* 获取服务注册中心的服务信息
* @return 服务注册中心的服务信息
*/
@GetMapping("/consumer/discovery")
public String discovery() {
List<String> services = discoveryClient.getServices();
for (String element : services) {
System.out.println(element);
}
log.info("===================================");
List<ServiceInstance> instances = discoveryClient.getInstances("cloud-payment-service");
for (ServiceInstance element : instances) {
System.out.println(element.getServiceId() + "\t" + element.getHost() + "\t" + element.getPort() + "\t" + element.getUri());
}
return instances.get(0).getServiceId() + ":" + instances.get(0).getPort();
}
c、结合前面实操,负载选择原理小总结
负载均衡算法:rest接口第几次请求数 % 服务器集群总数量 = 实际调用服务器位置下标 ,每次服务重启动后rest接口计数从1开始。
List<ServiceInstance> instances = discoveryClient.getInstances("cloud-payment-service");
如: List [0] instances = 127.0.0.1:8002
List [1] instances = 127.0.0.1:8001
8001+ 8002 组合成为集群,它们共计2台机器,集群总数为2, 按照轮询算法原理:
当总请求数为1时: 1 % 2 =1 对应下标位置为1 ,则获得服务地址为127.0.0.1:8001
当总请求数位2时: 2 % 2 =0 对应下标位置为0 ,则获得服务地址为127.0.0.1:8002
当总请求数位3时: 3 % 2 =1 对应下标位置为1 ,则获得服务地址为127.0.0.1:8001
当总请求数位4时: 4 % 2 =0 对应下标位置为0 ,则获得服务地址为127.0.0.1:8002
如此类推......
四、负载均衡算法原理
1、默认算法是什么?有几种?
官网load balancing algorithm
Spring Cloud LoadBalancer :: Spring Cloud Commons
默认2种
轮询
public class RoundRobinLoadBalancer implements ReactorServiceInstanceLoadBalancer
随机
public class RandomLoadBalancer implements ReactorServiceInstanceLoadBalancer
源码流程浅读,不用深入非重点
org.springframework.cloud.client.loadbalancer.reactive.ReactiveLoadBalancer
接口ReactiveLoadBalancer
2、算法切换
从默认的轮询,切换为随机算法,修改RestTemplateConfig
/**
* @author admin
* <p>
* 下面的value值大小写一定要和consul里面的名字一样,必须一样
*/
@Configuration
@LoadBalancerClient(value = "cloud-payment-service", configuration = RestTemplateConfig.class)
public class RestTemplateConfig {
/**
* 使用@LoadBalanced注解赋予RestTemplate负载均衡的能力
*/
@Bean
@LoadBalanced
public RestTemplate restTemplate() {
return new RestTemplate();
}
/**
* 随机负载均衡算法
*/
@Bean
public ReactorLoadBalancer<ServiceInstance> randomLoadBalancer(Environment environment, LoadBalancerClientFactory loadBalancerClientFactory) {
String name = environment.getProperty(LoadBalancerClientFactory.PROPERTY_NAME);
return new RandomLoadBalancer(loadBalancerClientFactory.getLazyProvider(name, ServiceInstanceListSupplier.class), name);
}
}
测试
http://localhost/consumer/pay/get/info