一、限流规则🍉
1.簇点链路🥝
簇点链路:就是项目内的调用链路,链路中被监控的每个接口就是一个资源。默认情况下sentinel会监控SpringMVC的每一个端点(Endpoint),因此SpringMVC的每一个端点(Endpoint)就是调用链路中的一个资源。
流控、熔断等都是针对簇点链路中的资源来设置的,因此我们可以点击对应资源后面的按钮来设置规则:
快速入门🍓
点击资源/aaa/getname后面的流控按钮,就可以弹出表单。表单中可以添加流控规则,如下图所示:
其含义是限制 /aaa/getname这个资源的单机QPS为1,即每秒只允许1次请求,超出的请求会被拦截并报错。
流控规则入门案例🍓
需求:给 /order/{orderId}这个资源设置流控规则,QPS不能超过 5。然后利用jemeter测试。
1.设置流控规则:
2.jemeter测试:
3.测试结果
2.流控模式🥝
在添加限流规则时,点击高级选项,可以选择三种流控模式:
直接:统计当前资源的请求,触发阈值时对当前资源直接限流,也是默认的模式
关联:统计与当前资源相关的另一个资源,触发阈值时,对当前资源限流
链路:统计从指定链路访问到本资源的请求,触发阈值时,对指定链路限流
流控模式-关联🍓
关联模式:统计与当前资源相关的另一个资源,触发阈值时,对当前资源限流
使用场景:比如用户支付时需要修改订单状态,同时用户要查询订单。查询和修改操作会争抢数据库锁,产生竞争。业务需求是有限支付和更新订单的业务,因此当修改订单业务触发阈值时,需要对查询订单业务限流。
在进行测试时我们需要弄两个http请求对读和写操作都进行压测
因为读操作被限流了所以会先满足写操作
总结:
满足下面条件可以使用关联模式:
- 两个有竞争关系的资源
- 一个优先级较高,一个优先级较低
流控模式-链路🍓
链路模式:只针对从指定链路访问到本资源的请求做统计,判断是否超过阈值。
例如有两条请求链路:
/test1 /common
/test2 /common
如果只希望统计从/test2进入到/common的请求,则可以这样配置:
配置文件
#关闭context整合
spring.cloud.sentinel.web-context-unify=false
service层
不在controller层需要加@SentinelResource注解
@Override
@SentinelResource("query")
public void query() {
System.out.println("查询商品");
}
controller层
@GetMapping("/ccc")
public String ccc(){
productService.query();
return "";
}
@GetMapping("/ddd")
public String ddd(){
productService.query();
return "";
}
测试:
3.流控效果🥝
流控效果是指请求达到流控阈值时应该采取的措施,包括三种:
快速失败:达到阈值后,新的请求会被立即拒绝并抛出FlowException异常。是默认的处理方式。
warm up:预热模式,对超出阈值的请求同样是拒绝并抛出异常。但这种模式阈值会动态变化,从一个较小值逐渐增加到最大阈值。
排队等待:让所有的请求按照先后次序排队执行,两个请求的间隔不能小于指定时长
流控效果-warm up🍓
warm up也叫预热模式,是应对服务冷启动的一种方案。请求阈值初始值是 threshold / coldFactor,持续指定时长后,逐渐提高到threshold值。而coldFactor的默认值是3.
例如,我设置QPS的threshold为10,预热时间为5秒,那么初始阈值就是 10 / 3 ,也就是3,然后在5秒后逐渐增长到10.
流控效果-排队等待🍓
当请求超过QPS阈值时,快速失败和warm up 会拒绝新的请求并抛出异常。而排队等待则是让所有请求进入一个队列中,然后按照阈值允许的时间间隔依次执行。后来的请求必须等待前面执行完成,如果请求预期的等待时间超出最大时长,则会被拒绝。
在某一时刻,服务很忙,而其他时刻,服务很闲。
例如:QPS = 5,意味着每200ms处理一个队列中的请求;timeout = 2000,意味着预期等待超过2000ms的请求会被拒绝并抛出异常
总结:
快速失败:QPS超过阈值时,拒绝新的请求
warm up: QPS超过阈值时,拒绝新的请求;QPS阈值是逐渐提升的,可以避免冷启动时高并发导致服务宕机。
排队等待:请求会进入队列,按照阈值允许的时间间隔依次执行请求;如果请求预期等待时长大于超时时间,直接拒绝
4.热点参数限流🥝
之前的限流是统计访问某个资源的所有请求,判断是否超过QPS阈值。而热点参数限流是分别统计参数值相同的请求,判断是否超过QPS阈值。
测试
二、隔离和降级🍉
虽然限流可以尽量避免因高并发而引起的服务故障,但服务还会因为其它原因而故障。而要将这些故障控制在一定范围,避免雪崩,就要靠线程隔离(舱壁模式)和熔断降级手段了。
不管是线程隔离还是熔断降级,都是对客户端(调用方)的保护。
Feign整合Sentinel🥝
SpringCloud中,微服务调用都是通过Feign来实现的,因此做客户端保护必须整合Feign和Sentinel。
1. 修改OrderService的application.yml文件,开启Feign的Sentinel功能🍓
feign.sentinel.enabled=true
2.给FeignClient编写失败后的降级逻辑🍓
方式一:FallbackClass,无法对远程调用的异常做处理
方式二:FallbackFactory,可以对远程调用的异常做处理,我们选择这种
package com.lzq.feign;
import com.lzq.Product1;
import feign.hystrix.FallbackFactory;
import org.springframework.stereotype.Component;
@Component
public class MyFallBackFactary implements FallbackFactory<ProductFeign> {
@Override
public ProductFeign create(Throwable throwable) {
return new ProductFeign() {
@Override
public Product1 getByid(Integer id) {
Product1 product1 = new Product1();
product1.setPid(-1);
product1.setPname("系统繁忙稍后在试");
return product1;
}
};
}
}
package com.lzq.controller;
import com.lzq.Order;
import com.lzq.Product1;
import com.lzq.feign.ProductFeign;
import com.lzq.service.OrderSercice;
import org.springframework.beans.factory.annotation.Autowired;
import org.springframework.web.bind.annotation.GetMapping;
import org.springframework.web.bind.annotation.RequestMapping;
import org.springframework.web.bind.annotation.RestController;
@RestController
@RequestMapping
public class OrderController03 {
@Autowired
private OrderSercice orderSercice;
@Autowired
private ProductFeign productFeign;
@GetMapping("/aaa")
public Order insert(int pid,int num){
System.out.println(pid);
//构建一个订单对象
Order order=new Order();
order.setUid(1);//未来登录后一定能获取当前用户信息。
order.setUsername("阿娇");
order.setNumber(num);
Product1 product = productFeign.getByid(pid);
order.setPid(product.getPid());
order.setPname(product.getPname());
order.setPprice(product.getPprice());
int i=orderSercice.inset(order);
return order;
}
}
当访问失败时,或者超过设置的QPS时会进行熔断操作