Spring cloud - 断路器 Resilience4J

其实文章的标题应该叫 Resilience4J，而不是Spring Cloud Resilience4J，不过由于正在对Spring cloud的一系列组件进行学习，为了统一，就这样吧。

概念区分

首先区分几个概念

  1. Spring cloud 断路器：Spring Cloud的官网对Spring Cloud Circuit Breaker的描述：
    在这里插入图片描述
    Spring Cloud支持的几种断路器实现，其中就包含Resilience4J。

  2. Spring gateway 断路器过滤器：前面一篇文章学习过，Spring Cloud Gateway提供的过滤器中就包括断路器过滤器，断路器过滤器的默认实现也是Resilience4J。

  3. Resilience4J：轻量级的断路器实现，Spring Cloud抛弃Hystrix之后（不知道算不算是抛弃…）的替代品。

今天的文章以学习Resilience4J为主。

Resilience4j 介绍

Resilience4j is a lightweight fault tolerance library designed for functional programming. Resilience4j provides higher-order functions (decorators) to enhance any functional interface, lambda expression or method reference with a Circuit Breaker, Rate Limiter, Retry or Bulkhead. You can stack more than one decorator on any functional interface, lambda expression or method reference. The advantage is that you have the choice to select the decorators you need and nothing else.

Resilience4j 是一个轻量级的容错处理库，提供一些列高阶功能（装饰器）以增强任意的功能接口，以lambda 表达式或方法引用的方式提供Circuit Breaker, Rate Limiter, Retry或Bulkhead。你可以通过表达式或者方法引用启用一个或多个装饰器。

以上内容来自于Resilience4j 官网，内容很容易看得懂但是翻译起来感觉却有些费劲…

Resilience4j 运行在java17上，在spring项目上或springboot、springcloud项目上都可以用，所以他不是spring cloud专有的技术，只不过spring cloud对Resilience4j 做了很好的集成（比如通过spring cloud gateway）。

核心模块

Resilience4j 包含如下核心模块:

  1. resilience4j-circuitbreaker: Circuit breaking 断路器
  2. resilience4j-ratelimiter: Rate limiting 限流
  3. resilience4j-bulkhead: Bulkheading 舱壁，或者叫隔板
  4. resilience4j-retry: Automatic retrying (sync and async) 重试
  5. resilience4j-timelimiter: Timeout handling 超时控制器
  6. resilience4j-cache: Result caching缓存

There are also add-on modules for metrics, Feign, Kotlin, Spring, Ratpack, Vertx, RxJava2 and more.
除此之外还提供了一些其他的附加模块，主要是用来将Resilience4j 集成到其他知名框架中的。

Resilience patterns

官网提供了一张表格，说明Resilience 包含的各模块的工作方式及功能描述。
在这里插入图片描述
Retry: 被调用服务出现异常后的重试功能，Resilience 的设计思路是认为好多服务出现异常之后其实都有可能在短时间内自我修复，所以Retry模块在这种场景下就会发挥作用。
Circuit Breaker： 暂时阻止可能发生错误的调用，避免雪崩效应。
Rate Limiter： 限流，限制一定时间范围内对某一服务的调用次数。
Time Limiter： timeout超时控制功能。
Bulkhead： 舱壁/调用隔离，限制并发数。
Cache： 缓存功能。
Fallback： 也就是所谓的降级服务。

Resilience 的核心功能中，不太容易理解的可能是这个Bulkhead，字面意思是舱壁或隔板的意思，他要实现的功能其实就是限制并发，有两种方式：信号量或线程池。目的也是为了限流，防止某一时刻突然出现的请求井喷从而导致服务异常。

应用

本文采用Spring cloud项目案例来简单说明Resilience核心组件的用法。

在以往springcloud项目的基础上，新建一个circuitbreaker模块，项目结构如下：
在这里插入图片描述

pom引用

pom文件引入Resilience4j ：

<?xml version="1.0" encoding="UTF-8"?>
<project xmlns="http://maven.apache.org/POM/4.0.0"
         xmlns:xsi="http://www.w3.org/2001/XMLSchema-instance"
         xsi:schemaLocation="http://maven.apache.org/POM/4.0.0 http://maven.apache.org/xsd/maven-4.0.0.xsd">
    <parent>
        <artifactId>springCloud</artifactId>
        <groupId>com.example</groupId>
        <version>0.0.1-SNAPSHOT</version>
    </parent>
    <modelVersion>4.0.0</modelVersion>

    <artifactId>circuitbreaker</artifactId>
    <dependencies>
        <dependency>
            <groupId>org.springframework.cloud</groupId>
            <artifactId>spring-cloud-starter-netflix-eureka-client</artifactId>
        </dependency>
        <dependency>
            <groupId>org.springframework.boot</groupId>
            <artifactId>spring-boot-starter-web</artifactId>
        </dependency>
        <dependency>
            <groupId>org.springframework.cloud</groupId>
            <artifactId>spring-cloud-starter-circuitbreaker-resilience4j</artifactId>
        </dependency>
    </dependencies>

    <properties>
        <maven.compiler.source>17</maven.compiler.source>
        <maven.compiler.target>17</maven.compiler.target>
    </properties>

</project>

创建BackendService接口及实现类

创建一个特别简单的BackendService接口及实现类，模仿被调用的后台服务，BackendService的目的就是为了测试服务出现问题的时候Resilience4j 各核心模块的具体表现，所以我们把BackendService的逻辑设计的非常的简单：
一个接口：

@Service
public interface BackendService {
    String doSomething();
    public void setC(int c);
}

一个实现类：

package com.example.service.impl;

import com.example.service.BackendService;
import org.springframework.stereotype.Service;

import java.util.concurrent.TimeUnit;

@Service
public class BackendServiceImpl implements BackendService {
    private int c;
    @Override
    public String doSomething() {
        System.out.println("i m dosomething...c="+c);
        int i=10/c;
       return "do something...c="+c;
    }

    @Override
    public void setC(int c) {
        this.c=c;
    }
}

只有一个doSomething方法，方法打印一句话，用方法属性c做了一个除法运算，目的是为了一会儿在测试的时候可以灵活控制其抛出异常。

CircuitBreaker, Retry and Fallback应用

创建一个CircuitBreakerTest类，CircuitBreakerTest是启用CircuitBreaker的关键，我们设置一个test方法，该方法为将BackendService的测试方法doSomething进行包装，也就是增加CircuitBreaker的装饰器，使其具有CircuitBreaker的各种特性：

@Service
public class CircuitBreakerTest {

    @Autowired
    BackendService backendService;
    public String test(int c){
        backendService.setC(c);
        // Create a CircuitBreaker (use default configuration)
        CircuitBreaker circuitBreaker = CircuitBreaker.ofDefaults("backendName");
        // Create a Retry with at most 3 retries and a fixed time interval between retries of 500ms
        Retry retry = Retry.ofDefaults("backendName");

        // Decorate your call to BackendService.doSomething() with a CircuitBreaker
        Supplier<String> decoratedSupplier = CircuitBreaker
                .decorateSupplier(circuitBreaker, backendService::doSomething);

        // Decorate your call with automatic retry
        decoratedSupplier = Retry
                .decorateSupplier(retry, decoratedSupplier);

        // Use of Vavr's Try to
        // execute the decorated supplier and recover from any exception
        String result = Try.ofSupplier(decoratedSupplier)
                .recover(throwable -> "Hello from Recovery").get();
        return result==null?"hello resi":result;
    }

}

test方法首先使用默认配置创建一个CircuitBreaker，之后再用默认配置增加Retry装饰器，Retry的默认配置会指定：如果目标方法调用失败，会以500ms的时间间隔、最多调用3次目标方法，每次调用都失败的话，才认为是最终的调用失败。

之后将装饰器绑定到目标方法BackendService的doSomething方法上。

最后，调用目标方法，并且绑定fallback：方法返回throwable异常的话，返回"Hello from Recovery"作为降级服务（而不是将异常直接返回给调用方）。

新增测试用Controller

新增一个controller：

@RestController
@RequestMapping("/hello")
public class CommonController {
    @Autowired
    CircuitBreakerTest circuitBreakerTest;
    @GetMapping("/resi/{c}")
    public String resi(@PathVariable(value="c",required = false) int c){
        return circuitBreakerTest.test(c);
    }
}

代码准备好了，可以测试验证了。

测试验证

启动circuitbreaker模块服务，因为我们是将该模块创建在我们之前的springcloud项目框架下了，所以最好也把eureka的配置加进来，否则会有报错：
application.yml:

spring:
  application:
    name: circuitbreaker
  cloud:
    loadbalancer:
      enabled: true
eureka:
  client:
    service-url: # eureka ?????
      defaultZone: http://127.0.0.1:10086/eureka/
server:
  port: 9098

之后，启动注册中心，启动circuitbreaker。
在这里插入图片描述

后台log：
在这里插入图片描述

异常测试

输入异常参数，让BackendService的test方法抛出异常，前台得到了降级的fallback返回：
在这里插入图片描述
后台：
在这里插入图片描述
参数为0的时候，前端提交1次，后台Retry工作、重试了3次之后，仍然得到异常返回，最后fallback生效。

RateLimiter应用

RateLimiter是Resilience4j用于限流的组件，为了验证RateLimiter应用，我们前面的案例代码不太使用，需要稍作调整。

CircuitBreakerTest类修改为：

public class CircuitBreakerTest {
    private Supplier<String> decoratedSupplier;

    public void init(){
        if(decoratedSupplier != null) return;
        log.info("start to create circuitbreaker...");
        // Create a CircuitBreaker (use default configuration)
        CircuitBreaker circuitBreaker = CircuitBreaker.ofDefaults("backendName");
        // Create a Retry with at most 3 retries and a fixed time interval between retries of 500ms
        Retry retry = Retry.ofDefaults("backendName");

        // Decorate your call to BackendService.doSomething() with a CircuitBreaker
        decoratedSupplier = CircuitBreaker
                .decorateSupplier(circuitBreaker, backendService::doSomething);

        // Decorate your call with automatic retry
        decoratedSupplier = Retry
                .decorateSupplier(retry, decoratedSupplier);

        // Create a custom RateLimiter configuration
        RateLimiterConfig config = RateLimiterConfig.custom()
                .timeoutDuration(Duration.ofMillis(100))
                .limitRefreshPeriod(Duration.ofMinutes(1))
                .limitForPeriod(10)
                .build();
        // Create a RateLimiter
        RateLimiter rateLimiter = RateLimiter.of("backendName", config);

        decoratedSupplier = RateLimiter.decorateSupplier(rateLimiter,decoratedSupplier);
    }
    @Autowired
    BackendService backendService;
    private int counter=0;
    public String test(int c){
        init();
        backendService.setC(c);
        log.info("in test counter:"+ ++counter);
        // Use of Vavr's Try to
        // execute the decorated supplier and recover from any exception
        String result = Try.ofSupplier(decoratedSupplier)
                .recover(throwable -> "Hello from Recovery").get();
        return result==null?"hello resi":result;
    }
}

由于限流装饰器需要统计一定时间范围内的请求次数，所以初始化circuitbreaker的代码不能放在请求内，需要独立出去。

限流器配置为1分钟之内的请求不超过10次，超过10次则限流限制生效、触发降级服务fallback。加了一个调用计数器，调用的时候在log中打印。

启动服务，测试。前端不断刷新，可以发现前10次能够正常获得返回，第11次开始获取不到正常返回了，返回的是fallback：
在这里插入图片描述

查看后台log：
在这里插入图片描述
由于请求都发生在15:26这一分钟之内，所以，前10次请求都能正常调用到BackendService的doSomething方法中，第11次请求之后，就被RateLimiter限流了，请求不能到达调用服务中了，这种情况下前端的反馈是fallback降级服务。

Bulkhead应用

Resilience4j提供了两种Bulkhead隔离策略：SemaphoreBulkhead和ThreadPoolBulkhead。

SemaphoreBulkhead

在上面的CircuitBreakerTest类的init方法尾部加入：

        // Create a custom Bulkhead configuration
        BulkheadConfig bulkheadConfig = BulkheadConfig.custom()
                .maxConcurrentCalls(150)
                .maxWaitDuration(Duration.ofSeconds(1))
                .build();

        Bulkhead bulkhead = Bulkhead.of("backendName", bulkheadConfig);
        decoratedSupplier =Bulkhead.decorateSupplier(bulkhead,decoratedSupplier);

不过项目引入的：

		<dependency>
            <groupId>org.springframework.cloud</groupId>
            <artifactId>spring-cloud-starter-circuitbreaker-resilience4j</artifactId>
        </dependency>

并不能包含Bulkhead 所在的包，暂时还没有搞清楚spring cloud集成的resilience4j，其Bulkhead 在哪个依赖中。所以临时加入了：

        <dependency>
            <groupId>io.github.resilience4j</groupId>
            <artifactId>resilience4j-spring-boot2</artifactId>
            <version>1.7.0</version>
        </dependency>

resilience4j针对springboot2的依赖包，引入依赖之后编译能通过了。

上面代码对Bulkhead 配置为：1秒钟时间范围内的并发线程数不能超过150个。

ThreadPoolBulkhead

ThreadPoolBulkhead配置：

        ThreadPoolBulkheadConfig tpconfig = ThreadPoolBulkheadConfig.custom()
                .maxThreadPoolSize(10)
                .coreThreadPoolSize(2)
                .queueCapacity(20)
                .build();

使用线程池进行限流，最大线程数10，核心线程数2，队列容量20。这种情况下，最大并发线程为10，超过并发线程数的请求将进入队列排队等待，队列满之后，请求将被拒绝。

多组件共同作用的顺序

多个组件共同作用的话，先后顺序如下：

Retry ( CircuitBreaker ( RateLimiter ( TimeLimiter ( Bulkhead ( Function ) ) ) ) )

第一个起作用的是Bulkhead ，最后一个起作用的是Retry。

事件机制

CircuitBreaker, RateLimiter, Cache, Bulkhead, TimeLimiter and Retry components emit a stream of events. It can be consumed for logging, assertions and any other purpose.

Resilience4J的各组件支持发布事件，时间可以被其他任何应用消费（比如日志应用、断言等）。

比如：

circuitBreaker.getEventPublisher()
    .onSuccess(event -> logger.info(...))
    .onError(event -> logger.info(...))
    .onIgnoredError(event -> logger.info(...))
    .onReset(event -> logger.info(...))
    .onStateTransition(event -> logger.info(...));
// Or if you want to register a consumer listening to all events, you can do:
circuitBreaker.getEventPublisher()
    .onEvent(event -> logger.info(...));

应用可捕获（消费）成功、失败、重置等事件，针对事件进行进一步处理。

OK，此致！

本文来自互联网用户投稿，该文观点仅代表作者本人，不代表本站立场。本站仅提供信息存储空间服务，不拥有所有权，不承担相关法律责任。如若转载，请注明出处：/a/250278.html

如若内容造成侵权/违法违规/事实不符，请联系我们进行投诉反馈qq邮箱809451989@qq.com，一经查实，立即删除！

相关文章

关于Linux你必须知道的五件事

关于Linux你必须知道的五件事

Linux是一种开源操作系统 (OS)。操作系统是直接管理系统硬件和资源&#xff08;如 CPU、内存和存储&#xff09;的软件。操作系统位于应用程序和硬件之间&#xff0c;并在所有软件和执行工作的物理资源之间建立连接。 俄罗斯军方计划用 Astra Linux 取代 Windows&#xff01;为…
阅读更多...
OceanBase数据库初识

OceanBase数据库初识

文章目录 说明分布式数据库发展发展历史OceanBase和传统数据库的对比总结 OceanBase数据库产品简介应用案例 OceanBase数据库产品OceanBase数据库内核OceanBase开发者中心&#xff08;ODC&#xff09;产品架构OMS核心功能简介 说明 本文仅供学习和交流学习内容参考官方的培训资…
阅读更多...
eNSP小实验（ACL和NAT）

eNSP小实验（ACL和NAT）

一.ACL 实验目的&#xff1a;过滤流量&#xff0c;然后匹配规划后&#xff0c;判断该流量通过或拒绝 1.拓扑图 2.配置 基本ACL 其它同理配置 R1 [Huawei]sys R1 [R1]int g0/0/0 [R1-GigabitEthernet0/0/0]dis th [V200R003C00] # interface GigabitEthernet0/0/0 # return…
阅读更多...
汽车租赁小程序源码租车小程序

汽车租赁小程序源码租车小程序

汽车租赁小程序&#xff0c;多门店租车小程序&#xff0c;本套系统分为用户端&#xff0c;门店管理端&#xff0c;总管理后台三部分。门店可以加盟入驻平台。可以源码&#xff0c;也可以二次开发&#xff0c;也可以定制开发。php开发语言&#xff0c;前端是uniapp。用户端是小程…
阅读更多...
智能优化算法应用：基于闪电搜索算法3D无线传感器网络(WSN)覆盖优化 - 附代码

智能优化算法应用：基于闪电搜索算法3D无线传感器网络(WSN)覆盖优化 - 附代码

智能优化算法应用&#xff1a;基于闪电搜索算法3D无线传感器网络(WSN)覆盖优化 - 附代码 文章目录 智能优化算法应用&#xff1a;基于闪电搜索算法3D无线传感器网络(WSN)覆盖优化 - 附代码1.无线传感网络节点模型2.覆盖数学模型及分析3.闪电搜索算法4.实验参数设定5.算法结果6.…
阅读更多...
SpringCloud面试题——分布式事务

SpringCloud面试题——分布式事务

一&#xff1a;什么是分布式事务? 分布式事务是指在分布式系统中涉及到多个数据库或多个应用程序之间的事务处理&#xff0c;这些数据库或应用程序可能分布在不同的物理节点上&#xff0c;甚至可能位于不同的地理位置。在分布式事务中&#xff0c;需要确保所有参与者的事务操…
阅读更多...
Docker创建镜像的方式---Dockerfile

Docker创建镜像的方式---Dockerfile

Dockerfile可以创建自定义镜像。包括配置文件&#xff0c;挂载点&#xff0c;对外暴露的端口&#xff0c;设置环境变量。 Docker创建镜像的方式 1、 基于已有镜像创建&#xff1a;根据官方提供的镜像源&#xff0c;创建镜像。然后拉起容器。是一个白板智能提供基础的功能&…
阅读更多...
Redis实现延迟队列

Redis实现延迟队列

目录 一、什么是延时队列 二、延时队列的应用 三、举例说明 我的设计思想: 一、什么是延时队列 延时队列相比于普通队列最大的区别就体现在其延时的属性上&#xff0c;普通队列的元素是先进先出&#xff0c;按入队顺序进行处理&#xff0c;而延时队列中的元素在入队时会指定…
阅读更多...
魔众文库系统v5.7.0版本文件顺序选择，短信注册支持设置密码，前端界面升级

魔众文库系统v5.7.0版本文件顺序选择，短信注册支持设置密码，前端界面升级

文件顺序选择&#xff0c;短信注册支持设置密码&#xff0c;前端界面升级 [新功能] 富文本支持文档一键导入&#xff0c;支持Word文档&#xff08;docx&#xff09;、Markdown文档&#xff08;md&#xff09; [新功能] 财务中心→全部订单新增"业务订单ID"筛选条件…
阅读更多...
10天玩转Python第7天：python 面向对象 全面详解与代码示例

10天玩转Python第7天：python 面向对象 全面详解与代码示例

今日内容 封装(定义类的过程) 案例(存放家具) 继承 多态 封装的补充 私有和公有权限属性的分类(实例属性, 类属性)方法的分类(实例方法, 类方法, 静态方法) 封装案例 # 定义家具类 class HouseItem: """家具类""" def __init__(self, name, a…
阅读更多...
linux应用层编程问题--沙雕问题

linux应用层编程问题--沙雕问题

1.调用沁恒 USB读取接口 读不到数据 static bool CH37XASyncReadData(int iIndex, uint32_t epindex, void *oBuffer, uint32_t *ioLength) {struct _bulkUp {uint32_t len;uint8_t epindex;uint8_t data[0];} __attribute__((packed));struct _bulkUp *bulkUp;int retval;bul…
阅读更多...
zookeeper基础内容

zookeeper基础内容

文章目录 Zookeeper基础概述数据结构Zookeeper节点操作zookeeper节点操作命令数据模型 znode 结构 zookeeper java客户端ZooKeeper原生APICuratorzkClient对比总结 Zookeeper基础 概述 zookeeper&#xff08;分布式协调服务&#xff09; 本质&#xff1a;小型的文件存储系统监…
阅读更多...
Android13适配所有文件管理权限

Android13适配所有文件管理权限

Android13适配所有文件管理权限 前言&#xff1a; 很早之前在Android11上面就适配过所有文件管理权限&#xff0c;这次是海外版升级到Android13&#xff0c;由于选择相册用的是第三方库&#xff0c;组内的同事没有上架Google的经验直接就提交代码&#xff0c;虽然功能没有问题…
阅读更多...
3.qml 3D-Node类学习

3.qml 3D-Node类学习

Node类是在View3D 中的对象基础组件&#xff0c;用于表示3D空间中的对象&#xff0c;类似于Qt Quick 2D场景中的Item&#xff0c;介绍如下所示&#xff1a; 如上图可以看到&#xff0c;Node类的子类非常多&#xff0c;比如Model类(显示3D模型)、ParticleSystem3D粒子系统类、Li…
阅读更多...
Guardrails for Amazon Bedrock 基于具体使用案例与负责任 AI 政策实现定制式安全保障（预览版）

Guardrails for Amazon Bedrock 基于具体使用案例与负责任 AI 政策实现定制式安全保障（预览版）

作为负责任的人工智能&#xff08;AI&#xff09;战略的一部分&#xff0c;您现在可以使用 Guardrails for Amazon Bedrock&#xff08;预览版&#xff09;&#xff0c;实施专为您的用例和负责任的人工智能政策而定制的保障措施&#xff0c;以此促进用户与生成式人工智能应用程…
阅读更多...
C#爬虫1688以图搜图API接口功能的实现

C#爬虫1688以图搜图API接口功能的实现

背景 在1688有个功能&#xff0c;就是上传图片&#xff0c;就可以找到类似的商品。如下 网址 &#xff1a;https://www.1688.com/ 这时候&#xff0c;我们可以使用程序来代替&#xff0c;大批量的完成图片上传功能。 实现思路 1、找到图片上传接口 post请求&#xff0c;for…
阅读更多...
R、python读取空间转录组的8种方式

R、python读取空间转录组的8种方式

“ 空间转录组测序主要包括5个步骤&#xff0c;我们着重下游分析部分&#xff1a;空转数据分析和可视化。本篇主分享如何使用python和R读取空转数据&#xff0c;主要使用scanpy stlearn seurat包” 引言 在正式开始之前&#xff0c;我们先看看cellranger流程跑完之后&#xff0…
阅读更多...
杰卡德的故事

杰卡德的故事

三个男人分别是杰卡德距离 杰卡德相似系数和杰卡德系数 杰卡德相似系数和杰卡德距离是互为相反数的。 杰卡德系数和杰卡德距离是不是一回事 感觉是一回事
阅读更多...
【论文阅读】Uncertainty-aware Self-training for Text Classification with Few Label

【论文阅读】Uncertainty-aware Self-training for Text Classification with Few Label

论文下载 GitHub bib: INPROCEEDINGS{mukherjee-awadallah-2020-ust,title "Uncertainty-aware Self-training for Few-shot Text Classification",author "Subhabrata Mukherjee and Ahmed Hassan Awadallah",booktitle "NeurIPS",yea…
阅读更多...
mybatis高级扩展-插件和分页插件PageHelper

mybatis高级扩展-插件和分页插件PageHelper

1、建库建表 create database mybatis-example; use mybatis-example; create table emp (empNo varchar(40),empName varchar(100),sal int,deptno varchar(10) ); insert into emp values(e001,张三,8000,d001); insert into emp values(e002,李四,9000,d001); insert into…
阅读更多...
最新文章

Copyright @ 2022~2023