微服务学习 | Spring Cloud 中使用 Sentinel 实现服务限流

前些天发现了一个巨牛的人工智能学习网站，通俗易懂，风趣幽默，忍不住分享一下给大家。点击跳转到网站https://www.captainbed.cn/kitie。

目录

前言

通过代码实现限流

定义资源

通过代码定义资源

通过注解方式定义资源

定义限流规则

通过控制台实现限流

下载并运行Sentinel控制台

在程序中加入并配置 Sentinel

设置规则

新增限流规则

前言

限流的目的是通过对并发访问/请求进行限速，或者对一个时间窗口内的请求进行限速来保护系统，一旦达到限制速率则可以拒绝服务、排队或等待、降级等处理

Sentinel是阿里中间件团队开源的，面向分布式服务架构的轻量级高可用流量控制组件，主要以流量为切入点，从流量控制、熔断降级、系统负载保护等多个维度来帮助用户保护服务的稳定性。

在 Sentinel 中，实现限流的方法有以下两种：

  1. 通过代码方法实现限流。
  2. 通过 Sentinel 控制台设置实现限流。

接下来我们讲解以上两种方式形式如何实现限流保护

通过代码实现限流

通过代码实现限流需要以下两步方可实现：

  1. 定义资源
  2. 定义限流规则

定义资源

定义资源可以通过代码方式或注解方式来实现，具体实现如下。

通过代码定义资源

可以通过代码的的方式 SphU.entry("resourceName") 来定义资源，具体实现代码如下：

@RequestMapping("/getuser")
public String getUser() {
    try (Entry entry = SphU.entry("getuser")) {
        // 被保护逻辑
        return "User";
    } catch (Exception e) {
        // 限流之后的业务逻辑
        return "限流";
    }
}

PS：SphU 是 Sentinel Protection Hotspot Util 的缩写，Sentinel 热点保护工具类。

通过注解方式定义资源

通过注解 @SentinelResource 也可以实现资源的定义，如下代码所示：

// 定义资源和限流后触发的方法
@SentinelResource(value = "resourceName", blockHandler = "myBlockHandler")
@RequestMapping("/getnamebyid")
public String getNameById(Integer id) {
return id + "-lei";
}
// 限流后触发的方法
public String myBlockHandler(Integer id, BlockException blockException) {
    String msg = "Do myBlockHandler method.";
    System.out.println(msg);
    return msg;
}

其中，value 属性定义的资源名称，blockHandler 定义的是原方法被限流/降级/系统保护之后执行的方法。

注意事项

  1. 定义的限流方法 myBlockHandler 必须和原方法的返回值、参数保持一致，否则会报错(Sentinel通过反射调用的限流方法)；
  2. 限流方法必须添加 BlockException 参数，不然会因为找不到合适的限流后执行方法，而提示报错；

@SentinelResource 注解属性说明：

  • value：资源名称，必需项（不能为空）。
  • entryType：资源调用的流量类型：入口流量（EntryType.IN）和出口流量（EntryType.OUT），注意系统规则只对 IN 生效。
  • blockHandler/blockHandlerClass: 限流和熔断时执行 BlockException 所对应的方法名。
  • fallback/fallbackClass：非 BlockException 时，其他非限流、非熔断时异常对应的方法。
  • exceptionsToIgnore：用于指定哪些异常被排除掉，不会计入异常统计中，也不会进入 fallback 逻辑中，而是会原样抛出。

注：1.6.0 之前的版本 fallback 函数只针对熔断降级异常（DegradeException）进行处理，不能针对业务异常进行处理。

定义限流规则

在 Spring Boot 项目中，只需要将限流规则添加到项目启动时执行即可，如下代码所示：

public static void main(String[] args) {
    SpringApplication.run(SentinelDemoApplication.class, args);
    // 加载限流规则
    initFlowRules();
}

而限流规则定义如下：

private static void initFlowRules() {
    List<FlowRule> rules = new ArrayList<>();
    FlowRule rule = new FlowRule();
    rule.setResource("resourceName"); // 资源名称
    rule.setGrade(RuleConstant.FLOW_GRADE_QPS); // 根据 QPS 限流
    rule.setCount(1); // QPS 阈值【每秒只允许通过一个请求】
    rule.setStrategy(RuleConstant.STRATEGY_DIRECT); // 调用关系限流策略【非必须设置】
    rule.setControlBehavior(RuleConstant.CONTROL_BEHAVIOR_DEFAULT); // 流控效果【非必须设置】
    rule.setClusterMode(false); // 是否集群限流【非必须设置，默认非集群】
    rules.add(rule);
    FlowRuleManager.loadRules(rules);
}

其中：

  • setStrategy：设置调用关系限流策略，包含的值有：
    • 直接（RuleConstant.STRATEGY_DIRECT）【默认值】
    • 链路（RuleConstant.STRATEGY_RELATE）
    • 关联（RuleConstant.STRATEGY_CHAIN）
  • setControlBehavior：设置流控效果，包含的值有：
    • 直接拒绝（RuleConstant.CONTROL_BEHAVIOR_DEFAULT）【默认值】
    • 冷启动（RuleConstant.CONTROL_BEHAVIOR_WARM_UP）
    • 匀速启动（RuleConstant.CONTROL_BEHAVIOR_RATE_LIMITER）
    • 冷启动+匀速启动（RuleConstant.CONTROL_BEHAVIOR_WARM_UP_RATE_LIMITER）

通过控制台实现限流

Sentinel 还可以使用控制台的方式进行限流，这样子可以减少对原项目代码的入侵，不过默认情况下限流规则是保存在内存中，所以重启之后规则会丢失，默认情况下下的推送流程如下：

它的实现步骤如下：

  1. 下载并运行 Sentinel Dashboard（控制台）。
  2. 在程序中加入并配置 Sentinel Dashboard。
  3. 在 Sentinel Dashboard 配置限流/熔断等规则。
  4. 验证效果。

下载并运行Sentinel控制台

我们可以从 Sentinel 官方仓库下载最新版本的控制台 jar 包，访问地址：github.com/sentinel

使用如下命令启动控制台：

java -jar sentinel-dashboard.jar --server.port=18080

从 Sentinel 1.6.0 起，Sentinel 控制台引入基本的登录功能，默认用户名和密码都是 sentinel。可以参考 鉴权模块文档 配置用户名和密码，命令如下：

java -Dserver.port=18080 -Dsentinel.dashboard.auth.username=sentinel -Dsentinel.dashboard.auth.password=123456 -jar sentinel-dashboard.jar

Sentinel 控制台启动时的可选配置项：

配置项默认值描述
server.port8080指定端口
csp.sentinel.dashboard.serverlocalhost:8080指定地址
project.name-指定程序的名称
sentinel.dashboard.auth.usernamesentinelDashboard 登录账号（需要版本1.6+）
sentinel.dashboard.auth.passwordsentinelDashboard 登录密码（需要版本1.6+）
server.servlet.session.timeout30分钟登录 Session 过期时间（需要版本1.6+）
配置为 7200 表示 7200 秒
配置为 60m 表示 60 分钟
在程序中加入并配置 Sentinel

在需要进行流控的项目中加入 Sentinel 依赖：

<dependency>
  <groupId>com.alibaba.cloud</groupId>
  <artifactId>spring-cloud-starter-alibaba-sentinel</artifactId>
</dependency>

在项目中配置 Sentinel Dashboard 地址：

spring:
  application:
    name: sentinel-dashboard-demo
  cloud:
    sentinel:
      transport:
        dashboard: localhost:18080
        client-ip: 127.0.0.1 
        port: 8721
        heartbeat-interval-ms: 10000

其中，只有 dashboard 是必输项，其他的都可以省略，他们的含义如下：

  • dashboard：sentinel 控制台地址。
  • client-ip：当前客户端 IP，不设置自动选择一个 IP 注册。
  • port：与 sentinel 通讯的端口，如不设置，会从 8719 开始扫描，依次 +1，直到找到未被占用的接口。
  • heartbeat-interval-ms：心跳发送周期，默认值是 10s。

设置规则

新增限流规则

参数说明：

  • 针对来源：Sentinel 可以针对调用者进行限流，填写具体微服务名时，指定对此微服务进行限流 ，默认值为 default（不区分来源，全部限制）。
  • 阈值类型/单机阈值：用于限制和控制流量的一种度量标准的类型，可以为 QPS（Queries Per Second，每秒请求数）也可以为“并发线程数”。
    • QPS：每秒请求达到此值开始限流。
    • 并发线程数：请求此资源的线程达到某个值时限流。每个请求分配一个线程，当请求执行时间长时，很快就会触发限流，相反如果线程执行速度快，那么限流触发就会概率就会比较小。
  • 流控模式：流量控制模式。
    • 直接：接口达到限流条件时，直接限流。
    • 关联：当关联的资源达到阈值时，就限流自己。
    • 链路：指定资源从入口资源进来的流量，如果达到阈值，就进行限流。
  • 流控效果：流量控制效果。
    • 快速失败：该方式是默认的流量控制方式，比如 QPS 超过任意规则的阈值后，新的请求就会被立即拒绝，拒绝方式为抛出 FlowException。这种方式适用于对系统处理能力确切已知的情况下，比如通过压测确定了系统的准确水位时。
    • 排队等待（也叫匀速通过）：排队等待会严格控制请求通过的间隔时间，让请求稳定且匀速的通过，可以用来处理间隔性突发的高流量。例如抢票软件，在某一秒或者一分钟内有大量的请求到来，而接下来的一段时间里处于空闲状态，我们希望系统能够在接下来的空余时间里也能出去这些请求，而不是直接拒绝。在设置排队等待时，需要填写超时时间。
    • Warm Up：此项叫做预热或者冷启动方式，此模式主要是防止流量突然增加时，直接把系统拉升到高水位可能瞬间把系统压垮，通过"冷启动"，让通过的流量缓慢增加，在一定时间内逐渐增加到阈值上限，给冷系统一个预热的时间，避免冷系统被压垮。当使用 Warm Up 模式时，我们还需要指定启动时开放的 QPS 比例（DEFAULT_COLD_FACTOR，默认值为 3，代表 30%），以及系统预热所需时长（warmUpPeriodSec，默认值是 10 秒）。

限流页面当“是否集群”选中之后，就会是这样的界面：

其中最后一项“失败退化”中的 Token Server 含义如下： Token Server 是 Sentinel 用于集群流量控制的关键组件，它负责分发令牌并进行流量控制。当 Sentinel 的应用程序配置为集群限流模式时，它会向 Token Server 请求令牌，然后根据令牌情况来进行流量控制。如果 Token Server 不可用，可能是由于网络故障、Token Server 实例崩溃等原因，这时候无法从 Token Server 获取令牌。 Token Server 配置的含义如下：

  • 当配置选项为"是"时：表示当 Token Server 不可用时，Sentinel 会自动切换为单机限流模式。在单机限流模式中，Sentine 会从本地的限流规则进行流量控制，不再依赖 Token Server。这样可以保证即使 Token Server 不可用，也能够继续对流量进行限制。
  • 当配置选项为"否"时：表示当 Token Server 不可用时，Sentinel 不会自动切换为单机限流模式，流量控制会被暂停，即无法进行限流，可能会导致服务负载过高。

自定义限流错误信息

当请求被限流后，返回的响应信息往往不是很友好，我们这里统一处理返回异常信息，实现BlockExceptionHandler接口

@Configuration
public class MySentinelConfig implements BlockExceptionHandler {

    @Override
    public void handle(HttpServletRequest request, HttpServletResponse response, BlockException e) throws Exception {
        // BlockException 异常接口，其子类为Sentinel五种规则异常的实现类
        // AuthorityException 授权异常
        // DegradeException 降级异常
        // FlowException 限流异常
        // ParamFlowException 参数限流异常
        // SystemBlockException 系统负载异常
        String msg = null;
        if (e instanceof FlowException) {
            msg = "限流";
        } else if (e instanceof DegradeException) {
            msg = "降级";
        } else if (e instanceof ParamFlowException) {
            msg = "热点参数限流";
        } else if (e instanceof SystemBlockException) {
            msg = "系统规则（负载/...不满足要求）";
        } else if (e instanceof AuthorityException) {
            msg = "授权规则不通过";
        }

        R error = R.error(500, msg);
        response.setCharacterEncoding("UTF-8");
        response.setContentType("application/json");
        response.getWriter().write(JSON.toJSONString(error));
    }
}

测试 

当访问超出阈值时，响应返回自定义错误信息

{"msg":"限流","code":500}

总结

本篇文章主要介绍了Sentinel的两种实现限流的方式，除此之外当然还有许多功能与限流规则，这里由于篇幅问题就不一一介绍了，有兴趣的朋友可以自己探索一下。我个人觉得Sentinel是一个非常优秀的组件，比原来用的Hystrix的确有着非常大的改进，值得推荐。

本文来自互联网用户投稿，该文观点仅代表作者本人，不代表本站立场。本站仅提供信息存储空间服务，不拥有所有权，不承担相关法律责任。如若转载，请注明出处：/a/381682.html

如若内容造成侵权/违法违规/事实不符，请联系我们进行投诉反馈qq邮箱809451989@qq.com，一经查实，立即删除！

相关文章

4核8g服务器能访问多少人？2024年测评

4核8g服务器能访问多少人？2024年测评

腾讯云轻量4核8G12M轻量应用服务器支持多少人同时在线&#xff1f;通用型-4核8G-180G-2000G&#xff0c;2000GB月流量&#xff0c;系统盘为180GB SSD盘&#xff0c;12M公网带宽&#xff0c;下载速度峰值为1536KB/s&#xff0c;即1.5M/秒&#xff0c;假设网站内页平均大小为60KB…
阅读更多...
Zabbix6.x配置中文界面 解决乱码问题

Zabbix6.x配置中文界面 解决乱码问题

Zabbix6.x配置中文界面 解决乱码问题 Zabbix6.x界面无法选择中文&#xff0c;通过安装语言包解决。后面也解决了zabbix6中文方块&#xff08;乱码&#xff09;问题。 配置中文语言包 系统中默认没有携带中文语言包&#xff0c;可以通过以下命令查看 localectl list-locales #…
阅读更多...
编曲学习：旋律创作基础概念 和弦进行作曲 和弦外音使用 作曲技巧

编曲学习：旋律创作基础概念 和弦进行作曲 和弦外音使用 作曲技巧

旋律创作基础概念 和弦进行作曲 和弦外音使用 作曲技巧https://app8epdhy0u9502.pc.xiaoe-tech.com/live_pc/l_65be1ba7e4b064a83b92a3d7?course_id=course_2XLKtQnQx9GrQHac7OPmHD9tqbv文档https://app8epdhy0u9502.pc.xiaoe-tech.com/p/t_pc/course_pc_detail/camp_pro/cour…
阅读更多...
奇异值分解（SVD）的应用——图像压缩

奇异值分解（SVD）的应用——图像压缩

SVD方法是模型降阶的一类重要方法&#xff0c;本征正交分解&#xff08;POD&#xff09;和平衡截断&#xff08;BT&#xff09;都属于SVD类方法。 要想深入了解模型降阶技术&#xff0c;我们可以先从SVD的应用入手&#xff0c;做一个直观的了解。 1. SVD的定义和分类 我们想寻找…
阅读更多...
nginx添加lua模块

nginx添加lua模块

目录 已安装了nginx&#xff0c;后追加lua模块nginx 重新编译知识参考&#xff1a; 从零安装一、首先需要安装必要的库&#xff08;pcre、zlib、openssl&#xff09;二、安装LUA环境及相关库 &#xff08;LuaJIT、ngx_devel_kit、lua-nginx-module&#xff09;注意&#xff1a;…
阅读更多...
「云原生可观测团队」获选「InfoQ 年度技术内容贡献奖」

「云原生可观测团队」获选「InfoQ 年度技术内容贡献奖」

随着云原生、人工智能逐渐成为各行各业的创新生产力工具。可以预见&#xff0c;我们即将进入全新的智能化时代。随着数据成为新型生产要素&#xff0c;云和 AI 正走向深度融合。云原生通过提供大规模多元算力的高效供给&#xff0c;可观测成为业务创新的核心基础设施&#xff0…
阅读更多...
Android---Jetpack Compose学习002

Android---Jetpack Compose学习002

Compose 布局。Compose 布局的目标&#xff1a;1&#xff09;实现高性能&#xff1b;2&#xff09;让开发者能够轻松编写自定义布局&#xff1b;3&#xff09;在 Compose 中&#xff0c;通过避免多次测量布局子级可实现高性能。如果需要进行多次测量&#xff0c;Compose 具有一…
阅读更多...
数字孪生：构建未来智慧社区的关键技术

数字孪生：构建未来智慧社区的关键技术

随着科技的快速发展&#xff0c;数字孪生技术作为构建未来智慧社区的关键技术&#xff0c;正逐渐受到广泛关注。数字孪生技术能够实现物理世界与数字世界的交互映射&#xff0c;为智慧社区的建设提供强有力的支持。本文将探讨数字孪生技术在构建未来智慧社区中的作用和意义&…
阅读更多...
JavaIO读取C101.txt文件

JavaIO读取C101.txt文件

一、split分割带空格的字符串&#xff08;四种方法及其区别&#xff09; 参考&#xff1a;https://blog.csdn.net/yezonghui/article/details/106455940 String str "a b c d";String[] arr1 str.split(" "); //仅分割一个空格 String[] arr2 str…
阅读更多...
yo！这里是Linux线程保姆级入门介绍

yo！这里是Linux线程保姆级入门介绍

目录 前言 Linux线程基础 线程概念 底层示意图 线程vs进程 Linux线程控制 创建线程 线程ID 线程终止 线程等待 线程分离 Linux线程互斥 背景概念 互斥量mutex 1.相关接口 2.实现原理 可重入vs线程安全 死锁 Linux线程同步 条件变量 生产者消费者模型 基于…
阅读更多...
MySQL-索引（INDEX）

MySQL-索引（INDEX）

文章目录 1. 索引概述及优劣势2. 索引结构和不同引擎对索引的支持情况2.1 Btree2.2 Hash索引 3. 索引分类4. 索引语法5. 索引在什么情况下会失效&#xff1f;5.1 最左前缀法则5.2 范围查询5.3 索引列运算5.4 头部模糊查询5.5 OR连接条件5.6 字符串不加引号5.7 数据分布影响 6. …
阅读更多...
【开源】SpringBoot框架开发考研专业课程管理系统

【开源】SpringBoot框架开发考研专业课程管理系统

目录 一、摘要1.1 项目介绍1.2 项目录屏 二、功能模块2.1 数据中心模块2.2 考研高校模块2.3 高校教师管理模块2.4 考研专业模块2.5 考研政策模块 三、系统设计3.1 用例设计3.2 数据库设计3.2.1 考研高校表3.2.2 高校教师表3.2.3 考研专业表3.2.4 考研政策表 四、系统展示五、核…
阅读更多...
跳表详解和实现｜深挖Redis底层数据结构

跳表详解和实现｜深挖Redis底层数据结构

文章目录 跳表前言项目代码仓库认识跳表跳表的实现思路跳表性能分析对比平衡树&#xff08;avl和红黑树&#xff09;和哈希表使用手册成员变量成员函数构造析构迭代器sizeclearemptyoperatorfindinserterase 跳表细节实现节点定义跳表结构定义构造、析构、拷贝构造和赋值重载si…
阅读更多...
hummingbird，一个便于将模型部署到边缘设备的Python库！

hummingbird，一个便于将模型部署到边缘设备的Python库！

前言 随着人工智能和机器学习的快速发展&#xff0c;将训练好的模型部署到生产环境中成为了一个重要的任务。而边缘计算设备&#xff0c;如智能手机、嵌入式系统和物联网设备&#xff0c;也需要能够运行机器学习模型以进行实时推理。Python Hummingbird 是一个强大的工具&…
阅读更多...
Linux Terminator工具: 保存窗口布局 执行默认启动指令

Linux Terminator工具: 保存窗口布局 执行默认启动指令

How do I get Terminator to start up with my custom layout? - Ask Ubuntu
阅读更多...
新春快乐（烟花、春联）【附源码】

新春快乐（烟花、春联）【附源码】

新春快乐 一&#xff1a; C语言 -- 烟花二&#xff1a;Python -- 春联三&#xff1a;Python -- 烟花四&#xff1a;HTML -- 烟花 一&#xff1a; C语言 – 烟花 运行效果&#xff1a; #include <graphics.h> #include <math.h> #include <time.h> #include…
阅读更多...
JSP原理简述

JSP原理简述

JSP动态网页技术&#xff0c;可以定义html&#xff0c;css&#xff0c;js等静态内容&#xff0c;还可以定义java代码等动态内容。 注意导入坐标时&#xff0c;JSP的scope标签是provided&#xff0c;和servlet一样&#xff0c;否则会报错。 JSP本质上就是一个Servlet&#xff0c…
阅读更多...
C++11：移动构造函数【写法+调用时机】【C++返回vector为什么不报错】

C++11：移动构造函数【写法+调用时机】【C++返回vector为什么不报错】

文章目录 what is 移动构造函数&#xff1f;移动构造函数的实现的例子when 移动构造函数&#xff1f;在C98之前&#xff0c;没有移动构造函数&#xff0c;是怎么做的呢&#xff1f;后记 what is 移动构造函数&#xff1f; 构造函数string(string&& str)类似于复制构造…
阅读更多...
单片机项目调试中的技巧和常见问题解决

单片机项目调试中的技巧和常见问题解决

单片机是嵌入式系统中的重要组成部分&#xff0c;在各种电子设备中发挥着重要的作用。在单片机项目开发过程中&#xff0c;调试是至关重要的一环&#xff0c;同时也会遇到一些常见问题。本文将介绍一些单片机项目调试的技巧以及常见问题的解决方法&#xff0c;希望能够对单片机…
阅读更多...
leetcode——滑动窗口题目汇总

leetcode——滑动窗口题目汇总

本章总结一下滑动窗口的解题思路&#xff1a; 在字符串中使用双指针 left 和 right 围成的一个左闭右开的区域作为一个窗口。不断将 right 向右滑动&#xff0c;直到窗口中的字符串符合条件。此时将 left 向右滑动&#xff0c;直到窗口中的字符串不符合条件&#xff0c;期间需…
阅读更多...
最新文章

Copyright @ 2022~2023