【知识点随笔分享 | 第九篇】常见的限流算法

目录

前言:

1.固定窗口限流: 

缺点: 

2.滑动窗口限流:

 优点:

滴桶限流:

缺点:

令牌桶限流: 

优点:

总结:


 

前言:

        当今互联网时代,随着网络流量的快速增长和系统负载的不断加重,限流算法作为一种重要的网络管理工具变得愈发重要。限流算法通过控制系统的输入和输出流量,有效地保护系统不受过载的影响,确保系统能够稳定可靠地运行。本文将介绍几种常见的限流算法及其应用场景,旨在帮助读者更好地理解限流算法的原理和实际应用,从而为网络性能优化提供有力支持。限流算法的研究和应用对于保障网络安全、提升系统稳定性具有重要意义,在当前信息化社会具有广泛的应用前景。 

1.固定窗口限流: 

        固定窗口限流  就是在单位时间(时间窗口)内,只能接收指定数量的请求。

  • 在固定窗口限流算法中,时间被划分为固定大小的窗口,并且每个窗口内允许通过的请求数是固定的。
  • 算法步骤:
    • 统计当前窗口内的请求数;
    • 如果请求数超过了限制值,则拒绝该请求;
    • 重置新的窗口开始计数。

用汉堡店举例:固定窗口限流就是  在固定的时间内只能接待指定数量的顾客。比如一个小时只能接待10个顾客。

固定窗口限流的思路比较简单,代码实现为:

import java.util.concurrent.TimeUnit;
import java.util.concurrent.atomic.AtomicInteger;

public class FixedWindowRateLimiter {
    private final int limit;  // 限制的请求数
    private final long windowSizeInMillis;  // 窗口大小(毫秒)
    private final AtomicInteger counter;
    private long windowStartTime;

    public FixedWindowRateLimiter(int limit, long windowSizeInMillis) {
        this.limit = limit;
        this.windowSizeInMillis = windowSizeInMillis;
        this.counter = new AtomicInteger(0);
        this.windowStartTime = System.currentTimeMillis();
    }

    public boolean allowRequest() {
        long currentTime = System.currentTimeMillis();
        long elapsedTime = currentTime - windowStartTime;

        if (elapsedTime > windowSizeInMillis) {
            // 进入新的窗口,重置计数器和窗口开始时间
            counter.set(0);
            windowStartTime = currentTime;
        }

        // 检查请求数是否超过限制
        if (counter.incrementAndGet() > limit) {
            return false;  // 超过限制,拒绝请求
        }

        return true;  // 没有超过限制,允许请求通过
    }
}

缺点: 

        固定窗口限流可能会引发流量突刺,也就是可能会发生以下情况:

我们用红色来标识 在该时间窗口区域发生了请求,也就是说固定窗口限流在窗口的边界处可能会发生流量突刺,在短时间内发生多次请求

2.滑动窗口限流:

           滑动窗口限流  就是在单位时间(时间窗口)内,只能接收指定数量的请求。但单位时间是滑动的。

  • 在滑动窗口限流算法中,时间被划分为固定大小的窗口,每个窗口内允许通过的请求数是固定的,同时可以滑动窗口来适应请求的变化。
  • 算法步骤:
    • 统计当前窗口内的请求数;
    • 如果请求数超过了限制值,则拒绝该请求;
    • 滑动窗口,将旧的窗口移除。

我们用图片来标识滑动窗口限流和固定窗口限流的区别:

这是固定窗口限流,他的时间窗口是由时间窗口大小决定的。 

 这是滑动窗口限流,他的时间窗口是不断滑动的。

也就是说:滑动窗口限流不会一次性消除旧窗口的请求次数,而是不断的通过滑动的方式抹除。

 用汉堡店举例:滑动窗口限流就是  单位时间内限制接客数,相比较于固定窗口而言,假设我们在5.59接待了五位客人,如果时间窗口长度为小时,滑动单位为1分钟,那么六点的时候,并不会刷新窗口接待客人人数,而是继续保留5.59的接待人数。因为此时二者仍位于一个窗口内。  

滑动窗口限流的代码思路为:

import java.util.concurrent.TimeUnit;
import java.util.concurrent.atomic.AtomicInteger;
import java.util.concurrent.locks.Lock;
import java.util.concurrent.locks.ReentrantLock;

public class SlidingWindowRateLimiter {
    private final int limit;  // 限制的请求数
    private final long windowSizeInMillis;  // 窗口大小(毫秒)
    private final int[] counter;
    private final Lock lock;
    private long windowStartTime;

    public SlidingWindowRateLimiter(int limit, long windowSizeInMillis) {
        this.limit = limit;
        this.windowSizeInMillis = windowSizeInMillis;
        this.counter = new int[(int) (windowSizeInMillis / 1000)];
        this.lock = new ReentrantLock();
        this.windowStartTime = System.currentTimeMillis();
    }

    public boolean allowRequest() {
        long currentTime = System.currentTimeMillis();
        long elapsedTime = currentTime - windowStartTime;

        lock.lock();
        try {
            // 滑动窗口,将旧的窗口移除
            if (elapsedTime > windowSizeInMillis) {
                int numToRemove = (int) ((elapsedTime - windowSizeInMillis) / 1000);
                for (int i = 0; i < numToRemove; i++) {
                    counter[i] = 0;
                }
                windowStartTime = currentTime - (elapsedTime % windowSizeInMillis);
            }

            // 统计请求数
            int currentWindowIndex = (int) (elapsedTime / 1000);
            counter[currentWindowIndex]++;

            // 检查请求数是否超过限制
            int totalRequests = 0;
            for (int i = 0; i < counter.length; i++) {
                totalRequests += counter[i];
            }
            if (totalRequests > limit) {
                return false;  // 超过限制,拒绝请求
            }
        } finally {
            lock.unlock();
        }

        return true;  // 没有超过限制,允许请求通过
    }
}

 优点:

                滑动窗口可以缓解流量突刺:例如固定窗口(窗口大小为1小时,每个窗口最多处理10个请求)可以在1.59进行了十次请求,2.01进行了十次请求。但是在滑动窗口中,如果我们将滑动参数设置为1min,窗口大小设置为1小时,那么1.59时,滑动窗口的范围是1.59-2.59。此时如果设置最大请求数量为10,那么1.59执行的十次请求就已经填满了请求数量上限。2.01的就无法进行请求。通过这种思路避免了窗口边界流量突刺这种情况。

滴桶限流:

滴桶限流 就是  接收指定数量的请求,按照指定的速率处理。

  • 在滴桶限流算法中,系统以恒定的速率漏水,并以固定速率接收请求。
  • 算法步骤:
    • 当有请求到达时,先检查桶中是否有水滴;
    • 如果有水滴可用,则允许请求通过并漏水;
    • 如果没有水滴可用,则拒绝该请求。

 

用汉堡店举例:滴桶限流就是每个小时接待6个客户,然后每十分钟处理一个客户的请求 

 java代码实现:

import java.util.concurrent.TimeUnit;

public class LeakyBucketRateLimiter {
    private final int capacity;  // 桶的容量
    private final double rate;   // 水滴漏出速率(水滴/秒)
    private double water;        // 当前桶中的水滴数量
    private long lastLeakTime;   // 上次漏水的时间戳

    public LeakyBucketRateLimiter(int capacity, double rate) {
        this.capacity = capacity;
        this.rate = rate;
        this.water = 0;
        this.lastLeakTime = System.nanoTime();
    }

    public synchronized boolean allowRequest() {
        leak();

        if (water >= 1) {
            water -= 1;
            return true;  // 水滴足够,允许请求通过
        } else {
            return false;  // 水滴不足,拒绝请求
        }
    }

    private void leak() {
        long now = System.nanoTime();
        double elapsedTime = (now - lastLeakTime) / 1e9;
        double waterToLeak = elapsedTime * rate;

        if (waterToLeak > 0) {
            water = Math.max(0, water - waterToLeak);
            lastLeakTime = now;
        }
    }
}

缺点:

        滴桶限流的并发性比较差,我们在代码中就可以看到,他需要对水滴(请求)逐个进行处理

令牌桶限流: 

        令牌桶限流就是创建一个桶,生成指定数量的令牌,只有拿到令牌的请求才可以进行处理。

  • 在令牌桶限流算法中,系统以恒定的速率生成令牌并放入令牌桶中,每个请求需要获取一个令牌才能通过。
  • 算法步骤:
    • 每隔一段时间生成一定数量的令牌放入桶中;
    • 当有请求到达时,从桶中获取一个令牌,如果没有令牌可用,则拒绝该请求。
import java.util.concurrent.TimeUnit;

public class TokenBucketRateLimiter {
    private final int capacity;  // 令牌桶容量
    private final double rate;   // 令牌生成速率(令牌/秒)
    private double tokens;       // 当前桶中的令牌数
    private long lastRefillTime; // 上次填充令牌的时间戳

    public TokenBucketRateLimiter(int capacity, double rate) {
        this.capacity = capacity;
        this.rate = rate;
        this.tokens = capacity;
        this.lastRefillTime = System.nanoTime();
    }

    public synchronized boolean allowRequest() {
        refill();

        if (tokens >= 1) {
            tokens -= 1;
            return true;  // 令牌足够,允许请求通过
        } else {
            return false;  // 令牌不足,拒绝请求
        }
    }

    private void refill() {
        long now = System.nanoTime();
        double elapsedTime = (now - lastRefillTime) / 1e9;
        double tokensToAdd = elapsedTime * rate;

        if (tokensToAdd > 0) {
            tokens = Math.min(capacity, tokens + tokensToAdd);
            lastRefillTime = now;
        }
    }
}

用汉堡店举例:令牌桶限流就是 汉堡店 有一个 餐卷桶,并且会按时补充餐卷桶的餐卷数,只有拿到了餐卷才可以购买汉堡

优点:

        令牌桶限流的并发性能比较高,我们可以批量对拿到令牌的请求进行处理。

总结:

        在实际的开发中,其实我们并不用手动去实现这些限流算法,很多第三方库都已经为我们实现了限流算法,我们只需要直接使用就好了。而在实际开发中,常用的限流算法是 滴桶限流和令牌桶限流。因此我们要掌握好这两个限流算法。

如果我的内容对你有帮助,请点赞,评论,收藏。创作不易,大家的支持就是我坚持下去的动力!

 

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处:/a/270225.html

如若内容造成侵权/违法违规/事实不符,请联系我们进行投诉反馈qq邮箱809451989@qq.com,一经查实,立即删除!

相关文章

【Linux系统编程】【Google面试题改编】线程之间的同步与协调 Linux文件操作

编写程序&#xff0c;有四个线程1、2、3、4 线程1的功能就是输1,线程2的功能就是输出2,以此类推……现在有四个文件ABCD初始都为空 现要让四个文件呈如下格式&#xff1a; A: 1 22 333 4444 1 22 333 4444… B: 22 333 4444 1 22 333 4444 1… C: 333 4444 1 22 333 4444 1 2…

VMware安装linux系统一

1、创建虚拟机 1.1、创建新的虚拟机 1.2、进入安装向导 1.3、安装操作系统&#xff0c;选择稍后安装操作系统 1.4、选择Linux,版本选择CentOS64位 1.5、设置虚拟机名称和安装位置 1.6、设置磁盘大小 1.7、创建虚拟机 1.8、完成安装 2、配置虚拟机 2.1、选择编辑虚拟机 2.2、修…

【笔记】入门PCB设计(全30集带目录) 杜洋工作室 AD09 Altium Designer

入门PCB设计&#xff08;全30集带目录&#xff09; 杜洋工作室 AD09 p1 创建p2 原理图上增加元件1&#xff09;加元件2&#xff09;放导线3&#xff09;自定义元件1. 自定义排针2.有引脚的元件 p3 完整原理图 p1 创建 step1.创建&#xff08;PCB&#xff09;工程,后缀.PrjPCB。…

算法导论复习(三)

这一次我们主要复习的是递归式求解 递归式求解主要有的是三种方法&#xff1a; 代换法递归树法主方法 我们进行处理的时候要 代换法 方法讲解 主要就是猜测答案的形式 我们只在乎 n 在无穷大的时候成立就行 关于答案的形式&#xff0c;我发现最后能够是 n log n 的形式的…

计算机网络简述

前言 计算机网路是一个很庞大的话题。在此我仅对其基础概述以及简单应用进行陈述。后续或有补充以形成完善的计算机网络知识体系。 一.计算机网络的定义 根据百度词条的描述&#xff0c;计算机网络是指将地理位置不同的具有独立功能的多台计算机及其外部设备&#xff0c;通过…

微信小程序开发系列-03全局配置中的“window”和“tabBar”

本文继续学习下全局配置中的“window”和“tabBar”。 window 用于设置小程序的导航栏、标题、窗口颜色等。&#xff08;吐槽一句&#xff0c;官网这里的属性描述真的让人看不懂&#xff0c;只有靠自己实际运行调试才能知道是什么意思。&#xff09; 导航栏 设置导航栏背景色…

TCP协议工作原理及实战(一)

实战项目目标&#xff1a; ui搭建&#xff1a;clientconnect 客户端连接 clientdisconnect 客户端断开 socketreaddate 使用套接字传输数据 newconnection新的连接 获取本机的IP地址&#xff1a; 获取本机的ip地址可以参考前面的QT网络编程协议 将得到的ip地址放入combox中…

Flutter详解及案例代码

概念 Flutter是由Google开发的开源UI框架&#xff0c;旨在快速构建高质量的移动应用程序。与传统的移动应用开发方式不同&#xff0c;Flutter使用单一代码库构建应用程序&#xff0c;可以同时在iOS和Android上运行。 Flutter的核心是使用Dart语言编写的&#xff0c;并且具有自…

在killercoda中的一次apiserver异常追查思路

笔者&#xff1a; 最近在准备cks考试&#xff0c; 然后又发现了killercoda这个能够提供模拟考试环境的平台。它提供了很棒的引导&#xff0c;教你一步步追查问题&#xff0c;形成一整套追查思路&#xff0c;我觉得很不错&#xff0c;特此分享。 准备工作 首先还是需要养成配置…

亲测解决,nacos下线失败!

场景重现 当多个开发者共同投入一个项目的时候&#xff0c;通常会出现一个项目同时启动&#xff0c;调用接口调试工具共同测试的接口开发情况的情形&#xff1b;为了保证测试环境的稳定性&#xff0c;我们一般不通过页面进行调试&#xff0c;这时我们会采用在nacos服务中&…

Java Web Day07-08_Layui

1. Layui概念介绍 layui&#xff08;谐音&#xff1a;类 UI) 是一套开源的 Web UI 解决方案&#xff0c;采用自身经典的模块化规范&#xff0c;并遵循原生 HTML/CSS/JS 的开发方式&#xff0c;极易上手&#xff0c;拿来即用。其风格简约轻盈&#xff0c;而组件优雅丰盈&#x…

《C++避坑神器·二十四》简单搞懂json文件的读写之根据键值对读写Json

c11 json解析库nlohmann/json.hpp文件整个代码由一个头文件组成 json.hpp&#xff0c;没有子项目&#xff0c;没有依赖关系&#xff0c;没有复杂的构建系统&#xff0c;使用起来非常方便。 json.hpp库在文章末尾下载 读写主要有两种方式&#xff0c;第一种根据键值对读写&…

Linux 与 Shell

Linux系统的四部分&#xff1a;Linux系统的核心是内核。内核主要负责四种功能&#xff1a; 系统内存管理 操作系统内核的主要功能之一&#xff1a;内存管理。&#xff08;物理内存 虚拟内存&#xff09;内核通过硬盘上称为交换空间&#xff08;swap space&#xff09;的存储区…

知识付费网站搭建不再神秘,小白也能轻松掌握

产品服务 线上线下课程传播 线上线下活动管理 项目撮合交易 找商机找合作 一对一线下交流 企业文化宣传 企业产品销售 更多服务 实时行业资讯 动态学习交流 分销代理推广 独立知识店铺 覆盖全行业 个人IP打造 独立小程序 私域运营解决方案 公域引流 营销转化…

mySQL事务与存储引擎

目录 mySQL事务 1.事务的概念 2.事务的ACID特点 3.多客户端同时访问一个表时&#xff0c;出现的一致性问题 4.事务的隔离级别 5.事务的隔离级别作用范围 查询全局事务隔离级别 设置全局事务隔离级别 ​编辑查询会话事务隔离级别 设置会话事务隔离级别 6.事务控制语句…

Python爬虫中文乱码处理实例代码解析

更多Python学习内容&#xff1a;ipengtao.com 大家好&#xff0c;我是彭涛&#xff0c;今天为大家分享 Python爬虫中文乱码处理实例代码解析。全文2800字&#xff0c;阅读大约8分钟 在进行网络数据抓取时&#xff0c;常常会遇到中文乱码的问题&#xff0c;这可能导致数据无法正…

ts相关笔记(extends、infer、Pick、Omit)

最近刷了本ts小册&#xff0c;对一些知识点做下笔记。 extends extends 是一个关键字&#xff0c;用于对类型参数做一些约束。 A extends B 意味着 A 是 B 的子类型&#xff0c;比如下面是成立的 ‘abc’ extends string599 extends number 看下面例子&#xff1a; type …

智能优化算法应用:基于卷积优化算法3D无线传感器网络(WSN)覆盖优化 - 附代码

智能优化算法应用&#xff1a;基于卷积优化算法3D无线传感器网络(WSN)覆盖优化 - 附代码 文章目录 智能优化算法应用&#xff1a;基于卷积优化算法3D无线传感器网络(WSN)覆盖优化 - 附代码1.无线传感网络节点模型2.覆盖数学模型及分析3.卷积优化算法4.实验参数设定5.算法结果6.…

分享71个Java源码总有一个是你想要的

分享70个Java源码总有一个是你想要的 学习知识费力气&#xff0c;收集整理更不易。 知识付费甚欢喜&#xff0c;为咱码农谋福利。 链接&#xff1a;https://pan.baidu.com/s/1frK-W3GT8WrydSlQ-E3o6A?pwd6666 提取码&#xff1a;6666 UI代码 def __init__(self):import …

爬虫课程考试方式说明

爬虫课程考试方式说明 一、开课情况 考查课 082116415 50人&#xff0c;0864211&#xff0c;1-15单周 理论学时16 实验学时0 上课地点&#xff1a;周一 3-4节 十号教学楼A303 51人&#xff0c;0864212&#xff0c;1-15单周 理论学时16 实验学时0 上课地点&#xff1a;周四 3-4…