深入理解nginx http响应限速功能

目录

  • 1. 引言
  • 2. 配置参数
    • 2.1 limit_rate 配置指令
    • 2.2 limit_rate_after 配置指令
    • 2.3 其他限速配置
  • 3. 源码分析

1. 引言

  在现代互联网应用中,服务器的性能和响应速度是至关重要的。为了保证服务器的稳定性和可靠性,限制客户端对服务器的访问速度是一项重要的任务。而nginx 是一款高性能的 Web 服务器和反向代理服务器,提供了丰富的功能来管理和控制客户端请求。其中,HTTP 响应限速功能就是是一种有效的方式,可以限制服务器端对客户端的响应速度,以避免服务器在运行过程中因为部分客户端占用过多的资源而导致网络和服务器负载过高,而引起服务的不稳定的问题。
  本文首先介绍了如何进行nginx配置来启用限速功能,然后通过深入源码来详细分析nginx http响应限速的实现原理,让大家对nginx的限速的实现原理有一个完整的认识。

2. 配置参数

  和响应限速有关的主要配置参数一共有两个,分别是limite_rate和limit_rate_after。

2.1 limit_rate 配置指令


语  法:	   limit_rate rate;
默认值:     	
           limit_rate 0;
上下文:	   http, server, location, if in location

  本条配置指令用来限制响应传输速率,单位为每秒字节数,如果设置为0表示禁用限速功能。这个限制是对每个请求来说的(而不是对每个客户端来限制的),也就是说如果同一个客户端同时开启了两个链接,那么总的最大响应速率降是这个限制速率的两倍。

  配置的参数值可以支持变量(从1.17.0版本开始)。这可能在限制的速率值依赖于某个条件的常见下面显得非常有用,譬如:


map $slow $rate {
    1     4k;
    2     8k;
}

limit_rate $rate;

  上例利用map模块,将$slow变量的值映射为$rate变量的值,譬如$slow变量为1,那么映射出$rate为4k。这样子,limit_rate就可以根据$slow的值来设置最终要限制的响应速率了。
  这样子,结合map模块的功能,我们完全可以让限速功能变得得更加灵活,譬如根据http header的某个值来映射速率,根据请求的url或者域名来限制速率等等,这里就不在赘述了。

2.2 limit_rate_after 配置指令

语  法:	    limit_rate_after size;
默认值:	
            limit_rate_after 0;
上下文:	    http, server, location, if in location
备  注:
            本条配置指令从0.8.0版本开始生效。

  本条配置指令用来设置在给客户端发送的响应的字节数超过指定的值以后才开始限速。和limit_rate配置指令一样,从1.17.0版本开始,可以支持变量方式配置。
  这样指令在流媒体播放的场景下面比较有用,为了支持播放器能够尽量缩短播放前的加载时间,我们就需要在刚开始的时候尽可能快速地将视频文件的头部发送给客户端;而等到播放器满足播放条件开始播放的时候,我们又不太希望播放器加载得太快从而浪费服务器的资源和网络资源,所以需要限制客户端的下载速度到某一个合理的值,只要保证播放器能够流畅播放即可。
  而limit_rate_after的配置指令正好满足的这个场景的需求。

2.3 其他限速配置

  nginx还可以支持通过设置$limit_rate变量参数来对响应速度进行限制,这样就可以在nginx的运行过程中,由脚本或者插件动态设置响应速率,这样子限速逻辑更加灵活了。不过,从1.17.0版本开始,nginx官方不推荐使用这个方法。

  nginx还支持上游服务器通过X-Accel-Limit-Rateheader头来告诉nginx对本次响应进行限速多少的功能。这里不再赘述。

3. 源码分析

  nginx http的限速功能是通过ngx_http_write_filter函数来实现的。ngx_http_write_filter函数是 nginx 在处理 HTTP 请求时的一个重要函数,它的主要作用是将响应数据写入到客户端的网络连接。具体来说,ngx_http_write_filter 函数执行以下关键任务:

  • 确定发送响应数据的方式:根据客户端连接的类型(例如普通连接、SSL 连接等),ngx_http_write_filter 函数确定使用哪种方式将响应数据发送给客户端。这包括直接发送数据、缓存数据再发送或者将数据写入到发送缓冲区等。

  • 处理发送缓冲区:ngx_http_write_filter 函数会将响应数据写入到发送缓冲区。发送缓冲区是一个用于临时存储将要发送给客户端的数据的内存区域。nginx 使用发送缓冲区来提高发送效率,避免每次发送数据都需要进行系统调用。

  • 调用操作系统的网络发送函数:当发送缓冲区中的数据达到一定大小或者达到一定的时间间隔时,ngx_http_write_filter 函数会调用操作系统提供的网络发送函数,将数据从发送缓冲区发送到客户端的网络连接中。

  • 处理发送过程中的错误:在发送响应数据的过程中,可能会发生一些错误,例如网络连接中断、客户端关闭连接等。ngx_http_write_filter 函数会检测并处理这些错误情况,确保响应数据能够正确地发送给客户端。

   下图给出了ngx_http_writer_filter实现的大致流程图:

在这里插入图片描述

  限速原理的重点逻辑就是下面两个公式:

limit = (off_t) r->limit_rate * (ngx_time() - r->start_sec + 1)
                - (c->sent - r->limit_rate_after);
                
delay = (ngx_msec_t) (- limit * 1000 / r->limit_rate + 1);
              

  其中limit就是到目前为止按照设置的限速速率计算本次最多可以发送多少字节
  如果limit<=0,表示本次已经没有发送的额度了,需要进行延时发送。在这个时候就需要计算延时发送的延时时长,用到的就是delay变量了,该变量很好理解,就是到目前已经超额发送的字节数/允许发送的速率,得到延时的毫秒数,然后调用ngx_add_timer设置定时器进行延时处理。

  对照以上流程图和相关解释,ngx_http_write_filter的主要实现逻辑包括限速逻辑,我们有理由相信不难理解把握了,大家有兴趣可以自行阅读源码。

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处:/a/599672.html

如若内容造成侵权/违法违规/事实不符,请联系我们进行投诉反馈qq邮箱809451989@qq.com,一经查实,立即删除!

相关文章

Web实操(6),基础知识学习(24~)

1.[ZJCTF 2019]NiZhuanSiWei1 &#xff08;1&#xff09;进入环境后看到一篇php代码&#xff0c;开始我简单的以为是一题常规的php伪协议&#xff0c;多次试错后发现它并没有那么简单&#xff0c;它包含了基础的文件包含&#xff0c;伪协议还有反序列化 &#xff08;2&#x…

【数据结构】顺序表与ArrayList

一、什么是顺序表 概念&#xff1a;顺序表是用一段物理地址连续的存储单元依次存储数据元素的线性结构&#xff0c;一般情况下采用数组存储。在数组上完成数据的增删查改。 如下图&#xff1a; 优点&#xff1a;访问速度比较快&#xff0c;在给定下标的情况下时间复杂度低至O(…

网络1--通信过程的理解

1.封装与解包 通信的过程就是不断的封装和解包的过程 封装即就是按照“应用”“传输” “网络” “链路” 层&#xff0c;封装给每一层都加上相应的包头&#xff08;每一层都有协议&#xff0c;&#xff09;解包就是接受到的包文被一层层去掉相对应的包头。 任何一层的协议都…

ATFX汇市:日本央行或3万亿干预,日元升值势头显著

​ATFX汇市&#xff1a;4月29日&#xff0c;USDJPY创出历史新高160.21&#xff0c;随后进入快速回落阶段。五个交易日&#xff0c;最低价触及151.86点&#xff0c;相比最高价暴跌835基点&#xff0c;约5.21%。同期的美元指数跌幅仅为0.96%&#xff0c;两者跌幅严重不匹配&#…

【intro】图卷积神经网络(GCN)-续

本文为【intro】图卷积神经网络&#xff08;GCN&#xff09;-CSDN博客后续&#xff08;因为经验告诉我超过2w字编辑器就会卡……&#xff09; 第一部分还是进一步再看看GCN 图卷积神经网络GCN_哔哩哔哩_bilibili 回顾 图神经网络的基本原理就是把图中的节点编码映射成一个低…

RabbitMQ是如何保证消息可靠性的?——Java全栈知识(16)

RabbitMQ 的消息不可靠也就是 RabbitMQ 消息丢失只会发生在以下几个方面&#xff1a; 生产者发送消息到 MQ 或者 Exchange 过程中丢失。Exchange 中的消息发送到 MQ 中丢失。消息在 MQ 或者 Exchange 中服务器宕机导致消息丢失。消息被消费者消费的过程中丢失。 大致就分为生…

CANdela/Diva系列1--CANdela Studio的基本介绍

大家好&#xff0c;这个系列主要给大家介绍跟诊断相关的Vector 工具CANdela和Diva&#xff0c;首先介绍CANdela。 目录 1.CANdela的简介&#xff1a; 2.如何打开CANdela 工程&#xff1a; 3.CANdela工程的详细介绍&#xff1a; 3.1 工具栏的介绍&#xff1a; 3.2 工作树的…

MobileNet网络详解

一、了解 网络亮点&#xff1a; 1、DW网络&#xff0c;大大减少运算量核参数数量 2、增加超参数&#xff1a;控制卷积层卷积核个数的超参数 &#xff0c;控制图像输入大小的超参数 &#xff0c;这两个超参数是人为设定的&#xff0c;不是机器学习到的。 二、DW卷积&#xff…

通信录的动态版本

一. 增加需求 在学习了动态开辟内存之后 我们对于通讯录产生了新的需求 要求我们做出一个动态增长的版本 即 随着我们储存联系人的增加 储存的空间增加 要求 &#xff1a; 1 初始空间为3 2 每次达到上限之后 扩容两个内存 二. 动手实施 我们首先要创建一个结构体 结构体…

普洱茶泡多少茶叶才算淡茶?

普洱茶淡茶一般放几克茶叶&#xff0c;品深茶官网根据多年专业研究与实践结果&#xff0c;制定了淡茶冲泡标准。在冲泡普洱茶淡茶时&#xff0c;茶叶的投放量是关键因素之一。淡茶冲泡标准旨在保持茶汤的清爽口感&#xff0c;同时充分展现普洱茶的独特风味。 根据《品深淡茶冲…

uniapp日期区间选择器

uniapp日期区间选择器 在 uniapp 中创建一个简单的自定义日期范围的日期区间选择器&#xff1a; - 限制有效日期范围开始日期为 2024-01-01&#xff0c;结束日期为当日&#xff1b; - 默认日期区间为当日向前计算的7日区间&#xff1b; - 选择开始时间后&#xff0c;判断不可大…

【Pytorch】6.torch.nn.functional.conv2d的使用

阅读之前应该先了解基础的CNN网络的逻辑 conv2d的作用 是PyTorch中用于执行二维卷积操作的函数。它的作用是对输入数据进行二维卷积操作&#xff0c;通常用于图像处理和深度学习中的卷积神经网络&#xff08;CNN&#xff09;模型。 conv2d的使用 我们先查看一下官方文档 inpu…

【前端学习——正则】

https://www.bilibili.com/video/BV1da4y1p7iZ/?spm_id_from333.337.search-card.all.click&vd_source5cef5968d539682b683e7d01b00ad01b 学习网站 https://github.com/ziishaned/learn-regex/blob/master/translations/README-cn.md

笔记本连接不上远程桌面,笔记本无法连接远程桌面的可能原因及解决方法

在使用远程桌面功能时&#xff0c;笔记本无法成功连接的情况可能由多种原因引起。为了有效地解决这个问题&#xff0c;我们需要逐一排查这些可能的原因&#xff0c;并采取相应的解决措施。 首先&#xff0c;网络连接稳定性是远程桌面连接成功的关键。请确保笔记本和远程计算机之…

深入剖析Spring框架:推断构造方法与@Bean注解的内部机制

你好&#xff0c;我是柳岸花开。 Spring框架作为Java开发中广泛使用的基础架构&#xff0c;其设计精巧、功能强大&#xff0c;尤其是其依赖注入&#xff08;DI&#xff09;和控制反转&#xff08;IoC&#xff09;特性&#xff0c;极大地提高了代码的可维护性和可测试性。本文将…

125.两两交换链表中的节点(力扣)

题目描述 代码解决及思路 /*** Definition for singly-linked list.* struct ListNode {* int val;* ListNode *next;* ListNode() : val(0), next(nullptr) {}* ListNode(int x) : val(x), next(nullptr) {}* ListNode(int x, ListNode *next) : val(x), …

基于TF的简易关键字语音识别

⚠申明&#xff1a; 未经许可&#xff0c;禁止以任何形式转载&#xff0c;若要引用&#xff0c;请标注链接地址。 全文共计10182字&#xff0c;阅读大概需要10分钟 &#x1f308;更多学习内容&#xff0c; 欢迎&#x1f44f;关注&#x1f440;【文末】我的个人微信公众号&#…

[Scrcpy]数据线连接安卓手机投屏windows电脑[win控制安卓手机]比Samsung Dex好用

配置好&#xff0c;只需要两步即可完成安卓手机投屏windows 第一步&#xff1a;usb线连接windows电脑 第二步&#xff1a;cmd输入投屏命令srccpy 搞定 前言/背景 一些视频资料只能下载到手机&#xff0c;很不喜欢手机那么小屏幕播放&#xff0c;播放很不方便 在家的话可以投…

上位机图像处理和嵌入式模块部署(树莓派4b镜像烧录经验总结)

【 声明&#xff1a;版权所有&#xff0c;欢迎转载&#xff0c;请勿用于商业用途。 联系信箱&#xff1a;feixiaoxing 163.com】 陆陆续续也烧录了好多次树莓派的镜像了&#xff0c;这里面有的时候很快&#xff0c;有的时候很慢。特别是烧录慢的时候&#xff0c;也不知道是自己…

Unity EventSystem入门

概述 相信在学习Unity中&#xff0c;一定有被UI事件困扰的时候把&#xff0c;当添加UICanvas的时候&#xff0c;Unity会为我们自动添加EventSystem&#xff0c;这个是为什么呢&#xff0c;Unity的UI事件是如何处理的呢&#xff0c;在使用各个UI组件的时候&#xff0c;一定有不…