Nginx 负载均衡实现上游服务健康检查

Nginx 负载均衡实现上游服务健康检查

NGINX_resized

Author：Arsen
Date：2024/06/20

目录

  • Nginx 负载均衡实现上游服务健康检查
    • 前言
    • 一、Nginx 部署并新增模块
    • 二、健康检查配置
      • 2.1 准备 nodeJS 应用程序
      • 2.2 Nginx 配置负载均衡健康检查
    • 小结

前言

如果你使用云负载均衡（如阿里云 CLB），我们可以通过配置健康检查来实现后端服务故障转移（通过 4/7 层实现）。而如果你使用 Nginx 作为负载均衡器时，又如何实现后端（上游）服务器的健康检查呢？要解决这个问题，就需要使用到 Nginx 的 nginx_upstream_check_module 模块，因为在不使用 nginx_upstream_check_module 模块的情况下，Nginx 的常规负载均衡机制并不具备自动移除不健康服务器的功能。默认情况下，Nginx 不会主动检查上游服务器的健康状态，因此无法在服务器出现故障时自动将其从负载均衡池中移除。

接下来将演示如何通过 nginx_upstream_check_module 实现负载均衡上游服务器的故障转移。

注意：nginx_upstream_check_module 是一个第三方模块，不属于官方 NGINX 发行版的一部分，因此需要我们手动将其集成到 NGINX 中，而不是通过官方预编译的 NGINX 包来使用它。

一、Nginx 部署并新增模块

1、下载 nginx、nginx_upstream_check_module 源码包

nginx_upstream_check_module 模块地址：https://github.com/yaoweibin/nginx_upstream_check_module

image-20240620104245743

wget http://nginx.org/download/nginx-1.18.0.tar.gz
wget https://github.com/yaoweibin/nginx_upstream_check_module/archive/refs/tags/v0.4.0.tar.gz

2、解压安装包

tar xzf v0.4.0.tar.gz
tar xzf nginx-1.18.0.tar.gz

image-20240620104806192

3、为 NGINX 源码打补丁

# 安装补丁工具
yum install -y patch

补丁列表（在我们上面下载的第三方模块中）：

image-20240620105257476

在补丁文件列表中，没有直接与 nginx-1.18.4 对应的补丁文件。通常情况下，选择一个版本号最接近但不高于你的 NGINX 版本的补丁文件会是最佳选择。如上图，使用 check_1.16.1+.patch，因为它是最接近 1.18.0 的可用补丁且不高于1.18.0 。

# 开始打补丁
cd nginx-1.18.0/
patch -p1 < ../nginx_upstream_check_module-0.4.0/check_1.16.1+.patch

image-20240620110232269

4、开始编译安装

关于模块安装注意事项，可以查看有道云笔记 nginx 编译安装部分。

# 安装nginx编译安装的依赖环境

yum -y install make gcc gcc-c++ pcre pcre-devel gd-devel openssl openssl-devel zlib zlib-devel

./configure \
--with-http_gzip_static_module \
--with-http_ssl_module \
--with-http_stub_status_module \
--with-http_ssl_module \
--with-pcre \
--with-file-aio \
--with-http_realip_module \
--without-http_scgi_module \
--without-http_uwsgi_module \
--without-http_fastcgi_module \
--with-compat --add-module=../nginx_upstream_check_module-0.4.0

# --with-compat 是一个用于构建兼容模块的选项，它允许你编译 NGINX 时，使其模块在不同版本的 NGINX 上保持兼容。
# 这里仅仅是测试使用，我就不具体规划路径了（如安装路径、日志路径等），使用默认即可

image-20240620112148670

如上图，Nginx 编译完成，默认输出了相关的工作路径，接下来就根据上图路径开始安装了：

make && make install

image-20240620112620821

此时我们需要验证新增的第三方模块是否被成功集成：

image-20240620114128136

二、健康检查配置

2.1 准备 nodeJS 应用程序

1、node 安装

过程略.

image-20240620123738935

image-20240620123804989

2、安装 pm2 守护进程管理器

npm install -g pm2

3、创建测试项目并启动项目

vim /data/nginx-test-projects/node-js-demo/app-1.js

const http = require('http');

const server = http.createServer((req, res) => {
    res.setHeader("Content-Type", "application/json");

    res.writeHead(200);
    res.end(`{ "status": "success", "message": "app-1 请求成功!\n" }`);
});

server.listen(3001, 'localhost', () => {
    console.log('running on http://localhost:3001/');
});

vim /data/nginx-test-projects/node-js-demo/app-2.js

const http = require('http');

const server = http.createServer((req, res) => {
    res.setHeader("Content-Type", "application/json");

    res.writeHead(200);
    res.end(`{ "status": "success", "message": "app-2 请求成功!\n" }`);
});

server.listen(3002, 'localhost', () => {
    console.log('running on http://localhost:3002/');
});

vim /data/nginx-test-projects/node-js-demo/app-3.js

const http = require('http');

const server = http.createServer((req, res) => {
    res.setHeader("Content-Type", "application/json");

    res.writeHead(200);
    res.end(`{ "status": "success", "message": "app-3 请求成功!\n" }`);
});

server.listen(3003, 'localhost', () => {
    console.log('running on http://localhost:3003/');
});

启动应用：

pm2 start /data/nginx-test-projects/node-js-demo/app-1.js
pm2 start /data/nginx-test-projects/node-js-demo/app-2.js
pm2 start /data/nginx-test-projects/node-js-demo/app-3.js

image-20240620130518251

2.2 Nginx 配置负载均衡健康检查

1、nginx 配置

vim /usr/local/nginx/conf/nginx.conf

http {
    upstream backend {
        server 127.0.0.1:8080;
        server 127.0.0.1:8081;

        check interval=3000 rise=2 fall=5 timeout=1000 type=http;
        check_http_send "HEAD / HTTP/1.0\r\n\r\n";
        check_http_expect_alive http_2xx http_3xx;
    }
    server {
        listen 80;

        location / {
            proxy_pass http://backend;
        }
    }
}

配置说明：

  • upstream backend { ... }: 定义名为 backend 的上游服务器组。

  • server 127.0.0.1:8080;: 定义一个地址为 127.0.0.1:8080 的上游服务器。

  • check interval=3000 rise=2 fall=5 timeout=1000 type=http;
    配置健康检查参数：
    • interval=3000: 每隔 3000 毫秒（3 秒）进行一次健康检查。
    • rise=2: 如果服务器连续通过 2 次健康检查，则认为它是健康的。
    • fall=5: 如果服务器连续 5 次健康检查失败，则认为它是故障的。
    • timeout=1000: 每次健康检查必须在 1000 毫秒（1 秒）内完成。
    • type=http: 指定进行 HTTP 健康检查。

  • check_http_send "HEAD / HTTP/1.0\r\n\r\n";: 向服务器发送 HTTP HEAD 请求。

  • check_http_expect_alive http_2xx http_3xx;: 如果服务器返回的状态码在 2xx 或 3xx 范围内，则认为服务器是健康的。

2、健康检查验证

while sleep 0.5; do curl http://192.168.56.120; done

后端服务健康情况时，是正常的负载均衡的：

image-20240620131633437

这里我分两种情况来验证：

1）未配置 nginx_upstream_check_module 的情况

此时，我停掉 app-1

pm2 stop app-1

image-20240620132738027

看看 nginx 的错误日志是否持续输出，如果持续输出，说明 nginx 一直在轮询请求后端上游服务，且请求不到，这就证明默认的 nginx 负载均衡模式下，并不能实现后端上游服务的健康检查，客户的请求依然会打到坏掉的 app-1 服务上。如下图，正符合我们的假设。

image-20240620132315052

2）配置了 nginx_upstream_check_module 的情况

这里，我们先恢复后端服务，使 3 台都正常工作。然后我们保持请求不要断，继续将 app-1 stop 掉，看会不会故障转移到其他节点：判断是否转移其实就是你看 nginx 是否有如上图相同的错误日志持续输出，如果有，那证明这个检测模块我们就没配置正确，否则证明我们的检测模块生效，且将坏掉的 app-1 从负载均衡中摘掉，恢复时自动加入负载均衡。

停掉 app-1

pm2 stop app-1

再看看 Nginx 的错误日志：

image-20240620135539019

这里你会注意到，此时的错误日志与上一张图的错误日志不同了，那他们的区别是什么呢？

1）未配置 nginx_upstream_check_module 的错误日志分析：

由于我们没有配置了 Nginx 健康检查，在连接已建立后，NGINX 尝试连接到上游服务器时，连接被拒绝而抛出如下错误日志：

2024/06/20 13:19:55 [error] 14553#0: *510 connect() failed (111: Connection refused) while connecting to upstream, client: 192.168.56.120, server: localhost, request: "GET / HTTP/1.1", upstream: "http://127.0.0.1:3001/", host: "192.168.56.120"

这通常是由于上游服务器未能正常启动或者未响应

客户端请求处理：

  • 如果 NGINX 配置中没有健康检查，或者健康检查无法检测到上游服务器的问题，客户端的请求可能会继续被发送到无法处理请求的上游服务器。
  • 这种情况下，客户端请求可能会因为上游服务器的问题而遭遇连接失败或者长时间的等待响应。

2）配置了 nginx_upstream_check_module 的错误日志分析：

由于我们配置了 Nginx 健康检查，在连接已建立后，NGINX 尝试发送数据到上游服务器时，连接被拒绝而抛出如下错误日志：

2024/06/20 13:35:06 [error] 15030#0: send() failed (111: Connection refused)
2024/06/20 13:35:09 [error] 15030#0: send() failed (111: Connection refused)
2024/06/20 13:35:12 [error] 15030#0: send() failed (111: Connection refused)
2024/06/20 13:35:15 [error] 15030#0: send() failed (111: Connection refused)

在连接建立后，即使上游服务器通过了健康检查确认为健康状态，但在实际发送数据时，服务器可能由于负载过高、连接限制或其他原因拒绝处理请求。

客户端请求处理：

  • 配置了健康检查后，NGINX 会在发送实际请求之前先检查上游服务器的健康状态。
  • 如果上游服务器在健康检查时被标记为不可用，NGINX 将不会将客户端的请求发送到该上游服务器。
  • 这种情况下，客户端的请求不会被打到处于故障状态的上游服务器，因为 NGINX 在发送请求之前会先确认上游服务器的可用性。

小结

1、nginx 未设置健康检查报错

这类报错是在连接建立阶段出现连接被拒绝的错误，通常因为上游服务器未能正常启动或者未响应。

2、nginx 设置了健康检查报错

康状态，但在实际发送数据时，服务器可能由于负载过高、连接限制或其他原因拒绝处理请求。

3、健康检查的目的

实现高可用。

—END

本文来自互联网用户投稿，该文观点仅代表作者本人，不代表本站立场。本站仅提供信息存储空间服务，不拥有所有权，不承担相关法律责任。如若转载，请注明出处：/a/730199.html

如若内容造成侵权/违法违规/事实不符，请联系我们进行投诉反馈qq邮箱809451989@qq.com，一经查实，立即删除！

相关文章

七连发吴谨言专访揭秘

七连发吴谨言专访揭秘

七连发&#xff01;吴谨言专访揭秘&#xff0c;薛芳菲魅力再升级在娱乐圈的繁星中&#xff0c;总有那么一些独特的光芒&#xff0c;她们用才华和魅力照亮前行的道路。近日&#xff0c;备受瞩目的“六公主”平台连续发布了七条关于吴谨言的专访&#xff0c;引发了广大网友的热烈…
阅读更多...
常微分方程算法之编程示例一（欧拉法）

常微分方程算法之编程示例一（欧拉法）

目录 一、研究问题 二、C代码 三、计算结果 一、研究问题 前面几节内容介绍了常微分方程有限差分格式的推导。为加强对本专栏知识的理解&#xff0c;从本节开始&#xff0c;我们补充一些具体算例及相应的编程。 欧拉法的原理及推导请参考&#xff1a; 常微分方程算法之欧拉…
阅读更多...
NXP i.MX8系列平台开发讲解 - 3.15 Linux 之USB子系统(一)

NXP i.MX8系列平台开发讲解 - 3.15 Linux 之USB子系统(一)

专栏文章目录传送门&#xff1a;返回专栏目录 Hi, 我是你们的老朋友&#xff0c;主要专注于嵌入式软件开发&#xff0c;有兴趣不要忘记点击关注【码思途远】 目录 Linux 之USB子系统(一) 1. USB基础简介 1.1 USB的传输模式 1.2 USB 的设备描述符 1.3 USB 类的定义分类 2…
阅读更多...
不在枯燥用第三方库简化你的编程之路

不在枯燥用第三方库简化你的编程之路

简介&#xff1a; Python作为一种多用途的编程语言,得益于其丰富的第三方库和框架,极大地拓展了其功能和应用领域.这些工具不仅提升了开发效率,也使得Python在各个领域展现出色的表现. 今天我们就来聊一聊Python 第三方库是由第三方开发者编写并共享的库,可用于扩展 Python 的…
阅读更多...
深度剖析现阶段的多模态大模型做不了医疗

深度剖析现阶段的多模态大模型做不了医疗

导读 在人工智能的这波浪潮中&#xff0c;以ChatGPT为首的大语言模型&#xff08;LLM&#xff09;不仅在自然语言处理&#xff08;NLP&#xff09;领域掀起了一场技术革命&#xff0c;更是在计算机视觉&#xff08;CV&#xff09;乃至多模态领域展现出了令人瞩目的潜力。 这些…
阅读更多...
X86+FPGA, NXP+FPGA：工控稳“固”之选 赋能CPCI/VPX智能轨交新变革

X86+FPGA, NXP+FPGA：工控稳“固”之选 赋能CPCI/VPX智能轨交新变革

工业IPC在目前大时代背景下面临机遇,但挑战同样也不少。在轨道交通领域&#xff0c;工控机必须具备高可靠性和稳定性&#xff0c;能够在复杂且严苛的工作环境中长时间无故障运行&#xff1b;需要满足严格的实时性和响应性能要求&#xff0c;确保能够迅速准确地处理传感器信号和…
阅读更多...
【C++】类的六个默认成员函数

【C++】类的六个默认成员函数

文章目录 类的六个默认成员函数一、构造函数二、析构函数三、拷贝构造函数四、赋值运算符重载五、const成员六、取地址及const取地址操作符重载 类的六个默认成员函数 如果一个类中什么成员都没有&#xff0c;称为空类。空类中真的什么都没有吗&#xff1f;并不是&#xff0c;…
阅读更多...
Nvidia Isaac Sim组装机器人和添加传感器 入门教程 2024（5）

Nvidia Isaac Sim组装机器人和添加传感器 入门教程 2024（5）

Nvidia Isaac Sim 入门教程 2024 版权信息 Copyright 2023-2024 Herman YeAuromix. All rights reserved.This course and all of its associated content, including but not limited to text, images, videos, and any other materials, are protected by copyright law. …
阅读更多...
AI穿戴设备是未来手机的终结者？中国AI商业化的未来预测

AI穿戴设备是未来手机的终结者？中国AI商业化的未来预测

AI技术的发展正处于商业化应用的关键阶段&#xff0c;而中国在互联网时代已凭借商业化应用逆袭。AI算法大模型虽强大&#xff0c;但真正普惠民众需与设备深度结合。穿戴式智能设备就成为了新战场&#xff0c;AI算法与穿戴设备结合能释放更大工作效率。私人助理AI将成趋势&#…
阅读更多...
如何使用k8s安装nexus3呢

如何使用k8s安装nexus3呢

百度云盘地址 链接&#xff1a;https://pan.baidu.com/s/1YN1qc2RvzTU3Ba6L_zCTdg?pwd5z1i 提取码&#xff1a;5z1i 下载后上传到本地服务器 docker load -i nexus3 创建 nexus-deployment.yaml apiVersion: apps/v1 kind: Deployment metadata:name: nexus3-deployment spec…
阅读更多...
我的Mac疯了！居然可以生成这样的奇葩AI图片！

我的Mac疯了！居然可以生成这样的奇葩AI图片！

在当今人工智能领域&#xff0c;midjourney无疑是生成图片的王者&#xff0c;但是苦于付费才能使用&#xff0c;今天我就给大家分享一下midjourney平替stable diffusion&#xff0c;实现本地生成不逊色于midjourney的图片 效果图 先上一个我自己生成的效果(就是在我的Mac上用C…
阅读更多...
DPDK与传统收发报文的区别

DPDK与传统收发报文的区别

1.去除中断 传统的收发报文方式都必须采用硬中断来做通讯&#xff0c;每次硬中断大约消耗100微秒&#xff0c;这还不算因为终止上下文所带来的Cache Miss。 DPDK采用轮询模式驱动(PMD)。 PMD由用户空间的特定的驱动程序提供的API组成&#xff0c;用于对设备和它们相应的…
阅读更多...
暴雨讲堂|通往AGI的必由之路—AI agent是什么？

暴雨讲堂|通往AGI的必由之路—AI agent是什么？

在三月份英伟达的新品发布会上&#xff0c;黄仁勋反复提及一个词汇— Generalist Embodied Agent&#xff0c;意为“通用具身智能体”&#xff0c;给观众留下了深刻的印象。其实具身智能指的是不同形态的拥有主动感知交互能力的机器人。其实&#xff0c;业界对它还有一个更为熟…
阅读更多...
[Vulnhub] Troll FTP匿名登录+定时任务权限提升

[Vulnhub] Troll FTP匿名登录+定时任务权限提升

信息收集 IP AddressPorts Opening192.168.8.104TCP:21,22,80 $ nmap -sC -sV 192.168.8.104 -p- --min-rate 1000 Nmap scan report for 192.168.8.104 (192.168.8.104) Host is up (0.0042s latency). Not shown: 65532 closed tcp ports (conn-refused) PORT STATE SER…
阅读更多...
php基础语法_面向对象

php基础语法_面向对象

PHP php代码标记 多种标记来区分php脚本 ASP标记&#xff1a;<% php代码 %> 短标记&#xff1a; 脚本标记: 标准标记&#xff08;常用&#xff09;&#xff1a; 简写风格&#xff1a; ASP风格&#xff1a;<% php代码 %> 注意&#xff1a;简写风格和ASP风格…
阅读更多...
VisualBox 虚拟机 Ubunut 18.04 在大显示器上黑屏的问题

VisualBox 虚拟机 Ubunut 18.04 在大显示器上黑屏的问题

在小屏幕上显示没有问题&#xff0c;但是移动到大显示器上就黑屏了&#xff0c;并且不能铺满&#xff0c;如下所示 如果我希望它铺满整个屏幕&#xff0c;如何解决呢&#xff1f; 下面是解决方法&#xff1a; 虚拟机底部这个按钮&#xff0c;右键 产生菜单&#xff0c;按这个选…
阅读更多...
在寻找电子名片在线制作免费生成？5个软件帮助你快速制作电子名片

在寻找电子名片在线制作免费生成？5个软件帮助你快速制作电子名片

在寻找电子名片在线制作免费生成&#xff1f;5个软件帮助你快速制作电子名片 当你需要快速制作电子名片时&#xff0c;有几款免费在线工具可以帮助你实现这个目标。这些工具提供了丰富的设计模板和元素&#xff0c;让你可以轻松地创建个性化、专业水平的电子名片。 1.一键logo…
阅读更多...
护眼必看！台灯怎么选对眼睛好的方法

护眼必看！台灯怎么选对眼睛好的方法

家长们是否和我一样发现孩子时常作出眯眼的行为&#xff01;那就要小心了&#xff01;最近我注意到家中的孩子开始表现出眯眼的习惯。经过仔细观察后发现&#xff0c;这可能与她长时间晚上熬夜写作业导致的光线不足有关。随着孩子学习负担的增加&#xff0c;我作为家长开始担心…
阅读更多...
【网络安全学习】漏洞扫描：-04- ZAP漏洞扫描工具

【网络安全学习】漏洞扫描：-04- ZAP漏洞扫描工具

**ZAP(Zed Attack Proxy)**是一款由OWASP组织开发的免费且开源的安全测试工具。 ZAP支持认证、AJAX爬取、自动化扫描、强制浏览和动态SSL证书等功能。 1️⃣ 安装zap工具 现在的kali版本不一定会预装zap&#xff0c;我们可以自行安装&#xff0c;安装也十分简单。 apt-get …
阅读更多...
构建个人文件上传服务：Python Flask实现上传和下载完整指南

构建个人文件上传服务：Python Flask实现上传和下载完整指南

介绍 在本教程中&#xff0c;我们将学习如何使用Python Flask框架将文件上传到服务器&#xff0c;并使用SQLite数据库来跟踪上传的文件。我们将提供后端代码和一个示例项目的Git链接&#xff0c;以便您可以轻松地跟随本教程。 准备工作 首先&#xff0c;您需要安装Python和F…
阅读更多...
最新文章

Copyright @ 2022~2023