创建具有负载平衡和集群的可扩展 Node.js 应用程序

创建具有负载平衡和集群的可扩展 Node.js 应用程序

负载平衡是提高应用程序性能、可扩展性和可用性的一项重要技术。当客户端向负载均衡器发出请求时，负载均衡器根据预定义的规则将请求分发到不同的实例。

可以使用cluster集群模块或 PM2 等工具根据负载均衡器的流量动态创建和删除实例。集群模块可用于创建工作进程，而PM2可用于进程管理、负载均衡、零停机部署、日志管理、进程集群和安全。

PM2 是 Node.js 应用程序的流行流程管理器，提供了一系列有用的功能和优点，包括负载平衡和流程集群。为了使用 PM2 实现负载均衡，我们可以创建一个 Node.js 集群。Node.js 处理传入流量并将其分配给可用的工作进程。工作进程的最佳数量取决于应用程序的具体需求，并且应仔细优化性能和可扩展性。

在这里插入图片描述

负载均衡

首先，我们来讨论一下负载均衡的基本概念。负载均衡是一种在多个服务器之间分配传入网络流量的工具，以确保没有任何一台服务器因请求而不堪重负。负载均衡器可以使用硬件设备或软件程序来实现，它们通常使用算法来确定如何分配流量。

对于 Node.js，负载均衡可以在不同服务器上运行的多个 Node.js 实例之间分发传入的 HTTP 请求。这可以确保没有单个实例因请求而过载，从而提高性能和可靠性。

当客户端向负载均衡器发出请求时，负载均衡使用算法来确定哪个 Node.js 实例应处理该请求。可以使用多种不同的算法，包括：

  • 循环：此算法只是按顺序循环可用的 Node.js 实例，将每个新请求发送到序列中的下一个实例。
  • 最少连接：此算法选择收到请求时活动连接最少的 Node.js 实例。
  • IP 哈希：此算法计算客户端 IP 地址的哈希，并使用该值来确定哪个 Node.js 实例应处理该请求。这可以帮助确保来自同一客户端的请求始终发送到同一实例。

还有其他算法，例如随机、加权循环、加权最少连接、粘性会话，但这不在本文的讨论范围内。

一旦负载均衡确定哪个 Node.js 实例应处理该请求，它就会将该请求发送到该实例。如果实例已经运行并且可用，它将立即处理请求。但是，如果没有可用实例，负载均衡可以动态创建新实例来处理请求。

动态创建Node实例

动态创建新 Node.js 实例的一种方法是使用child_process工作进程模块。工作进程只是 Node.js 运行时的一个单独实例，可用于处理请求。要创建新的工作进程，可以使用child_process模块，如下所示：

const { fork } = require('child_process');

// 创建一个新的工作进程
const worker = fork('./worker.js');

// 监听来自工作进程的消息
worker.on('message', (msg) => {
  console.log(`Received message from worker: ${msg}`);
});

// 向工作进程发送消息
worker.send('Hello from the main process!');

在此示例中，我们使用child_process模块中的fork方法从名为worker的单独 Node.js 文件创建一个新的工作进程。然后，我们使用on('message')方法侦听来自工作进程的消息，每当工作进程将消息发送回主进程时就会调用该方法。我们还使用send()方法向工作进程发送消息，该方法将消息从主进程发送到工作进程。

以下是worker.js文件的示例：

// 监听来自主进程的消息
process.on('message', (msg) => {
  console.log(`Received message from main process: ${msg}`);

  // 向主进程发送消息
  process.send('Hello from the worker process!');
});

使用child_process实现负载均衡

以下是在 Node.js 中使用工作进程的实现负载均衡的示例：

const http = require('http');
const { fork } = require('child_process');
const url = require('url');

// 创建工作进程数组
const workers = [];

for (let i = 0; i < 4; i++) {
  workers.push(fork('./server.js'));
}

// 创建一个循环计数器
let counter = 0;

// 创建负载均衡
http.createServer((req, res) => {
  // 根据循环计数器获取下一个工作进程
  const worker = workers[counter];
  // 增加循环计数器
  counter = (counter + 1) % workers.length;
  // 发送到工作进程
  const parsedUrl = url.parse(req.url, true);
  worker.send({ path: parsedUrl.pathname });

  // 监听
  worker.on('message', (message) => {
    res.writeHead(200);
    res.end(message);
  });
}).listen(8000);

console.log('server running on port 8000');

在此代码中，我们首先通过fork创建server.js工作进程4次，并放入到数组。这将创建四个独立的 Node.js 运行时实例，每个实例运行自己的server.js代码副本。

server.js文件：

const http = require('http');
const https = require('https');

// 创建http服务
http.createServer((req, res) => {
  res.writeHead(301, { Location: `https://${req.headers.host}${req.url}` });
  res.end();
}).listen(80);

// 创建https服务
https.createServer(options, (req, res) => {
  // ...
}).listen(443);

然后，我们创建一个循环计数器变量，用于跟踪将每个传入请求发送到哪个工作进程。我们最初将计数器设置为零。

接下来，我们创建一个侦听端口 80 的 HTTP 服务器。对于每个传入请求，我们根据循环计数器从工作程序数组中获取下一个工作进程。然后我们增加计数器以准备下一个请求。

我们使用send方法将传入请求发送到选定的工作进程。工作进程接收请求并使用process.send方法发回响应。我们设置一个消息监听器来接收来自worker.js的响应，并使用它来将响应发送回客户端。

在工作进程中，我们有以下代码：

const http = require('http');

// 以当前进程的ID创建一个 HTTP 服务器
http.createServer((req, res) => {
  res.writeHead(200);
  res.end(`Hello from worker ${process.pid}\n`);
}).listen(0, () => {
  console.log(`Worker ${process.pid} listening on port ${server.address().port}`);
});

// 设置消息侦听器以接收来自负载均衡的请求
process.on('message', (message) => {
  const server = http.createServer((req, res) => {
    res.writeHead(200);
    res.end(`Hello from worker ${process.pid}\n`);
  });

  server.listen(() => {
    process.send(`http://localhost:${server.address().port}${message.path}`);
  });
});

在此代码中，我们创建一个 HTTP 服务器，该服务器在收到请求时以当前进程 ID 进行响应。我们还设置了一个消息侦听器来接收来自负载均衡的传入请求。

当工作进程收到来自负载均衡器的消息时，它会创建一个新的 HTTP 服务器来侦听随机端口。然后，它将一条消息发送回负载均衡器，其中包含新服务器的 URL（包括请求的路径）。

负载均衡接收来自工作线程的响应并将其发送回客户端。客户端看到来自负载均衡的响应，就好像它直接来自工作进程一样，即使它实际上是由负载均衡转发的。

这是一个非常简单的负载均衡示例，它使用工作进程在多个 Node.js 实例之间分发传入请求。然而，这种实现有一些限制。例如，如果工作进程崩溃或变得无响应，负载均衡将继续向该工作进程发送请求，这可能会导致性能不佳或停机。

为了克服这个问题，我们可以使用更先进的负载均衡技术，例如健康检查或动态扩展。运行状况检查可用于监视工作进程的运行状况并从池中删除无响应的进程。动态扩展可用于根据流量模式或资源使用情况自动添加或删除工作进程。

除了work_process之外，Node.js 还具有一个内置cluster模块，可用于创建 Node.js 实例集群。cluster模块与工作进程类似，但它提供了更高级的功能，例如自动负载平衡和进程管理。

使用cluster实现负载均衡

以下是使用cluster模块在 Node.js 中创建负载均衡的示例：

const cluster = require('cluster');
const http = require('http');
const numCPUs = require('os').cpus().length;

if (cluster.isMaster) {
  console.log(`Master ${process.pid} is running`);

  for (let i = 0; i < numCPUs; i++) {
    cluster.fork();
  }

  cluster.on('exit', (worker, code, signal) => {
    console.log(`Worker ${worker.process.pid} died`);
    cluster.fork();
  });
} else {
  http.createServer((req, res) => {
    res.writeHead(200);
    res.end('hello world\n');
  }).listen(8000);

  console.log(`Worker ${process.pid} started`);
}

在此示例中，我们使用cluster模块创建 Node.js 实例集群。isMaster属性检查当前进程是否为主进程，如果是，则代码使用cluster.fork()方法为每个可用 CPU 核心创建一个工作进程。

该代码还为exit事件设置了一个事件侦听器，该事件侦听器在工作进程终止时发出。当工作进程死亡时，事件侦听器会记录一条消息并派生一个新的工作进程来替换已死亡的工作进程。

如果当前进程不是主进程（即它是工作进程），则代码会设置一个 HTTP 服务器，该服务器侦听端口 8000 并使用“hello world”消息响应请求。

使用 PM2 进行负载平衡

PM2（Process Manager 2 ）是 Node.js 应用程序的流行流程管理器，它提供了一系列用于管理和扩展 Node.js 应用程序的有用功能。PM2 可用于流程监控、负载平衡、零停机部署、日志管理、流程集群和安全。

PM2 的主要功能之一是它能够为 Node.js 应用程序执行负载平衡。PM2 可用于跨多个 Node.js 进程分配传入流量，这有助于提高应用程序性能和可扩展性。PM2 还可以创建 Node.js 进程集群，这有​​助于利用多个 CPU 核心并提高应用程序性能和吞吐量。

以下是如何在 Node.js 应用程序中使用 PM2 进行负载平衡的示例：

const http = require('http');

const server = http.createServer((req, res) => {
  res.writeHead(200);
  res.end(`Hello from process ${process.pid}\n`);
});

// 使用pm2
const cluster = require('pm2').clusterMode();

if (cluster.isMaster) {
  console.log(`Master ${process.pid} is running`);

  for (let i = 0; i < 4; i++) {
    cluster.fork();
  }
} else {
  server.listen(8000);
  console.log(`Worker ${process.pid} started`);
}

在此示例中，我们使用 Node.js中的http模块创建一个简单的 HTTP 服务器。然后，我们通过调用启用进程集群和负载平衡来使用 PM2 启动服务器。

如果当前进程是主进程，我们使用cluster.fork()来启动四个工作进程。每个工作进程将处理来自客户端的传入 HTTP 请求。如果当前进程是工作进程，我们通过调用启动 HTTP 服务器并记录一条消息以表明工作进程已启动。

当客户端向服务器发出请求时，PM2 将在可用的工作进程之间分配请求，这有助于提高应用程序性能和可扩展性。通过使用 PM2 进行负载平衡，我们可以确保 Node.js 应用程序能够处理高水平的流量并提供可靠且响应迅速的用户体验。

注意：在提供的示例代码中fork四个工作进程的决定是任意的，给定应用程序的最佳工作进程数量取决于可用 CPU 核心、应用程序大小和预期级别等因素的流量。
一般来说，建议每个 CPU 核心有一个工作进程，以最大限度地提高性能和可扩展性。但是，工作进程的最佳数量可能会根据应用程序的具体需求而有所不同。

如果我们的负载均衡过载，我们可以通过添加更多资源（例如额外的服务器或 CPU）来解决问题，或者通过优化代码或配置来减少服务器上的负载。我们还可以使用先进的负载均衡技术，例如动态扩展或自动扩展，根据流量模式自动调整 Node.js 实例的数量。

总结

负载平衡是提高 Node.js 应用程序性能和可靠性的一项重要技术。负载均衡器使用算法将传入流量分配到在多个服务器上运行的不同 Node.js 实例，并且可以使用work_process或者cluster模块等技术根据流量模式动态创建和删除 Node.js 实例。了解 Node.js 中的进程、子进程和进程生成对于构建可扩展且高效的 Node.js 应用程序也很重要。

本文来自互联网用户投稿，该文观点仅代表作者本人，不代表本站立场。本站仅提供信息存储空间服务，不拥有所有权，不承担相关法律责任。如若转载，请注明出处：/a/146495.html

如若内容造成侵权/违法违规/事实不符，请联系我们进行投诉反馈qq邮箱809451989@qq.com，一经查实，立即删除！

相关文章

若依前后分离版框架下Springboot java引入Mqtt接受发送消息

若依前后分离版框架下Springboot java引入Mqtt接受发送消息

**这只是其中一种而且是粗浅的接、发消息。 同步机制还要跟搞物联网的同事沟通确认去看看能不能实现 或者是设备比较多的情况下 不会去使用同步机制 首先pom文件 引入依赖 ** <dependency><groupId>org.eclipse.paho</groupId><artifactId>org.eclipse…
阅读更多...
​TechSmith Camtasia 2024破解版功能介绍及使用教程

​TechSmith Camtasia 2024破解版功能介绍及使用教程

在现在的网络互联网时代&#xff0c;越来越多的人走上了自媒体的道路。有些自媒体人会自己在网络上录制精彩视频&#xff0c;也有一些人会将精彩、热门的电影剪辑出来再加上自己给它的配音&#xff0c;做成大家喜欢看的电影剪辑片段。相信不管大家是自己平时有独特的爱好也好、…
阅读更多...
如何将微软 Office 宏转换为 ONLYOFFICE 宏

如何将微软 Office 宏转换为 ONLYOFFICE 宏

想要将微软 Office VBA 宏转换为可在 ONLYOFFICE 中无缝使用的宏&#xff1f;嗯&#xff0c;虽然这种需求并没有直接的解决方案&#xff0c;不过我们也会在本文中介绍 VBA 宏的转换步骤——正好我们手上也有一个来自用户的实际案例可供参考。 VBA 宏 以下是原始的 VBA 宏代码&…
阅读更多...
ubuntu18.04配置Java环境与安装RCS库

ubuntu18.04配置Java环境与安装RCS库

一、安装包 安装包 二、JAVA环境 java无需安装&#xff0c;只需要下载解压&#xff0c;然后配置正确的路径到环境变量种即可使用。 1.创建文件JAVA mkdir JAVA 2.将安装包复制到该文件夹下&#xff0c;并解压缩 tar -zxvf tar -zxvf jdk1.8.0_191.tar.gz 3.在home路径下…
阅读更多...
Excel-lookup函数核对两个表格的数据匹配

Excel-lookup函数核对两个表格的数据匹配

需求描述&#xff1a;把右侧表格里的成绩按照姓名匹配到左表中 D11函数为LOOKUP(1,0/($H$11:$H$26A11),I$11:I$26) 然后下拉赋值公式&#xff0c;那么得到的值就都是对应的
阅读更多...
STM32中使用看门狗实现系统自动复位

STM32中使用看门狗实现系统自动复位

STM32中的看门狗(Watchdog)是一种用于监控系统运行状态并在系统故障或死锁时执行自动复位的硬件功能。在本文中&#xff0c;我将介绍如何在STM32微控制器中使用看门狗来实现系统的自动复位。下面是详细的解释&#xff1a; 一、看门狗原理简介 看门狗是一种独立的硬件计时器&am…
阅读更多...
竞赛选题 深度学习的水果识别 opencv python

竞赛选题 深度学习的水果识别 opencv python

文章目录 0 前言2 开发简介3 识别原理3.1 传统图像识别原理3.2 深度学习水果识别 4 数据集5 部分关键代码5.1 处理训练集的数据结构5.2 模型网络结构5.3 训练模型 6 识别效果7 最后 0 前言 &#x1f525; 优质竞赛项目系列&#xff0c;今天要分享的是 &#x1f6a9; 深度学习…
阅读更多...
HTTP/2.0协议详解

HTTP/2.0协议详解

前言 HTTP/2.0&#xff1a;互联网通信的革新标准 随着互联网技术的飞速发展&#xff0c;HTTP协议作为互联网应用最广泛的通信协议&#xff0c;也在不断演进和优化。HTTP/2.0是HTTP协议的最新版本&#xff0c;它旨在提供更高效、更安全、更快速的互联网连接。 一、HTTP/2.0的…
阅读更多...
解密图像处理中的利器——直方图与均衡化

解密图像处理中的利器——直方图与均衡化

直方图与均衡化是数字图像处理中常用的重要工具&#xff0c;它们能够帮助我们更好地理解和改善图像的亮度分布。本文将首先介绍直方图的基本概念以及其在图像处理中的意义&#xff0c;接着详细阐述直方图均衡化的原理和算法。同时&#xff0c;文章将探讨直方图均衡化在图像增强…
阅读更多...
EasyExcel入门使用教程

EasyExcel入门使用教程

文章目录 简介一、工程创建&#x1f391;二、读操作&#x1f38a;二、写操作&#x1f384;总结 简介 数据导入导出意义 后台管理系统是管理、处理企业业务数据的重要工具&#xff0c;在这样的系统中&#xff0c;数据的导入和导出功能是非常重要的&#xff0c;其主要意义包括以下…
阅读更多...
java轮播图接口实现

java轮播图接口实现

一. 内容简介 实现java后端用户管理接口&#xff0c;数据库使用msyql。 二. 软件环境 2.1 java 1.8 2.2 mysql Ver 8.0.13 for Win64 on x86_64 (MySQL Community Server - GPL) 2.3 IDEA ULTIMATE 2019.3 2.4d代码地址 https://gitee.com/JJW_1601897441/competitionAs…
阅读更多...
k8s_base

k8s_base

应用程序在服务器上部署方式的演变,互联网发展到现在为止 应用程序在服务器上部署方式 历经了3个时代1. 传统部署 优点简单 缺点就是操作系统的资源是有限制的&#xff0c;比如说操作系统的磁盘&#xff0c;内存 比如说我8G&#xff0c;部署了3个应用程序&#xff0c;当有一天…
阅读更多...
实现Vue3 readonly，教你如何一步步重构

实现Vue3 readonly，教你如何一步步重构

本文通过实现readonly方法&#xff0c;一步步展示重构的流程。 前言 readonly接受一个对象&#xff0c;返回一个原值的只读代理。 实现 Vue3 中readonly方法&#xff0c;先来看一下它的使用。 <script setup> import { readonly } from "vue";let user {n…
阅读更多...
Spring Security OAuth2.0 实现分布式系统的认证和授权

Spring Security OAuth2.0 实现分布式系统的认证和授权

Spring Security OAuth2.0 实现分布式系统的认证和授权 1. 基本概念1.1 什么是认证&#xff1f;1.2 什么是会话&#xff1f;1.2.1 基于 session 的认证方式1.2.2 基于 token 的认证方式 1.3 什么是授权&#xff1f;1.3.1 授权的数据模型 1.4 RBAC 介绍 2. Spring Security2.1 S…
阅读更多...
Spring-Spring之AOP底层原理解析---实践（动态代理）

Spring-Spring之AOP底层原理解析---实践（动态代理）

动态代理 代理模式的解释&#xff1a;为其他对象提供一种代理以控制对这个对象的访问&#xff0c;增强一个类中的某个方法&#xff0c;对程序进行扩展。 cglib动态代理 方式一&#xff1a; public class UserService {public void test() {System.out.println("test..…
阅读更多...
hadoop 大数据环境配置 配置jdk, hadoop环境变量 配置centos环境变量 hadoop（五）

hadoop 大数据环境配置 配置jdk, hadoop环境变量 配置centos环境变量 hadoop（五）

1. 遗漏一步配置系统环境变量&#xff0c;下面是步骤&#xff0c;别忘输入更新系统环境命令 2. 将下载好得压缩包上传至服务器&#xff1a; /opt/module 解压缩文件存放地址 /opt/software 压缩包地址 3. 配置环境变量&#xff1a; 在/etc/profile.d 文件夹下创建shell文件 …
阅读更多...
【Nginx】CentOS 安装Nignx

【Nginx】CentOS 安装Nignx

CentOS上安装Nginx&#xff1a; 1. 打开终端&#xff1a;使用SSH或者直接在服务器上打开终端。 2. 更新系统&#xff1a;运行以下命令以确保您的系统软件包列表是最新的&#xff1a; sudo yum update3. 安装Nginx&#xff1a;运行以下命令以安装Nginx&#xff1a; sudo yum…
阅读更多...
性能测试 —— Jmeter分布式测试的注意事项和常见问题

性能测试 —— Jmeter分布式测试的注意事项和常见问题

Jmeter是一款开源的性能测试工具&#xff0c;使用Jmeter进行分布式测试时&#xff0c;也需要注意一些细节和问题&#xff0c;否则可能会影响测试结果的准确性和可靠性。 Jmeter分布式测试时需要特别注意的几个方面 1. 参数化文件的位置和内容 如果使用csv文件进行参数化&…
阅读更多...
人工智能基础_机器学习030_ElasticNet弹性网络_弹性回归的使用---人工智能工作笔记0070

人工智能基础_机器学习030_ElasticNet弹性网络_弹性回归的使用---人工智能工作笔记0070

然后我们再来看elastic-net弹性网络,之所以叫弹性是因为,他融合了L1和L2正则,可以看到 他的公式 公式中有L1正则和L2正则两个都在这个公式中 可以看到弹性网络,在很多特征互相联系的时候,非常有用,比如, 相关性,如果数学好,那么物理也好,如果语文好,那么英语也好 这种联系 正…
阅读更多...
[论文分享] Never Mind the Malware, Here’s the Stegomalware

[论文分享] Never Mind the Malware, Here’s the Stegomalware

Never Mind the Malware, Here’s the Stegomalware [IEEE Security & Privacy 2022] Luca Caviglione | National Research Council of Italy Wojciech Mazurczyk | Warsaw University of Technology and FernUniversitt in Hagen 近年来&#xff0c;隐写技术已逐渐被观…
阅读更多...
最新文章

Copyright @ 2022~2023