23.JavaWeb-集群+Nginx+JMeter

1.集群概念

平时用的服务是的并发量是有限的，像tomcat只有不到500的并发量，不能满足高并发的需求，因此就采用了集群的方法，用多个服务器

当用户请求集群系统时，集群给用户的感觉就是一个单一独立的服务器，而实际上用户请求的是一组集群服务器，系统无法自动决定用户的请求具体交给哪台服务器解决，因此要用到一个代理服务器-nginx

2.nginx

Nginx (engine x) 是一个高性能、轻量级、占有内存少、并发能力强的HTTP和反向代理web服务器，同时也提供了IMAP/POP3/SMTP服务。

2.1 代理服务器

代理服务器是一种位于客户端和目标服务器之间的中间服务器。它充当客户端和目标服务器之间的中转，接收客户端发送的请求，并将其转发给目标服务器

2.1.1 正向代理

正向代理（Forward Proxy）是一种代理服务器的部署模式，它代表客户端向目标服务器发起请求，并将目标服务器返回的响应返回给客户端。在正向代理模式下，客户端明确知道它正在与代理服务器进行通信。

知道请求被哪个服务器处理，但是无法直接访问该服务器，需要借助代理服务器

2.1.2 反向代理

反向代理（Reverse Proxy）是一种代理服务器的部署模式，它将客户端的请求转发给多个目标服务器，并将目标服务器返回的响应返回给客户端。与正向代理不同，客户端并不知道它正在与目标服务器直接通信，而是与反向代理服务器进行通信。

2.2 使用nginx

2.2.1 下载nginx

nginx: downloadhttp://nginx.org/en/download.html

2.2.2 启动nginx

start nginx

2.2.3 配置nginx.conf文件

worker_processes  1;  # 工作进程数，一般设置为服务器CPU核心数

events {
    worker_connections  1024;  # 每个工作进程的最大连接数
}

http {
    include       mime.types;  # 包含MIME类型配置文件
    default_type  application/octet-stream;  # 默认的MIME类型

    sendfile        on;  # 开启文件传输功能
    keepalive_timeout  65;  # 长连接超时时间

    server {
        listen       80;  # 监听端口号
        server_name  localhost;  # 服务器名称

        location / {
            proxy_pass http://balance;  # 反向代理到名为"balance"的上游服务器集群
        }

        error_page   500 502 503 504  /50x.html;  # 定义错误页面
        location = /50x.html {
            root   html;  # 错误页面的根目录
        }
    }

    upstream balance{
        server 127.0.0.1:9090;  # 上游服务器1的地址和端口
        server 127.0.0.1:9091;  # 上游服务器2的地址和端口
    }
}

前端发送请求的目标端口要改成80，这是ngnix代理服务器的默认端口

nginx -s reload	重启nginx
nginx -s stop	关闭nginx
start nginx	启动nginx

2.3 负载均衡策略

在负载均衡中，有多种策略可供选择，用于决定将客户端请求分发给哪个后端服务器

负载均衡策略	描述	适用场景
轮询（Round Robin）	按照服务器列表顺序逐个将请求分发给后端服务器	服务器性能相近的场景
IP哈希（IP Hash）	根据客户端的IP地址计算哈希值，将相同IP的请求分发给同一台后端服务器	保持会话的场景
最少连接（Least Connections）	将请求发送到当前连接数最少的服务器，实现负载均衡	后端服务器性能不均衡的场景
加权轮询（Weighted Round Robin）	根据服务器权重进行轮询分发，权重高的服务器获得更多请求	服务器性能不均衡的场景
加权最少连接（Weighted Least Connections）	将请求发送到当前连接数最少且权重高的服务器	服务器性能不均衡的场景
URL hash	根据请求的 URL 的 hash 值来分配服务器。该算法的特点是，相同 URL 的请求会分配给固定的服务器，当存在缓存的时候，效率一般较高。然而 Nginx 默认不支持这种负载均衡算法，需要依赖第三方库。