使用LVS+NGinx+Netty实现数据接入

数据接入

链接参考文档 LVS+Keepalived项目

车辆数据上收,TBox通过TCP协议连接到TSP平台 建立连接后进行数据上传。也可借由该连接实现远程控制等操作。

通过搭建 LV—NGinx—Netty实现高并发数据接入

  • LVS:四层负载均衡(位于内核层):根据请求报文中的目标地址和端口进行调度
  • NGinx:七层负载均衡(位于应用层):根据请求报文的内容进行调度,这种调度属于「代理」的方式
组件角色主机名称虚拟ip/端口
LVS+keepalivedactive-0007
LVS+keepalivedbackup-0006
Nginx负载-00058050
Nginx负载-00048050
Netty真实服务器-00038050
Netty真实服务器-00028050
Netty真实服务器-00038092
Netty真实服务器-00028092
Netty真实服务器-00018092
Netty真实服务器-00018092

使用华为云服务器 安装LVS 需要有VPC服务(免费),在控制台页面做虚拟ip绑定在这里插入图片描述

一、安装LVS 服务

使用的是 DR 模式

  • NET模式:LVS将数据请求包转发给真实服务器的时候,会修改成真实服务器的IP地址;在回复时真实服务器会把回复包发往LVS调度服务器 再发往客户端。
  • TUN隧道模式:将原始数据包封装并添加新的包头(内容包括新的源地址及端口、目标地址及端口),从而实现将一个目标为调度器的VIP地址的数据包封装,通过隧道转发给后端的真实服务器(RealServer)感觉很复杂。
  • DR模式:要求LVS调度服务器要和后端服务器在同一局域网下,为后端服务器添加lo回环地址为VIP(虚拟IP地址)这样回复给客户端 客户端会以为是连接的VIP进行回复的

DR模式不支持端口映射

#查看网卡 eth0
ifconfig
#执行 虚拟ip:172.25.94.187    广播地址(不变):172.25.94.191 子网掩码(不变):255.255.255.192 up:立即启用vip(虚拟ip)
ifconfig eth0:1 172.25.94.187 broadcast 172.25.94.191 netmask 255.255.255.192 up
#查看当前网卡信息
ip a
#安装keepalived
sudo yum install keepalived
#启动keepalived
systemctl start keepalived
#加入开机启动keepalived
systemctl enable keepalived
#重新启动keepalived
systemctl restart keepalived  
#查看keepalived状态
systemctl status keepalived

在这里插入图片描述

LVS 模块内嵌lvs模块,只需要ipvsadm和keepalived安装

#查看Linux 内核版本
uname -r
#查看内核是否集成lvs模块
find /lib/modules/$(uname -r)/ -iname "**.ko*" | cut -d/ -f5- 
#安装LVS管理工具:ipvsadm
yum install -y gcc gcc-c++ makepcre pcre-devel kernel-devel openssl-devel libnl-devel popt*  
yum -y install ipvsadm  
#启动ipvs
sudo ipvsadm
#查看是否支持lvs
sudo lsmod |grep ip_vs
#查看ipvsadm 版本
ipvsadm -v
#服务器添加路由规则
route add -host 172.25.94.187 dev ens33:0
route add -host 172.25.110.124 dev eth:0

#启用系统的包转发功能 #1:启用ip转发,0:禁止ip转发
echo "1" >/proc/sys/net/ipv4/ip_forward 
#清除原有转发规则
systemctl restart keepalived 
systemctl status ipvsadm
ipvsadm --clear
#添加虚拟ip规则 rr:负载均衡算法 轮询
 ipvsadm -A -t 172.25.94.187:8043 -s rr
 ipvsadm -a -t 172.25.94.187:8043 -r 172.25.94.151:8043 -g
 ipvsadm -a -t 172.25.94.187:8043 -r 172.25.94.152:8043 -g
 ipvsadm -l
 #配置tcp/tcpfin/udp超时时间
  ipvsadm --set 900 120 300
  #添加虚机IP规则也可以通过修改文件实现
  vim /etc/keepalived/keepalived.conf
global_defs {
   router_id chery_21
}
vrrp_instance VI_1 {
    state MASTER
    interface eth0
    virtual_router_id 51
    priority 100
    advert_int 1
    authentication {
        auth_type PASS
        auth_pass 1111
    }

    virtual_ipaddress {
        172.25.110.124
    }
}
virtual_server 172.25.110.124 8050 {
    delay_loop 6
    lb_algo rr
    lb_kind DR
    persistence_timeout 50
    protocol TCP

    real_server 172.25.110.19 8050 {
        weight 1
        TCP_CHECK {
	connect_timeout 30
	delay_before_retry 3
    }
}
    real_server 172.25.110.18 8050 {
	weight 2
	TCP_CHECK {
	connect_timeout 30
	}
}
}

全局定义(global_defs)

  • router_id chery_21:定义了当前Keepalived实例的路由ID,这是唯一的标识符,用于在VRRP组中区分不同的Keepalived实例。

VRRP实例(vrrp_instance VI_1)

  • state MASTER:设置当前实例的初始状态为MASTER。在VRRP组中,MASTER负责处理对虚拟IP的流量。

  • interface eth0:指定VRRP通信使用的网络接口。

  • virtual_router_id 51:虚拟路由的ID,用于在VRRP组中标识不同的虚拟路由器。

  • priority 100:设置当前实例的优先级,优先级高的实例将成为MASTER。

  • advert_int 1:VRRP通告的间隔时间,单位为秒。MASTER每隔这个时间会向其他节点发送VRRP通告。

  • authentication
    

    :VRRP认证配置,确保只有授权的设备可以加入VRRP组。

    • auth_type PASS:使用密码认证。
    • auth_pass 1111:认证密码。
  • virtual_ipaddress:定义了虚拟IP地址,即VIP,客户端将访问此IP地址来访问服务。

虚拟服务器(virtual_server)

  • 172.25.110.124 8050:定义了虚拟服务器的IP地址和端口号,这里与VRRP的VIP相同,表明这个虚拟服务器是通过VIP来访问的。
  • delay_loop 6:健康检查的时间间隔,单位为秒。
  • lb_algo rr:负载均衡算法,这里使用的是轮询(rr)。
  • lb_kind DR:负载均衡类型,这里使用的是直接路由(DR),需要确保后端服务器(real_server)配置正确以支持DR模式。
  • persistence_timeout 50:会话保持时间,单位为秒。在指定时间内,来自同一客户端的请求将被转发到同一台后端服务器。
  • protocol TCP:使用TCP协议进行健康检查和负载均衡。

后端服务器(real_server)

  • 定义了多个后端服务器,每个服务器都配置了IP地址、端口号、权重和健康检查设置。

  • weight:权重,用于负载均衡时决定服务器的优先级。

  • TCP_CHECK
    

    :TCP健康检查配置。

    • connect_timeout 30:连接超时时间,单位为秒。
    • delay_before_retry 3:在重试之前等待的时间,单位为秒。

LVS负载均衡(LVS简介、三种工作模式、十种调度算法)

#列出当前LVS表中的所有配置,包括虚拟服务器和真实服务器的信息。
ipvsadm -Ln
#显示统计信息,包括已转发的连接数、入包个数、出包个数等。
ipvsadm -L --stats
#显示转发速率信息,包括每秒连接数、每秒入包个数、每秒出包个数等
ipvsadm -L --rate
#keepalived 日志
vim /var/log/message

在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述

二、安装nginx 服务

在nginx服务器和后端服务器 配置lo回环地址 否则回复将不成功

服务器上一般还需要修改lo网卡 配置成虚拟IP。华为云服务器使用的是Centos 8版本 没有 lo配置文件,通过 ifconfig lo:0 172.25.94.187 netmask 255.255.255.255 broadcast 172.25.94.187 up 华为云服务器不支持修改网卡,所以修改了 eth0网卡配置 ip addr add 172.25.94.187/24 dev eth0

在这里插入图片描述

yum -y nginx
#检查是否有 stream
nginx -V 2>&1 | grep --color -o with-stream
#如果没有stream需要对nginx源码安装进行二次编译 
tar -zxvf nginx-*.tar.gz  
cd nginx-*  
./configure --prefix=/usr/local/nginx --with-http_ssl_module --with-stream  
make  
sudo make install
#重新加载Nginx配置文件
nginx -s reload 
#强制停止Nginx服务
nginx -s stop
#重启nginx
nginx -s reopen
#修改配置文件
vim /etc/nginx/nginx.conf

netstat -anput | grep nginx

nginx -c nginx.conf

在这里插入图片描述

三、Netty服务

**1、在Linux上部署启用了 epoll **

epoll:是Linux内核为处理大批量文件描述符而作的改进的poll,是Linux下多路复用IO接口select/poll的增强版本
应用于Linux系统下的应用程序,特别是需要处理大量并发连接的高性能网络服务器。

BIO:同步阻塞IO,也就是传统阻塞型的IO,服务器实现模式是一个连接对应一个线程。客户端有连接请求时服务器端就需要启动一个线程进行处理,如果这个链接不做任何事情会造成不必要的线程开销。

NIO:同步非阻塞IO,服务器实现模式是一个线程处理多个请求,客户端发送的链接请求都会注册到多路复用器上,多路复用器轮询到链接有IO请求就进行处理。

AIO:异步非阻塞,AIO引入了异步通道的概念,采用了Proactor模式,简化了程序编写,有效的请求才启动线程,他的特点是先由操作系统完成后才通知服务端程序启动线程去处理,一般适用于连接数较多且链接时间较长的应用。

public class NettyServer {
    private static final Logger logger = LoggerFactory.getLogger(NettyServer.class);

    @Resource
    private NettyServerInitializer nettyServerInitializer;

    ServerBootstrap serverBootstrap = new ServerBootstrap();

    EventLoopGroup boss = null;

    EventLoopGroup worker = null;

    ChannelFuture future = null;

    ChannelFuture future2 = null;

    //厂商编码
    Integer factoryCode = null;

    @Value("${netty.server.use-epoll}")
    boolean epoll = false;

    @Value("${netty.server.port1}")
    private int port = 8030;

    @Value("${netty.server.port2}")
    private int port2 = 8050;

    @PreDestroy
    public void stop() {
        if (future != null) {
            future.channel().close().addListener(ChannelFutureListener.CLOSE);
            future.awaitUninterruptibly();
            boss.shutdownGracefully();
            worker.shutdownGracefully();
            future = null;
            logger.info(" 服务关闭 ");
        }
    }

    public void start() {
        logger.info(" nettyServer 正在启动");

        if (epoll) {
            logger.info(" nettyServer 使用epoll模式");
            boss = new EpollEventLoopGroup(4);
            //指定线程32
            worker = new EpollEventLoopGroup(32);
        } else {
            logger.info(" nettyServer 使用nio模式");
            boss = new NioEventLoopGroup(4);
            worker = new NioEventLoopGroup(32);
        }

        logger.info("netty服务器在[" + this.port + "]端口启动监听");
        logger.info("netty服务器在[" + this.port2 + "]端口启动监听");

        serverBootstrap.group(boss, worker)
        // tcp缓冲区:将不能处理的客户端连接请求放到队列里等待
                .option(ChannelOption.SO_BACKLOG, 10240)
                //多个进程或者线程绑定到同一端口,提高服务器程序的性能
                .option(EpollChannelOption.SO_REUSEPORT, true)
                //打印info级别的日志
//                .handler(new LoggingHandler(LogLevel.INFO))
                // 将网络数据积累到一定的数量后,服务器端才发送出去,会造成一定的延迟。希望服务是低延迟的,建议将TCP_NODELAY设置为true
                .childOption(ChannelOption.TCP_NODELAY, true)
                // 可以确保连接在因网络问题中断时能够被及时检测并处理。
                .childOption(ChannelOption.SO_KEEPALIVE, false)
                // 配置ByteBuf内存分配器
                .childOption(ChannelOption.ALLOCATOR, PooledByteBufAllocator.DEFAULT)
                // 配置 编码器、解码器、业务处理
                .childHandler(nettyServerInitializer);

        if (epoll) {
            serverBootstrap.channel(EpollServerSocketChannel.class);
        } else {
            serverBootstrap.channel(NioServerSocketChannel.class);
        }


        try {
            future = serverBootstrap.bind(port).sync();
            future2 = serverBootstrap.bind(port2).sync();
            future.channel().closeFuture().addListener(new ChannelFutureListener() {
                @Override
                public void operationComplete(ChannelFuture future) throws Exception {       //通过回调只关闭自己监听的channel
                    future.channel().close();
                }
            });

            future2.channel().closeFuture().addListener(new ChannelFutureListener() {
                @Override
                public void operationComplete(ChannelFuture future) throws Exception {
                    future.channel().close();
                }
            });

            // 等待服务端监听端口关闭
            // future.channel().closeFuture().sync();
        } catch (Exception e) {
            logger.info("nettyServer 启动时发生异常---------------{}", e);
            logger.info(e.getMessage());
        } finally {
            //这里一定要注释,因为上面没有阻塞了,不注释的话,这里会直接关闭的
            //boss.shutdownGracefully();
            //worker.shutdownGracefully();
        }
    }

2、超时配置

    protected void initChannel(SocketChannel socketChannel) throws Exception {
        ChannelPipeline pipeline = socketChannel.pipeline();
        // readerIdleTimeSeconds 读超时;writerIdleTimeSeconds 写超时;allIdaleTimes 读写全超时 300 秒;断开连接
        pipeline.addLast(new IdleStateHandler(0, 0, 300, TimeUnit.SECONDS));
        pipeline.addLast(new LengthFieldBasedFrameDecoder(64 * 1024, 22, 2, 1, 0));
       //根据端口动态的选择解码器
        Integer localPort = socketChannel.localAddress().getPort();
        if (localPort == 8050 || localPort == 8055) {
            pipeline.addLast("authHandler", authHandler);
            pipeline.addLast("messageHandler", messageHandler);
        } else if (localPort == 8030 || localPort == 8035) {
                pipeline.addLast("authHandler", authHandler2);
                pipeline.addLast("messageHandler", messageHandler2);
        }
    }

在处理器中的应用


    /**
     * 用户事件触发,发现读超时会调用 根据心跳检测状态去关闭连接
     */

    @Override
    public void userEventTriggered(ChannelHandlerContext ctx, Object evt) throws Exception {

        if (evt instanceof IdleStateEvent) {
            IdleStateEvent event = (IdleStateEvent) evt;
            String clientId = ChannelStore.getClientId(ctx);
            Attribute<Integer> timesAttr = ctx.channel().attr(AttributeKey.valueOf("times"));
            Integer timeInt = timesAttr.get();

            if (timeInt == null) {
                timeInt = 0;
            }
            String eventDesc = null;
            switch (event.state()) {
                case READER_IDLE:
                    eventDesc = "读空闲";
                    break;
                case WRITER_IDLE:
                    eventDesc = "写空闲";
                    break;
                case ALL_IDLE:
                    eventDesc = "读写空闲";
                    break;
            }
            //获取ip地址信息
            InetAddress ip = InetAddress.getLocalHost();
            String hostAddress = ip.getHostAddress();

            log.info(clientId + " 地址:" + hostAddress + "发生超时事件--" + eventDesc);
            timeInt++;
            timesAttr.set(timeInt);

            if (timeInt > 1) {
                //删除ip地址信息
                String redisIpAddress = redisTemplateNew.get(clientId + "_IP");
                boolean hostBoolean = hostAddress.equals(redisIpAddress);
                log.info(hostBoolean + "check :" + clientId + " redisTemplateNewDelete:" + hostAddress + "redisIP:" + redisIpAddress);
                if (redisIpAddress != null && hostBoolean) {
                    redisTemplateNew.delete(clientId + "_IP");
                }
                log.info(clientId + " 地址:" + hostAddress + ":" + ctx.channel().remoteAddress() + "空闲次数为" + timeInt + "次 关闭连接 " + clientId);
                ctx.channel().close();
            }
        }
    }

3、下行API

public class SendApi {

    @Resource
    private RedisTemplateNew redisTemplateNew;

    @Resource
    private KafkaTemplate<String, String> kafkaTemplate;

    @GetMapping(value = "/userinfo")
    public UserDto gerUserInfo() {
        UserDto user = new UserDto();
        user.setUserId("888888");
        user.setUserName("holmium");
        user.setSex("1");
        return user;
    }
}

}
}
}


本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处:/a/842783.html

如若内容造成侵权/违法违规/事实不符,请联系我们进行投诉反馈qq邮箱809451989@qq.com,一经查实,立即删除!

相关文章

【数据结构进阶】二叉搜索树

&#x1f525;个人主页&#xff1a; Forcible Bug Maker &#x1f525;专栏&#xff1a; C || 数据结构 目录 &#x1f308;前言&#x1f525;二叉搜索树&#x1f525; 二叉搜索树的实现Insert&#xff08;插入&#xff09;find&#xff08;查找&#xff09;erase(删除)destro…

【中项】系统集成项目管理工程师-第2章 信息技术发展-2.1信息技术及其发展-2.1.1计算机软硬件与2.1.2计算机网络

前言&#xff1a;系统集成项目管理工程师专业&#xff0c;现分享一些教材知识点。觉得文章还不错的喜欢点赞收藏的同时帮忙点点关注。 软考同样是国家人社部和工信部组织的国家级考试&#xff0c;全称为“全国计算机与软件专业技术资格&#xff08;水平&#xff09;考试”&…

车载音视频App框架设计

简介 统一播放器提供媒体播放一致性的交互和视觉体验&#xff0c;减少各个媒体应用和场景独自开发的重复工作量&#xff0c;实现媒体播放链路的一致性&#xff0c;减少碎片化的Bug。本文面向应用开发者介绍如何快速接入媒体播放器。 主要功能&#xff1a; 新设计的统一播放U…

Windows FFmpeg 开发环境搭建

FFmpeg 开发环境搭建 FFmpeg命令行环境搭建使用FFmpeg官方编译的库Windows编译FFmpeg1. 下载[msys2](https://www.msys2.org/#installation)2. 安装完成之后,将安装⽬录下的msys2_shell.cmd中注释掉的 rem set3. 修改pacman 镜像源并安装依赖4. 下载并编译源码 FFmpeg命令行环境…

【C++】 string类的模拟实现

目录 一、我们先创建三个文件分别为 String.h&#xff08;声明&#xff09;、String.cpp&#xff08;定义&#xff09;、teat.cpp&#xff08;测试&#xff09; 二、成员函数 构造函数与析构函数 &#x1f31f;string() &#x1f31f;string(const char* str) &#x1f…

c++基础(类和对象中)(类的默认成员函数)

目录 一.构造函数&#xff08;类似初始化&#xff09; 1.概念 2.构造函数的特点 二.析构函数&#xff08;类似 销毁对象/空间&#xff09; 三.拷贝构造函数(类似复制粘贴的一种 初始化 ) 1.概念&#xff1a; 2.拷贝构造的特点&#xff1a; 四.赋值运算符重载&#xff08…

【MATLAB实战】基于UNet的肺结节的检测

数据&#xff1a; 训练过程图 算法简介&#xff1a; UNet网络是分割任务中的一个经典模型,因其整体形状与"U"相似而得名,"U"形结构有助于捕获多尺度信息,并促进了特征的精确重建&#xff0c;该网络整体由编码器,解码器以及跳跃连接三部分组成。 编码器由…

数据结构第一讲:复杂度

数据结构第一讲&#xff1a;复杂度 1.数据结构前言1.1什么是数据结构1.2算法 2.算法效率2.1复杂度的概念 3.时间复杂度3.1案例13.2案例23.3案例33.4案例43.5案例53.6案例63.7案例7 4.空间复杂度4.1案例14.2案例2 5.常见复杂度对比6.轮转数组题目分析6.1优化16.2优化2 博客简介&…

走进MongoDB--update和remove操作

操作任务 1.复制集合s&#xff0c;新集合名称为sbak。在sbak中完成以下操作 2.修改学号为1001同学的年龄为20岁 3.所有男同学的文档增加addr属性&#xff0c;值为“hebei” 4.删除wangwu同学的年龄属性 5.修改zhangsi同学的年龄属性为20&#xff0c;如果没有满足条件的则插…

DNS域名解析轮询过程图解

Q1: 先从本地浏览器/系统DNS缓存查找是否有解析记录 Q2:从本地hosts文件查找解析记录 Q3:如果前2步没有找到本地解析记录 hosts也无记录就从本地域名服务器查找 Q4:本地域名服务器区域缓存记录查找 Q5:查找转发器是否有 Q6--Q7:查找根com顶级域名服务器 Q8: 查找test.com…

力扣 字符串章节 344反转字符串

编写一个函数&#xff0c;将输入字符翻转过来,原地修改 思路 字符串用数组的形式存储&#xff0c;数组长度分奇数和偶数两种 如果长度是奇数&#xff0c;循环到str.size()/2&#xff0c;中间值不动 如果长度是偶数&#xff0c;循环到str.size()/2&#xff0c;全部参与反转 …

【简单介绍Gitea】

🎥博主:程序员不想YY啊 💫CSDN优质创作者,CSDN实力新星,CSDN博客专家 🤗点赞🎈收藏⭐再看💫养成习惯 ✨希望本文对您有所裨益,如有不足之处,欢迎在评论区提出指正,让我们共同学习、交流进步! Gitea.🍀 Gitea是一个开源的,轻量级的代码托管解决方案,它是…

收到赵健老师的限量签名书,开心

收到赵老师的亲笔签名&#x1f4d6;&#xff0c;开心一下下[愉快]&#xff0c;由外而内&#xff0c;首先是我喜欢的线装书&#xff0c;展开阅读舒适&#xff0c;手感友好&#xff0c;纸张更是很讲究&#xff0c;密度很高也很温润&#xff0c;应该是进口纸&#xff0c;每个对页的…

Linux主机添加ipv6地址

一、添加网卡ipv6地址 通过命令行添加 ip add add 2001:db8:0:1::102/64 dev ens160 通过编辑/etc/sysconfig/network-scripts/目录下的ifcfg-配置文件添加 TYPEEthernet BOOTPROTOdhcp # 或者指定为 "static" 如果你想要静态配置 DEFROUTEyes IPV4_FAILURE_FAT…

Uniapp基础篇(持续更新)

1. Uni-app常用内置组件 view 视图容器 scroll-view 可滚动视图区域&#xff0c;用于区域滚动。需注意在webview渲染的页面中&#xff0c;区域滚动的性能不及页面滚动。 swiper 滑块视图容器。一般用于左右滑动或上下滑动&#xff0c;比如banner轮播图。 image uniapp官方iam…

萝卜快跑无人出租车是有人远程代驾? 客服:没有人操控

ChatGPT狂飙160天&#xff0c;世界已经不是之前的样子。 更多资源欢迎关注 近期“萝卜快跑”无人驾驶网约车相关话题引发网友热议。 有网传图片显示&#xff0c;萝卜快跑机器人智控中心&#xff0c;有真人坐在带有方向盘的屏幕前&#xff1b; 有网友认为所谓的无人网约车&am…

Unty 崩溃问题(Burst 1.8.2)

错误代码&#xff1a; Assertion failed on expression: exception SCRIPTING_NULL UnityEngine.StackTraceUtility:ExtractStackTrace () Unity.Burst.BurstCompiler:SendRawCommandToCompiler (string Unity版本&#xff1a;2021.3.17F1&#xff0c;Burst 1.8.2 表现&…

黑马程序员瑞吉外卖Day6小程序空白无显示

做项目时出现问题之druid连接池报错 报错discard long time none received connection. , jdbcUrl : jdbc:mysql://localhost:3306/sky_take_out?serverTimezoneAsia/Shanghai&useUnicodetrue&characterEncodingutf-8&zeroDateTimeBehaviorconvertToNull&use…

Typescript 实现倒计时功能 useCountdown

效果图 代码块 useCountdown.ts import {onUnmounted, reactive, ref, watch} from "vue";type union = days | hours | minutes | seconds | millisecondsexport type Remains = Record<union, number>;/*** 创建一个倒计时** 用法*/ export const useCount…

“七夕之夜”:艺术家刘兰芳、陶玉玲等相约临沂蒙山沂水大剧院

人海信息网山东讯&#xff08;冯爱云、徐婉桦&#xff09; 近日&#xff0c;记者从北京御龙古今艺术剧院山东分院获悉&#xff0c;由该院承办、中国文艺研究会指导、北京御龙古今艺术剧院主办的2024御龙“七夕之夜”演唱会&#xff0c;将在浪漫的七夕前夜——8月9日晚&#xf…