【Redis】Redis 主从集群(一)

        为了避免 Redis 的单点故障问题,可以搭建一个 Redis 集群,将数据备份到集群中的其它节点上。若一个 Redis 节点宕机,则由集群中的其它节点顶上

1.主从集群搭建

        Redis 的主从集群是一个“一主多从”的读写分离集群。集群中的 Master 节点负责处理客户端的读写请求,而 Slave 节点仅能处理客户端的读请求。之所以要将集群搭建为读写分离模式,是因为对于数据库集群,写操作压力一般都较小,压力大多数来自于读操作请求。所以,只有一个节点负责处理写操作请求即可

     1.1.伪集群搭建与配置

        在采用单线程 IO 模型时,为了提高处理器的利用率,在一个主机中安装多台 Redis, 构建一个 Redis 主从伪集群

        1)复制 redis.conf:在 redis 安装目录中新建一个目录,名称随意。然后将 redis.conf 文件复制到该目录中。该文件后面会被其它配置文件包含,所以该文件中需要设置每 个 Redis 节点相同的公共的属性

        2)修改 redis.conf:

           a.masterauth:搭建主从集群,每个主机都有可能会是 Master,所以最好不要设置密码验证属性 requirepass。如果真需要设置,一定要每个主机的密码都设置为相同的

           b.repl-disable-tcp-nodelay:该属性用于设置是否禁用 TCP 特性 tcp-nodelay。设置为 yes 则禁用 tcp-nodelay,此时 master 与 slave 间的通信会产生延迟,但使用的 TCP 包数量会较少,占用的网络带宽会较小。反之网络延迟会变小,但使用的 TCP 包数量会较多,相应占用的网络 带宽会大

        3)新建 redis6380.conf:新建一个 redis 配置文件 redis6380.conf,该配置文件中的 Redis 端口号为 6380

        4)再复制出两个 conf 文件:再使用 redis6380.conf 复制出两个 conf 文件:redis6381.conf 与 redis6382.conf。然后分别修改其中的内容

        5)启动三台 Redis

        6)设置主从关系:打开三个会话框,分别使用客户端连接三台 Redis。然后通过 slaveof 命令,指定 6380 的 Redis 为 Master

        7)查看状态信息:通过 info replication 命令可查看当前连接的 Redis 的状态信息

     1.2.分级管理

        若 Redis 主从集群中的 Slave 较多时,其数据同步过程会对 Master 形成较大的性能压力,因此可以对这些 Slave 进行分级管理,让低级别 Slave 指定其 slaveof 的主机为其上一级 Slave

     1.3.容灾冷处理

        Master 出现宕机有两种处理方式:一种是通过手工角色调整,使 Slave 晋升为 Master 的冷处理;一种是使用哨兵模式,实现 Redis 集群的高可用 HA,即热处理

        无论 Master 是否宕机,Slave 都可通过 slaveof no one 将自己由 Slave 晋升为 Master。如 果其原本就有下一级的 Slave,那么,其就直接变为了这些 Slave 的真正的 Master 了。而原来的 Master 也会失去这个原来的 Slave

2.主从复制原理

     2.1.主从复制过程

        1)保存 master 地址:当 slave 接收到 slaveof 指令后,slave 会立即将新的 master 的地址保存下来

        2)建立连接:slave 中维护着一个定时任务,该定时任务会尝试着与该 master 建立 socket 连接。如果连接无法建立,则其会不断定时重试,直到连接成功或接收到 slaveof no one 指令

        3)slave 发送 ping 命令:连接建立成功后,slave 会发送 ping 命令进行首次通信。如果 slave 没有收到 master 的 回复,则 slave 会主动断开连接,下次的定时任务会重新尝试连接

        4)对 slave 身份验证:如果 master 收到了 slave 的 ping 命令,并不会立即对其进行回复,而是会先进行身份验证。如果验证失败,则会发送消息拒绝连接;如果验证成功,则向 slave 发送连接成功响应

        5)master 持久化:首次通信成功后,slave 会向 master 发送数据同步请求。当 master 接收到请求后,会 fork 出一个子进程,让子进程以异步方式立即进行持久化

        6)数据发送:持久化完毕后 master 会再 fork 出一个子进程,让该子进程以异步方式将数据发送给 slave。slave 会将接收到的数据不断写入到本地的持久化文件中。在 slave 数据同步过程中,master 的主进程仍在不断地接受着客户端的写操作,且不仅 将新的数据写入到了 master 内存,同时也写入到了同步缓存。当 master 的持久化文件中的 数据发送完毕后,master 会再将同步缓存中新的数据发送给 slave,由 slave 将其写入到本地 持久化文件中。数据同步完成。

        7)slave 恢复内存数据:当 slave 与 master 的数据同步完成后,slave 就会读取本地的持久化文件,将其恢复到 本地内存,然后就可以对外提供读服务了

        8)持续增量复制:在 slave 对外提供服务过程中,master 会持续不断的将新的数据以增量方式发送给 slave, 以保证主从数据的一致性

     2.2.数据同步演变过程

        1)sync 同步:Redis 2.8 版本之前,首次通信成功后,slave 会向 master 发送 sync 数据同步请求。然后 master 就会将其所有数据全部发送给 slave,由 slave 保存到其本地的持久化文件中。这个过 程称为全量复制

               问题:由于全量复制过程非常耗时,所以期间出现网络抖动的概率很高,从而导致复制过程中断。 网络恢复后,slave 与 master 重新连接成功,此时 slave 会重新发送 sync 请求,然后会从头开始全量复制,不仅需要消耗大量的系统资源、网络带宽,而且可能会出现长时间无法完成全量复制的情况

        2)psync 同步:Redis 2.8 版本之后,全量复制采用了 psync(不完全同步)同步策略。当 全量复制过程出现由于网络抖动而导致复制过程中断时,当重新连接成功后,复制过程可以 “断点续传”。即从断开位置开始继续复制,而不用从头再来。这就大大提升了性能

           a.复制偏移量:系统为每个要传送数据进行了编号,该编号从 0 开始,每个字节一个编号,该编号称为复制偏移量,参与复制的主从节点都会维护该复制偏移量。master 每发送过一个字节数据后就会进行累计。统计信息通过 info replication 的 master_repl_offset 可查看到

           b.主节点复制 ID:当 master 启动后就会动态生成一个长度为 40 位的 16 进制字符串作为当前 master 的复 制 ID,该 ID 是在进行数据同步时 slave 识别 master 使用的。通过 info replication 的 master_replid 属性可查看到该 ID

           c.复制积压缓冲区:当 master 有连接的 slave 时,在 master 中就会创建并维护一个队列 backlog,默认大小 为 1MB,该队列称为复制积压缓冲区。master 接收到了写操作数据不仅会写入到 master 主 存,写入到 master 中为每个 slave 配置的发送缓存,而且还会写入到复制积压缓冲区。其作 用就是用于保存最近操作的数据,以备“断点续传”时做数据补偿,防止数据丢失

           d.psync 同步过程:

           e.psync 存在的问题:在 psync 数据同步过程中,若 slave 重启,在 slave 内存中保存的 master 的动态 ID 与续 传 offset 都会消失,“断点续传”将无法进行,从而只能进行全量复制,导致资源浪费;在 psync 数据同步过程中,master 宕机后 slave 会发生“易主”,从而导致 slave 需要从 新 master 进行全量复制,形成资源浪费

        3)psync 同步的改进:Redis 4.0 对 psync 进行了改进,提出了“同源增量同步”策略

           a.解决 slave 重启问题:将 master 的动态 ID 直接 写入到了 slave 的持久化文件中

           b.解决 slave 易主问题:slave 易主后需要和新 master 进行全量复制,本质原因是新 master 不认识 slave 提交的 psync 请求中“原 master 的动态 ID”。由于改进后的 psync 中每个 slave 都在本地保存了当前 master 的动态 ID,所以当 slave 晋升为新的 master 后,其本地仍保存 有之前 master 的动态 ID。

        4)无盘操作:Redis 6.0 对同步过程又进行了改进,提出了“无盘全量同步”与“无盘加载”策略,避免了耗时的 IO 操作

           a.无盘全量同步:master 的主进程 fork 出的子进程直接将内存中的数据发送给 slave,无 需经过磁盘

           b.无盘加载:slave 在接收到 master 发送来的数据后不需要将其写入到磁盘文件,而是直 接写入到内存,这样 slave 就可快速完成数据恢复

        5)共享复制积压缓冲区:Redis 7.0 版本对复制积压缓冲区进行了改进,让各个 slave 的发送缓冲区共享复制积压缓冲区。这使得复制积压缓冲区的作用,除了可以保障数据的安全性外,还作为所有 slave 的发送缓冲区,充分利用了复制积压缓冲区

3.哨兵机制实现

        在集群中再引入一个节点,该节点充当 Sentinel 哨兵,用于监视 Master 的运行状态,并在 Master 宕机后自动指定一个 Slave 作为新的 Master。 整个过程无需人工参与,完全由哨兵自动完成。

        不过哨兵又成为了一个单点故障点:若哨兵发生宕机,整个集群将瘫痪。所以为了解决这个问题,又要为哨兵创建一个集群,即哨兵集群。一个哨兵的宕机,将不会影响到 Redis 集群的运行

        每个 Sentinel 都会定时会向 Master 发送心跳,如果 Master 在有效时间内向它们都进行了响 应,则说明 Master 是“活着的”。如果 Sentinel 中有 quorum 个哨兵没有收到响应,那么就认为 Master 已经宕机,然后会有一个 Sentinel 做 Failover 故障转移。即将原来的某一个 Slave 晋升为 Master

     3.1.Redis 高可用集群搭建

        可以让 Sentinel 占用独立的主机,即在 Redis 主机上只启动 Redis 进程,在 Sentinel 主机上只启动 Sentinel 进程。下面搭建一个“一主二从三哨兵”的高可用伪集群

角色端口角色端口
master6380sentinel26380
slave6381sentinel26381
slave6382sentinel26382

        1)复制 sentinel.conf:将 Redis 安装目录中的 sentinel.conf 文件复制到 cluster 目录中。该配置文件中用于存放 一些 sentinel 集群中的一些公共配置

        2)修改 sentinel.conf:修改 cluster/sentinel.conf 配置文件

           a.sentinel monitor:该配置用于指定 Sentinel 要监控的 master 是谁

           b.sentinel auth-pass:指定 master 的主机名 与访问密码。以方便 sentinel 监控 master

        3)新建 sentinel26380.conf:在 Redis 安装目录下的 cluster 目录中新建 sentinel26380.conf 文件作为 Sentinel 的配置文件,内容:

        4)再复制两个 conf 文件:再使用sentinel26380.conf 复制出两个conf文件:sentinel26381.conf与sentinel26382.conf,内容:

     3.2.高可用集群的启动

        1)启动并关联 Redis 集群:启动三台 Redis,然后再通过 slaveof 关联它们

        2)启动命令:两种方式本质相同,redis-sentinel 命令是 redis-server 命令的软链接

           a.方式一,使用 redis-sentinel 命令:redis-sentinel sentinel26380.conf

           b.方式二,使用 redis-server 命令:redis-server sentinel26380.conf --sentinel

        3)查看 Sentinel 信息:运行中的 Sentinel 就是一个特殊 Redis,其也可以通过客户端连接,然后通过 info sentinel 来查看当前连接的 Sentinel 的信息

     3.3.Sentinel 优化配置

        在公共的 sentinel.conf 文件中,通过修改一些其它属性的值来达到对 Sentinel 的 配置优化

        1)sentinel down-after-milliseconds:每个 Sentinel 会通过定期发送 ping 命令来判断 master、slave 及其它 Sentinel 是否存活。 如果 Sentinel 在该属性指定的时间内没有收到它们的响应,那么该 Sentinel 就会主观认为该 主机宕机。默认为 30 秒

        2)sentinel parallel-syncs:该属性用于指定,在故障转移期间,即老的 master 出现问题,新的 master 刚晋升后, 允许多少个 slave 同时从新 master 进行数据同步。默认值为 1 表示所有 slave 逐个从新 master 进行数据同步

        3)sentinel failover-timeout:指定故障转移的超时时间,默认时间为 3 分钟。用途:由于第一次故障转移失败,在同一个 master 上进行第二次故障转移尝试的时间为该 failover-timeout 的两倍;新 master 晋升完毕,slave 从老 master 强制转到新 master 进行数据同步的时间阈值;取消正在进行的故障转换所需的时间阈值;新 master 晋升完毕,所有 replicas 的配置文件更新为新 master 的时间阈值

        4)sentinel deny-scripts-reconfig:指定是否可以通过命令 sentinel set 动态修改 notification-script 与 client-reconfig-script 两 个脚本。默认是不能的。这两个脚本如果允许动态修改,可能会引发安全问题

        5)动态修改配置:通过 redis-cli 连接上 Sentinel 后,通过 sentinel set 命令可动态修改配置信息。例如,下 面的命令动态修改了 sentinel monitor 中的 quorum 的值

参数示例
quorumsentinel set mymaster quorum 2
down-after-millisecondssentinel set mymaster down-after-milliseconds 50000
failover-timeoutsentinel set mymaster failover-timeout 300000
parallel-syncssentinel set mymaster parallel-syncs 3
notification-scriptsentinel set mymaster notification-script /var/redis/notify.sh
client-reconfig-scriptsentinel set mymaster client-reconfig-script /var/redis/reconfig.sh
auth-passsentinel set mymaster auth-pass 111

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处:/a/624040.html

如若内容造成侵权/违法违规/事实不符,请联系我们进行投诉反馈qq邮箱809451989@qq.com,一经查实,立即删除!

相关文章

OBS插件--源录制

源录制 将应用这个滤镜的源录制成视频保存下来,可以选择音轨,也可以针对应用此滤镜的源单独的推流等。 如果在直播或录制视频的过程中场景里面布置了多个源,而只想保存其中一个源的视频或音频这个插件非常使用。 下面截图演示下操作步骤&a…

03-数据结构(一)

链接:C# 数据结构_哔哩哔哩_bilibili https://www.bilibili.com/video/BV1a541147Nk/?spm_id_from333.337.search-card.all.click&vd_source6eb7d966aa03ff5cb02b63725f651e68 链接:使用 C#.Net 学习掌握数据结构 (更新中)_哔哩哔哩_bilibili 一…

企业安全必备利器:专业级加密软件介绍

随着信息技术的迅猛发展,数据安全问题日益凸显,专业级加密软件应运而生,成为保护数据安全的重要工具。本文将对专业级加密软件进行概述,分析其特点、应用场景及分享。 一、专业级加密软件概述 专业级加密软件是指那些采用高级加密…

Spring Boot集成Druid快速入门Demo

1.什么是Druid? Druid连接池是阿里巴巴开源的数据库连接池项目。Druid连接池为监控而生,内置强大的监控功能,监控特性不影响性能。功能强大,能防SQL注入,内置Loging能诊断Hack应用行为。 2.mysql环境搭建 第一个mysql数…

Java线程池:当核心线程数为 0 时,任务来了的执行流程

先说结论&#xff1a;创建一个临时线程直接执行 ThreadPoolExecutor.excute() public void execute(Runnable command) {if (command null)throw new NullPointerException();int c ctl.get();if (workerCountOf(c) < corePoolSize) {if (addWorker(command, true)) retu…

石墨烯材料商汉烯科技授权世强硬创,代理产品具备高导热/导电特点

近日&#xff0c;武汉汉烯科技有限公司&#xff08;下称“汉烯科技”&#xff0c;英文&#xff1a;HANXI TECH&#xff09;与世强先进&#xff08;深圳&#xff09;科技股份有限公司&#xff08;下称“世强先进”&#xff09;达成授权代理合作&#xff0c;面向锂电新能源、电子…

Node.js初步学习

1.什么是Node.js Node.js是一个跨平台Javascript运行环境&#xff0c;使开发者可以搭建服务器端的Javascript应用程序。 编写后端程序&#xff0c;提供网页资源浏览功能等等&#xff1b; 前端工程化&#xff1a;为后续学习vue和react等框架做铺垫&#xff1b;前端工程化是指…

海思Hi3065H 200MHz 高性能 RISCV32 A² MCU

这是一款海思自研的RISCV32内核的高性能实时控制专用MCU&#xff0c; 具有高性能、高集成度、高可靠性、易开发的特点&#xff0c;同时还有嵌入式AI能力。 CPU • RISC-V200MHzFPU 存储 • Up to 152KB Code Flash • 8KB Data Flash • 16KB SRAM 个人认为这是MCU梯队非常…

精英都是时间控,职场精英的完美一天!

如何超高效使用24小时 每个人的一天都只有24小时&#xff0c;使用时间的方法将决定整个人生。时间管理术并不提倡把自己忙死榨干&#xff0c;而是通过在合适的时间做合适的事情&#xff0c;把大脑机能发挥到极致&#xff0c;从而提高效率&#xff0c;节省下更多时间用于生活与…

iOS xib知识总结

一、bug总结 1.could not insert new outlet connection 解决办法&#xff1a;操作步骤就是选中出问题的.m和.h文件&#xff0c;点删除键&#xff0c;然后选“Remove Reference”&#xff0c;这样就不会真正删除文件。接着选“File -> Add Files to …”菜单&#xff0c;在…

macOS上使用qt creator编译调试ffmpeg.c

1 前言 上文macOS上将ffmpeg.c编译成Framework介绍了使用xocde将ffmpeg.c编译成Framework的方法&#xff0c;这里列举另外一种办法&#xff0c;就是用qt creator来完成这件事情。 编译环境如下&#xff1a; qt creator 9.0.2&#xff1b;ffmpeg release/6.1; 2 编译ffmpeg.c 大…

算法加密-简介

前言 在遥远的古代&#xff0c;信息的传递至关重要。战争时期&#xff0c;将领们需要确保自己的作战计划不被敌人知晓。 有一次&#xff0c;一位聪明的将军想要给远方的盟友传递一份机密战略部署。他想到了一个办法&#xff0c;用一种特殊的符号来替代文字。他和盟友事先约定好…

CST电磁仿真结果比较与查看参数扫描的结果【入门教学】

Results 仿真结果的比较 使用New Tree Folder&#xff01; Navigation Tree > 1D Results > New Tree Folder 在使用CST软件时&#xff0c;希望比较两个仿真数据时&#xff0c;可以使用New Tree Folder。点击导航树中的1D Results文件夹然后右键选择New Tree Folder就…

【C++】再识构造函数:初始化列表新方式

欢迎来到CILMY23的博客 &#x1f3c6;本篇主题为&#xff1a; 再识构造函数&#xff1a;初始化列表新方式 &#x1f3c6;个人主页&#xff1a;CILMY23-CSDN博客 &#x1f3c6;系列专栏&#xff1a;Python | C | C语言 | 数据结构与算法 | 贪心算法 | Linux &#x1f3c6;感…

k8s endpoint

Endpoint Service 并不是和 pod 直接相连的&#xff0c;Endpoint 介于两者之间。Endpoint 资源就是暴露一个服务的 IP 地址和端口的列表。 虽然在 spec 服务中定义了 pod 选择器&#xff0c;但在重定向传入连接时不会直接使用它。选择器用于构建 IP 和端口列表&#xff0c;然…

Pikachu 靶场 SQL 注入通关解析

前言 Pikachu靶场是一种常见的网络安全训练平台&#xff0c;用于模拟真实世界中的网络攻击和防御场景。它提供了一系列的实验室环境&#xff0c;供安全专业人士、学生和爱好者练习和测试他们的技能。 Pikachu靶场的目的是帮助用户了解和掌握网络攻击的原理和技术&#xff0c;…

网络基础_01

1.网络通信过程 1.1架构 c/s架构 c:client 服务器 s:server 客户端 客户端&#xff1a;安装在你电脑上的qq&#xff0c;浏览器(360浏览器、chrome浏览器、IE浏览器等)&#xff0c;当我们使用qq发送消息的时候&#xff0c;消息先发送到了腾讯&#xff0c;然后腾讯在转发到你朋友…

目标检测实战(八): 使用YOLOv7完成对图像的目标检测任务(从数据准备到训练测试部署的完整流程)

文章目录 一、目标检测介绍二、YOLOv7介绍三、源码/论文获取四、环境搭建4.1 环境检测 五、数据集准备六、 模型训练七、模型验证八、模型测试九、错误总结9.1 错误1-numpy jas mp attribute int9.2 错误2-测试代码未能跑出检测框9.3 错误3- Command git tag returned non-zero…

项目经理之路:裁员与内卷下的生存策略

作为一名项目经理&#xff0c;身处这个充满挑战与机遇的行业中&#xff0c;今年所面临的裁员潮和内卷化趋势无疑给我的工作带来了前所未有的压力。然而&#xff0c;正是这些压力和挑战&#xff0c;让我们更加深刻地思考了在这个快速变化的时代中&#xff0c;我们项目经理应该如…

DHCP动态主机配置协议

DHCP概述 DHCP是什么 DHCP&#xff1a;Dynamic Host Configuration Protocol&#xff1a;动态主机配置协议DHCP是一种集中对用户IP地址进行动态管理和配置的技术 DHCP作用&#xff1a; 作用&#xff1a;实现IP地址的动态分配和集中管理优势&#xff1a;避免手工配置IP地址&…