Linux Redis主从复制 | 哨兵监控模式 | 集群搭建 | 超详细
- 一 Redis的主从复制
- 二 主从复制的作用
- 三 主从复制的流程
- 四 主从复制实验
- 4.1 环境部署
- 4.2 安装Redis(主从服务器)
- 4.3 修改Master节点Redis配置文件 (192.168.163.100)
- 4.4 修改Slave节点Redis配置文件 (192.168.163.110 192.168.163.120)
- 4.5 验证结果
- 五 哨兵模式
- 5.1 哨兵模式的原理
- 5.2 哨兵模式的作用
- 5.3哨兵模式的结构
- 5.4 哨兵模式搭建
- 5.5 修改 Redis 配置文件(所有节点操作)
- 5.6 启动哨兵模式
- 5.7 验证结果
- 六 redis群集
- 6.1 群集的作用
- 6.2 集群的数据分片
- 6.3实验准备
- 6.4 群集部署-reids编译准备
- 6.5 虚拟机创建文件夹
- 6.6 启动多实例并查看服务
- 6.7 启动redis群集
- 6.8 验证群集结果
一 Redis的主从复制
主从复制,是指将一台Redis服务器的数据,复制到其他的Redis服务器。前者称为主节点(Master),后者称为从节点(Slave);数据的复制是单向的,只能由主节点到从节点。
默认情况下,每台Redis服务器都是主节点;且一个主节点可以有多个从节点(或没有从节点),但一个从节点只能有一个主节点。
二 主从复制的作用
数据冗余:主从复制实现了数据的热备份,是持久化之外的一种数据冗余方式。
故障恢复:当主节点出现问题时,可以由从节点提供服务,实现快速的故障恢复;实际上是一种服务的冗余。
负载均衡:在主从复制的基础上,配合读写分离,可以由主节点提供写服务,由从节点提供读服务(即写Redis数据时应用连接主节点,读Redis数据时应用连接从节点),分担服务器负载;尤其是在写少读多的场景下,通过多个从节点分担读负载,可以大大提高Redis服务器的并发量。
高可用基石:除了上述作用以外,主从复制还是哨兵和集群能够实施的基础,因此说主从复制是Redis高可用的基础。
三 主从复制的流程
【1】若启动一个Slave机器进程,则它会向Master机器发送一个“sync command”命令,请求同步连接。
【2】无论是第一次连接还是重新连接,Master机器都会启动一个后台进程,将数据快照保存到数据文件中(执行rdb操作),同时Master还会记录修改数据的所有命令并缓存在数据文件中。
【3】后台进程完成缓存操作之后,Maste机器就会向Slave机器发送数据文件,Slave端机器将数据文件保存到硬盘上,然后将其加载到内存中,接着Master机器就会将修改数据的所有操作一并发送给Slave端机器。若Slave出现故障导致宕机,则恢复正常后会自动重新连接。
【4】Master机器收到Slave端机器的连接后,将其完整的数据文件发送给Slave端机器,如果Mater同时收到多个Slave发来的同步请求,则Master会在后台启动一个进程以保存数据文件,然后将其发送给所有的Slave端机器,确保所有的Slave端机器都正常。
四 主从复制实验
4.1 环境部署
主redis 192.168.163.100
从redis 192.168.163.110
从redis 192.168.163.120
4.2 安装Redis(主从服务器)
systemctl stop firewalld
setenforce 0
yum install -y gcc gcc-c++ make
tar zxvf redis-5.0.7.tar.gz -C /opt/
cd /opt/redis-5.0.7/
make
make PREFIX=/usr/local/redis install
cd /opt/redis-5.0.7/utils
./install_server.sh
#回车四次,下一步需要手动输入
Please select the redis executable path [] /usr/local/redis/bin/redis-server
ln -s /usr/local/redis/bin/* /usr/local/bin/
`开启xhsell 发送键盘输入所有会话功能 几台服务器同时执行相同的命令`
4.3 修改Master节点Redis配置文件 (192.168.163.100)
vim /etc/redis/6379.conf
bind 0.0.0.0 #70行,修改bind 项,0.0.0.0监听所有网段
daemonize yes #137行,开启守护进程
logfile /var/log/redis_6379.log #172行,指定日志文件目录
dir /var/lib/redis/6379 #264行,指定工作目录
appendonly yes #700行,开启AOF持久化功能
/etc/init.d/redis_6379 restart
4.4 修改Slave节点Redis配置文件 (192.168.163.110 192.168.163.120)
vim /etc/redis/6379.conf
bind 0.0.0.0 #70行,修改bind 项,0.0.0.0监听所有网卡
daemonize yes #137行,开启守护进程
logfile /var/log/redis_6379.log #172行,指定日志文件目录
dir /var/lib/redis/6379 #264行,指定工作目录
replicaof 192.168.163.100 6379 #288行,指定要同步的Master节点IP和端口
appendonly yes #700行,开启AOF持久化功能
/etc/init.d/redis_6379 restart
4.5 验证结果
[root@localhost utils]# tail -f /var/log/redis_6379.log
79946:M 30 Mar 2023 14:23:49.402 * Background saving terminated with success
79946:M 30 Mar 2023 14:23:49.402 * Synchronization with replica 192.168.163.120:6379 succeeded
79946:M 30 Mar 2023 14:23:49.572 * Replica 192.168.163.110:6379 asks for synchronization
79946:M 30 Mar 2023 14:23:49.573 * Full resync requested by replica 192.168.163.110:6379
79946:M 30 Mar 2023 14:23:49.573 * Starting BGSAVE for SYNC with target: disk
79946:M 30 Mar 2023 14:23:49.573 * Background saving started by pid 79951
79951:C 30 Mar 2023 14:23:49.574 * DB saved on disk
79951:C 30 Mar 2023 14:23:49.575 * RDB: 4 MB of memory used by copy-on-write
79946:M 30 Mar 2023 14:23:49.607 * Background saving terminated with success
79946:M 30 Mar 2023 14:23:49.607 * Synchronization with replica 192.168.163.110:6379 succeeded
五 哨兵模式
哨兵的核心功能:在主从复制的基础上,哨兵引入了主节点的自动故障转移
5.1 哨兵模式的原理
哨兵(sentinel):是一个分布式系统,用于对主从结构中的每台服务器进行监控,当出现故障时通过投票机制选择新的 Master 并将所有 Slave 连接到新的 Master。所以整个运行哨兵的集群的数量不得少于3个节点。
5.2 哨兵模式的作用
监控:哨兵会不断地检查主节点和从节点是否运作正常。
自动故障转移:当主节点不能正常工作时,哨兵会开始自动故障转移操作,它会将失效主节点的其中一个从节点升级为新的主节点,并让其他从节点改为复制新的主节点。
通知(提醒):哨兵可以将故障转移的结果发送给客户端。
5.3哨兵模式的结构
哨兵结构由两部分组成,哨兵节点
和数据节点
:
哨兵节点:哨兵系统由一个或多个哨兵节点组成,哨兵节点是特殊的redis节点,不存储数据。
数据节点:主节点和从节点都是数据节点。
5.4 哨兵模式搭建
在上面主从复制的基础上搭建哨兵
5.5 修改 Redis 配置文件(所有节点操作)
systemctl stop firewalld
setenforce 0
vim /opt/redis-5.0.7/sentinel.conf(哨兵配置文件)
protected-mode no #17行,关闭保护模式
port 26379 #21行,Redis哨兵默认的监听端口
daemonize yes #26行,指定sentinel为后台启动
logfile "/var/log/sentinel.log" #36行,指定日志存放路径
dir "/var/lib/redis/6379" #65行,指定数据库存放路径
sentinel monitor mymaster 192.168.163.100 6379 2 #84行,修改 指定该哨兵节点监控192.168.163.100:6379这个主节点,该主节点的名称是mymaster,最后的2的含义与主节点的故障判定有关:至少需要2个哨兵节点同意,才能判定主节点故障并进行故障转移
sentinel down-after-milliseconds mymaster 3000 #113行,判定服务器down掉的时间周期,默认30000毫秒(30秒)
sentinel failover-timeout mymaster 180000 #146行,故障节点的最大超时时间为180000(180秒)
5.6 启动哨兵模式
先启master,再启slave
cd /opt/redis-5.0.7/
redis-sentinel sentinel.conf &
注意!先启动主服务器,再启动从服务器
监控主服务器哨兵日志:tail -f /var/log/sentinel.log
redis-cli -p 26379 INFO Sentinel
5.7 验证结果
查看redis-server进程号
杀死 Master 节点上redis-server的进程号
kill -9 79946
#Master节点上redis-server的进程号
然后在原来的从上查看
redis-cli -p 26379 INFO Sentinel
六 redis群集
集群,即Redis Cluster,是Redis 3.0开始引入的分布式存储方案。
集群由多个节点(Node)组成,Redis的数据分布在这些节点中。集群中的节点分为主节点和从节点:只有主节点负责读写请求和集群信息的维护;从节点只进行主节点数据和状态信息的复制。
6.1 群集的作用
(1)数据分区:数据分区(或称数据分片)是集群最核心的功能。
集群将数据分散到多个节点,一方面突破了Redis单机内存大小的限制,存储容量大大增加;另一方面每个主节点都可以对外提供读服务和写服务,大大提高了集群的响应能力。
Redis单机内存大小受限问题,在介绍持久化和主从复制时都有提及;例如,如果单机内存太大,bgsave和bgrewriteaof的fork操作可能导致主进程阻塞,主从环境下主机切换时可能导致从节点长时间无法提供服务,全量复制阶段主节点的复制缓冲区可能溢出。
(2)高可用:集群支持主从复制和主节点的自动故障转移(与哨兵类似);当任一节点发生故障时,集群仍然可以对外提供服务。
6.2 集群的数据分片
Redis集群引入了哈希槽的概念
Redis集群有16384个哈希槽(编号0-16383)
集群的每个节点负责一部分哈希槽
每个Key通过CRC16校验后对16384取余来决定放置哪个哈希槽,通过这个值,去找到对应的插槽所对应的节点,然后直接自动跳转到这个对应的节点上进行存取操作
#以3个节点组成的集群为例:
节点A包含0到5460号哈希槽
节点B包含5461到10922号哈希槽
节点C包含10923到16383号哈希槽
#Redis集群的主从复制模型
集群中具有A、B、C三个节点,如果节点B失败了,整个集群就会因缺少5461-10922这个范围的槽而不可以用。
为每个节点添加一个从节点A1、B1、C1整个集群便有三个Master节点和三个slave节点组成,在节点B失败后,集群选举B1位为的主节点继续服务。当B和B1都失败后,集群将不可用
6.3实验准备
集群部署 换IP地址了
Master 192.168.10.10 6001 slave 192.168.10.10 6002
Master 192.168.10.20 6001 slave 192.168.10.20 6002
Master 192.168.10.30 6001 slave 192.168.10.30 6002
三台虚拟机全部关闭防火墙和selinux,并且下载安装redis包,解压,编译安装。
6.4 群集部署-reids编译准备
三台机器执行:
systemctl stop firewalld #关闭防火墙
setenforce 0 #关闭selinux
yum install gcc gcc-c++ make -y #安装编译工具
#将安装包传输到每台机器的/opt目录下,安装包本人资源中心中redis-5.0.7.tar.gz可自行下载
tar zxvf redis-5.0.7.tar.gz #将安装包解压在当前目录
cd redis-5.0.7 #进入解压后的文件夹中
make #编译为二进制语言
make install prefix=/url/local/redis #写入磁盘指定位置/url/local/redis
6.5 虚拟机创建文件夹
三台机器执行:
cd /etc #进入/etc目录
mkdir reids #创建 redis目录
cd redis #进入redis目录
mkdir -p redis-cluster/redis6001 #创建实例1文件夹
mkdir -p redis-cluster/redis6002 #创建实例2文件夹
cp /opt/redis-5.0.7/redis.conf /etc/redis/redis-cluster/redis6001 #实例1拷贝主配置文件
cp /opt/redis-5.0.7/src/redis-cli /opt/redis-5.0.7/src/redis-server /etc/redis/redis-cluster/redis6001 #实例1拷贝客户端、服务端工具
cp /opt/redis-5.0.7/redis.conf /etc/redis/redis-cluster/redis6002 #实例2拷贝主配置文件
cp /opt/redis-5.0.7/src/redis-cli /opt/redis-5.0.7/src/redis-server /etc/redis/redis-cluster/redis6002 #实例2拷贝客户端、服务端工具
cd /etc/redis/redis-cluster/redis6001 #进入实例1进行配置文件修改
vim redis.conf #编辑实例1的配置文件
bind 0.0.0.0 #69行,监听所有地址
protected-mode no #88行,修改,关闭保护模式
port 6001 #92行,修改,redis监听端口(同一台机器的2个实例端口号不能相同)
daemonize yes #136行,开启守护进程,以独立进程启动
logfile /var/log/redis_6001.log #172行,指定日志文件目录
cluster-enabled yes #832行,取消注释,开启群集功能
cluster-config-file nodes-6001.conf #840行,取消注释,群集名称文件设置为实例端口.conf
cluster-node-timeout 15000 #846行,取消注释群集超时时间设置
appendonly yes #700行,修改,开启AOF持久化
#修改完成实例1后修改实例2,除端口号改为6002 日志文件目录改为6002.conf 群集名称文件改为nodes-6001.conf 其余与实例1一样即可。
6.6 启动多实例并查看服务
三台机器执行:
cd /etc/redis/redis-cluster/redis6001 #进入对应实例1目录
redis-server redis.conf #执行启动redis实例1
cd /etc/redis/redis-cluster/redis6002 #进入对应实例2目录
redis-server redis.conf #执行启动redis实例2
ps -elf |grep redis #查看是否为2个redis进程在运行
6.7 启动redis群集
随便一台执行
redis-cli --cluster create 192.168.10.10:6004 192.168.10.20:6001 192.168.10.30:6001 192.168.10.10:6002 192.168.10.20:6002 192.168.10.30:6002 --cluster-replicas 1
#前面三个ip+端口是master服务器,后面三个是slave服务器 --cluster-replicas 1 是指每个主节点有一个从节点
注意 我的10的6001改成了6004 其他没什么变化
6.8 验证群集结果
登录一台reids实例查看主从对应关系及哈希槽位范围
redis-cli -p 6001 #登录其中一台主redis
cluster slots #查看主从对应关系及哈希槽位范围