redis持久化之RDBAOF压缩

前引

        1、redis持久化的文件是什么

                dump.rdb appendonly.aof

        2、这两中文件有什么异同

                save 秒 1

                alaways everysec no

        3、文件存放的位置

                dir ./

        4、默认的存放位置:命令启动的地方

                dir 自定义的路径

                rdb 和aof 文件 存放在同一个路径下面

        5、rdb文件默认备份的策略是什么,如何修改这个策略

                        save 600 1

        6、备份的原理是什么

                Redis备份的原理是通过将Redis数据库中的数据持久化到磁盘上,从而实现数据的备份和恢复。

        7、aof持久化的流程

        AOF持久化的流程主要包括以下几个步骤:

  1. 在Redis服务器启动时,会根据配置的持久化策略,打开或者创建一个AOF文件,用于记录所有修改数据库的指令。

  2. 当客户端对数据库进行增删改操作时,Redis会将这些操作转换成相应的指令,并追加到AOF文件的末尾。

  3. Redis在执行完每条写命令后,会调用fsync()函数,强制将AOF缓冲区的内容写入到磁盘上。这样会导致性能稍微有些下降,但可以更好地保证数据不丢失。

  4. 当AOF文件变得太大时,Redis会自动触发AOF重写(AOF Rewrite)操作。AOF重写是指将AOF文件中的历史指令重新生成一份新的AOF文件,并且只保留产生快照后的数据,从而避免了AOF文件的膨胀和无效指令的累积。

  5. 在Redis关闭时,也会调用fsync()函数,将最后一次操作的指令保存到AOF文件中。

        通过AOF持久化方式,Redis可以在重启后,通过执行AOF文件中的指令,恢复出先前的数据库状态。虽然相比RDB持久化方式,AOF持久化的文件较大,但是它可以保证更高的数据完整性和可靠性,并且可以提供更好的读写性能。

主从复制的原理

一 Redis持久化之RDB

                Redis 提供了2个不同形式的持久化方式。

                RDB(Redis DataBase)

                AOF(Append Of File)

        1.RDB是什么

                在指定的时间间隔内将内存中的数据集快照写入磁盘, 也就是行话讲的Snapshot快照,它恢复时是将快照文件直接读到内存里

        2. 备份是如何执行的

                Redis会单独创建(fork)一个子进程来进行持久化,会先将数据写入到 一个临时文件中,待持久化过程都结束了,再用这个临时文件替换上次持久化好的文件。 整个过程中,主进程是不进行任何IO操作的,这就确保了极高的性能 如果需要进行大规模数据的恢复,且对于数据恢复的完整性不是非常敏感,那RDB方式要比AOF方式更加的高效。RDB的缺点是最后一次持久化后的数据可能丢失

        3.Fork

                Fork的作用是复制一个与当前进程一样的进程。新进程的所有数据(变量、环境变量、程序计数器等) 数值都和原进程一致,但是是一个全新的进程,并作为原进程的子进程

                在Linux程序中,fork()会产生一个和父进程完全相同的子进程,但子进程在此后多会exec系统调用,出于效率考虑,Linux中引入了“写时复制技术

                一般情况父进程和子进程会共用同一段物理内存,只有进程空间的各段的内容要发生变化时,才会将父进程的内容复制一份给子进程。

        4. RDB持久化流程

        5. dump.rdb文件

                在redis.conf中配置文件名称,默认为dump.rdb

                文件在哪里启动这个文件就在哪里

        6. 配置位置

                rdb文件的保存路径,也可以修改。默认为Redis启动时命令行所在的目录下

                redis.conf:

                dir "/myredis/"

        7. 如何触发RDB快照;保持策略

                7.1 配置文件中默认的快照配置时间间隔

                7.2 命令save bgsave

                save :save时只管保存,其它不管,全部阻塞。手动保存。不建议。

                bgsave:Redis会在后台异步进行快照操作,快照同时还可以响应客户端请求。

                可以通过lastsave 命令获取最后一次成功执行快照的时间

                7.3 flushall命令

                执行flushall命令,也会产生dump.rdb文件,但里面是空的,无意义

                7.4 SNAPSHOTTING快照

                7.5. Save

                        格式:save 秒 写操作次数

                        RDB是整个内存的压缩过的Snapshot,RDB的数据结构,可以配置复合的快照触发条件,

                        默认是1分钟内改了1万次,或5分钟内改了10次,或15分钟内改了1次。

                禁用

                        不设置save指令,或者给save传入空字符串

                        7.6. stop-writes-on-bgsave-error

                        当Redis无法写入磁盘的话(磁盘已满),直接关掉Redis的写操作。推荐yes.

                        7.7 rdbcompression 压缩文件

                        对于存储到磁盘中的快照,可以设置是否进行压缩存储。如果是的话,redis会进行压缩。

如果你不想消耗CPU来进行压缩的话,可以设置为关闭此功能。推荐yes.

                        7.8. rdbchecksum 检查数据的完整性

                        在存储快照后,还可以让redis来进行数据校验,如果数据已经损坏就不需要再进行持久化的操作,这样做会增加大约10%的性能消耗,如果希望获取到最大的性能提升,可以关闭此功能

推荐yes.

                        7.9. rdb的备份

                                先查询rdb文件的目录

                                将*.rdb的文件拷贝到别的地方

                                rdb的恢复

                                关闭Redis

                                先把备份的文件拷贝到工作目录下 cp dump2.rdb dump.rdb

                                启动Redis, 备份数据会直接加载

                        7.10. 优势

                                适合大规模的数据恢复

                                对数据完整性和一致性要求不高更适合使用

                                节省磁盘空间

                                恢复速度快

                        7.11 劣势

                                Fork的时候,内存中的数据被克隆了一份,大致2倍的膨胀性需要考虑

                                虽然Redis在fork时使用了写时拷贝技术,但是如果数据庞大时还是比较消耗性能。

                                在备份周期在一定间隔时间做一次备份,所以如果Redis意外down掉的话,就会丢失最后一次快照后的所有修改。

二 Redis持久化之AOF

        2.1. AOF(Append Only File)

                2.1.1. 是什么

                        以日志的形式来记录每个写操作(增量保存),将Redis执行过的所有写指令记录下来(读操作不记录), 只许追加文件但不可以改写文件,redis启动之初会读取该文件重新构建数据,换言之,redis 重启的话就根据日志文件的内容将写指令从前到后执行一次以完成数据的恢复工作

                2.1.2. AOF持久化流程

                        (1)客户端的请求写命令会被append追加到AOF缓冲区内;

                        (2)AOF缓冲区根据AOF持久化策略[always,everysec,no]将操作sync同步到磁盘的AOF文件中;

                        (3)AOF文件大小超过重写策略或手动重写时,会对AOF文件rewrite重写,压缩AOF文件容量;

                        (4)Redis服务重启时,会重新load加载AOF文件中的写操作达到数据恢复的目的;

                2.1.3. AOF默认不开启

                        可以在redis.conf中配置文件名称,默认为 appendonly.aof

                        AOF文件的保存路径,同RDB的路径一致。

                2.1.4. AOF和RDB同时开启,redis听谁的?

                        AOF和RDB同时开启,系统默认取AOF的数据(数据不会存在丢失)

                2.1.5. AOF启动/修复/恢复

                        AOF的备份机制和性能虽然和RDB不同, 但是备份和恢复的操作同RDB一样,都是拷贝备份文件,需要恢复时再拷贝到Redis工作目录下,启动系统即加载。

                正常恢复

                        修改默认的appendonly no,改为yes

                        将有数据的aof文件复制一份保存到对应目录

                        恢复:重启redis然后重新加载

                异常恢复

                        修改默认的appendonly no,改为yes

                        如遇到AOF文件损坏,通过

                                /usr/redis/bin/redis-check-aof --fix 文件的位置/appendonly.aof进行恢复

                备份被写坏的AOF文件

                恢复:重启redis,然后重新加载

                2.1.6. AOF同步频率设置

                        appendfsync always

                        始终同步,每次Redis的写入都会立刻记入日志;性能较差但数据完整性比较好

                        appendfsync everysec

                        每秒同步,每秒记入日志一次,如果宕机,本秒的数据可能丢失。

                        appendfsync no

                        redis不主动进行同步,把同步时机交给操作系统。

                2.1.7. Rewrite压缩

                        1是什么:

                                AOF采用文件追加方式,文件会越来越大为避免出现此种情况,新增了重写机制, 当AOF文件的大小超过所设定的阈值时,Redis就会启动AOF文件的内容压缩, 只保留可以恢复数据的最小指令集.可以使用命令bgrewriteaof

                        2重写原理,如何实现重写

                                AOF文件持续增长而过大时,会fork出一条新进程来将文件重写(也是先写临时文件最后再rename),redis4.0版本后的重写,是指上就是把rdb 的快照,以二级制的形式附在新的aof头部,作为已有的历史数据,替换掉原来的流水账操作。

                        no-appendfsync-on-rewrite:

                        如果 no-appendfsync-on-rewrite=yes ,不写入aof文件只写入缓存,用户请求不会阻塞,但是在这段时间如果宕机会丢失这段时间的缓存数据。(降低数据安全性,提高性能)

                        如果 no-appendfsync-on-rewrite=no, 还是会把数据往磁盘里刷,但是遇到重写操作,可能会发生阻塞。(数据安全,但是性能降低)

                        触发机制,何时重写

Redis会记录上次重写时的AOF大小,默认配置是当AOF文件大小是上次rewrite后大小的一倍且文件大于64M时触发

重写虽然可以节约大量磁盘空间,减少恢复时间。但是每次重写还是有一定的负担的,因此设定Redis要满足一定条件才会进行重写。

auto-aof-rewrite-percentage:设置重写的基准值,文件达到100%时开始重写(文件是原来重写后文件的2倍时触发)

->40m 80

auto-aof-rewrite-min-size:设置重写的基准值,最小文件64MB。达到这个值开始重写。

例如:文件达到70MB开始重写,降到50MB,下次什么时候开始重写?100MB

系统载入时或者上次重写完毕时,Redis会记录此时AOF大小,设为base_size,

如果Redis的AOF当前大小>= base_size +base_size*100% (默认)且当前大小>=64mb(默认)的情况下,Redis会对AOF进行重写。

                        3、重写流程(背)

                        (1)bgrewriteaof触发重写,判断是否当前有bgsave或bgrewriteaof在运行,如果有,则等待该命令结束后再继续执行。

                        (2)主进程fork出子进程执行重写操作,保证主进程不会阻塞。

                        (3)子进程遍历redis内存中数据到临时文件,客户端的写请求同时写入aof_buf缓冲区和aof_rewrite_buf重写缓冲区保证原AOF文件完整以及新AOF文件生成期间的新的数据修改动作不会丢失。

                        (4)1).子进程写完新的AOF文件后,向主进程发信号,父进程更新统计信息。2).主进程把aof_rewrite_buf中的数据写入到新的AOF文件。

                        (5)使用新的AOF文件覆盖旧的AOF文件,完成AOF重写。

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处:/a/348054.html

如若内容造成侵权/违法违规/事实不符,请联系我们进行投诉反馈qq邮箱809451989@qq.com,一经查实,立即删除!

相关文章

每日一题——LeetCode1331.数组序号转换

方法一 排序哈希Map 首先用一个数组保存排序完的原数组,然后用一个哈希表保存各元素的序号,最后将原属组的元素替换为序号后返回。 var arrayRankTransform function(arr) {let set new Set(arr)let sortArrArray.from(set).sort((a,b)>a-b)let ma…

自学C语言-6

第6章 选择结构程序设计 顺序结构程序设计最简单,但通常无法解决生活中的选择性问题。选择结构程序设计需要用到一些条件判断语句,可实现的程序功能更加复杂,程序的逻辑性与灵活性也更加强大。 本章致力于使读者掌握使用if语句进行条件判断的…

【docker】解决docker overlay2目录占用大量磁盘空间,导致验证码出不来,报错Can‘t create output stream!

问题: 验证码出现Cant create output stream!报错信息 排查: 所在服务器磁盘使用率已经到达100%,经排查,服务器目录/var/lib/docker/overlay2占用大量磁盘空间, 解决: 使用【docker system prune】命令删…

怎么移除WordPress后台工具栏“新建”菜单?如何添加“新建文章”菜单?

默认情况下,WordPress后台顶部管理工具栏有左侧有一个“新建”菜单,而且还有下拉菜单文章、媒体、链接、页面和用户等,不过我们平时用得最多的就是“新建文章”,虽然可以直接点击“新建”,或点击“新建 – 文章”&…

AI Toolkit软件安装教程(附软件下载地址)

软件简介: 软件【下载地址】获取方式见文末。注:推荐使用,更贴合此安装方法! AI Toolkit是一款卓越的人工智能软件,专为企业和个人提供一体化的解决方案,助力其工作流程高效运转。该软件套件融合了多种顶…

Python脚本之操作Redis Cluster【三】

本文为博主原创,未经授权,严禁转载及使用。 本文链接:https://blog.csdn.net/zyooooxie/article/details/135485606 之前写了2篇 操作redis集群的 https://blog.csdn.net/zyooooxie/article/details/123760358 、 https://blog.csdn.net/zyo…

2021 Google Chrome RCE漏洞分析

一、复现环境: Win10 Google Chrome 86.0.4240.75 二、利用复现: 关闭沙箱安全使用命令进行关闭 ,在正常情况下,浏览器沙箱提供了一个受限制的执行环境,以防止恶意代码对用户系统的损害。关闭沙箱可能会导致浏览器执…

查询排序(1)

Oracle从入门到总裁:https://blog.csdn.net/weixin_67859959/article/details/135209645 前面介绍了在 SQL 限定查询中 WHERE 子句的运行顺序优先于 SELECT 子句,WHERE 子句确定数据行,SELECT 子句确定数据列。 也分别讲述了在 WHERE 子句中常用的运算…

相机拍摄基础

相机拍摄 1.索尼A7M3摄影机挡位 AUTO自动档,光圈快门自动调整。 P档半自动档,只能调整感光度,光圈快门随之变化。 A档,光圈优先,只能调整光圈值,快门随之变化。适合拍摄风景、人像。 S档,快…

SpringBoot整合redisson实现分布式锁

SpringBoot整合redisson实现分布式锁 本文主要通过 SpringBoot 整合 redisson 来实现分布式锁&#xff0c;并结合 demo 测试结果。 1、pom依赖 <?xml version"1.0" encoding"UTF-8"?> <project xmlns"http://maven.apache.org/POM/4.0.0…

【Linux】 开始使用 gcc 吧!!!

Linux 1 认识gcc2 背景知识3 gcc 怎样完成 &#xff1f;3.1 预处理预处理^条件编译 3.2 编译3.3 汇编3.4 链接 4 函数库5 gcc 基本选项Thanks♪(&#xff65;ω&#xff65;)&#xff89;谢谢阅读下一篇文章见&#xff01;&#xff01;&#xff01; 1 认识gcc 我们在windows环…

【LIBS】交叉编译TCPDUMP

目录 1. 安装编译工具2. 设置环境变量3. 编译libpcap3.1 安装依赖3.2 交叉编译 4. 编译TCPDUMP4.1 克隆仓库与生成构建环境4.2 静态链接LIBPCAP4.3 动态链接LIBPCAP4.4 构建与安装 5. 查看交叉编译结果5.1 文件布局 1. 安装编译工具 sudo apt-get install -y autoconf automak…

SaaS系统如何助力企业数字化转型

随着科技的快速发展&#xff0c;数字化转型已经成为企业适应市场变化、提高竞争力的必要手段。在这个过程中&#xff0c;SaaS&#xff08;软件即服务&#xff09;系统以其独特的优势&#xff0c;正在成为越来越多企业的首选。乔拓云SaaS系统作为这一领域的佼佼者&#xff0c;更…

谷歌出品!读懂 QUIC 协议:更快、更高效的通信协议

QUIC结构 QUIC协议模型如下图所示&#xff0c;其放弃了TCP∕IP网络中使用五元组(源IP,源端口,目的IP,目的端口,协议标识符)来唯一标识一条连接的方式,而使用一个全局唯一的随机生成的ID(即Connection ID) 来标识一条连接。 由低向上分层讨论QUIC协议&#xff1a; •UDP层:在U…

1990-2019年城市维度区域创新创业指数面板数据/地级市创新创业指数面板数据

1990-2019年城市维度区域创新创业指数面板数据/地级市创新创业指数面板数据 1、时间&#xff1a;1990-2019年 2、范围&#xff1a;地级市&#xff08;290&#xff09; 3、指标&#xff1a;序号、年份、城市码、城市、总维度&#xff1a;总量指数得分、人均得分、单位面积得分…

应用协议漏洞

应用协议漏洞 一、rsync rsync是Linux下一款数据备份工具&#xff0c;支持通过rsync协议、ssh协议进行远程文件传输。其中rsync协议默认监听873端口 1.未授权访问 打开靶场 判断漏洞是否存在 rsync rsync://目标ip:端口读取文件 rsync rsync://47.99.49.128:873/src/tmp/下…

访问者模式-C#实现

该实例基于WPF实现&#xff0c;直接上代码&#xff0c;下面为三层架构的代码。 一 Model using System; using System.Collections.Generic; using System.Linq; using System.Text; using System.Threading.Tasks;namespace 设计模式练习.Model.访问者模式 {public class Com…

JRT的无源码发布

之前介绍过JRT最大的特点就是业务脚本化。老javaer就会说你业务代码都在发布环境放着&#xff0c;那怎么代码保密&#xff0c;在发布环境别人随便改了启不是不安全&#xff0c;或者一些代码我就是不想让人看源码呢。 其实JRT的业务脚本化只是特性&#xff0c;不是代表就必须要…

如何进行H.265视频播放器EasyPlayer.js的中性化设置?

H5无插件流媒体播放器EasyPlayer属于一款高效、精炼、稳定且免费的流媒体播放器&#xff0c;可支持多种流媒体协议播放&#xff0c;可支持H.264与H.265编码格式&#xff0c;性能稳定、播放流畅&#xff0c;能支持WebSocket-FLV、HTTP-FLV&#xff0c;HLS&#xff08;m3u8&#…

C#用DateAndTime.DateDiff方法和TimeSpan分别计算时间间隔

目录 一、计算时间间隔的方法 1.用DateAndTime.DateDiff方法计算时间间隔 2.使用TimeSpan获取日期时间间隔 二、实例 1.示例一&#xff1a;用DateAndTime.DateDiff方法计算时间间隔 2.示例二&#xff1a;使用TimeSpan获取日期时间间隔 一、计算时间间隔的方法 1.用Date…