Mysql 备份恢复 mysqldump与xtrabackup备份

1.1 备份的原因

备份是数据安全的最后一道防线,对于任何数据丢失的场景,备份虽然不一定能恢复百分之百的数据 (取决于备份周期),但至少能将损失降到最低。衡量备份恢复有两个重要的指标:恢复点目标(RPO) 和恢复时间目标(RTO),前者重点关注能恢复到什么程度,而后者则重点关注恢复需要多长时间。

1.1.1 备份的目的

做灾难恢复:对损坏的数据进行恢复和还原

需求改变:因需求改变而需要把数据还原到改变以前

测试:测试新功能是否可用

1.1.2 备份中需要考虑的问题

可以容忍丢失多长时间的数据;

恢复数据要在多长时间内完;

恢复的时候是否需要持续提供服务;

恢复的对象,是整个库,多个表,还是单个库,单个表。

1.1.3 备份的类型

热备份:

这些动态备份在读取或修改数据的过程中进行,很少中断或者不中断传输或处理数据的功能。使用热备份时,系统仍可供读取和修改数据的操作访问。

冷备份:

这些备份在用户不能访问数据时进行,因此无法读取或修改数据。这些脱机备份会阻止执行任何使用数据的活动。这些类型的备份不会干扰正常运行的系统的性能。但是,对于某些应用程序,会无法接受必须在一段较长的时间里锁定或完全阻止用户访问数据。

温备份:

这些备份在读取数据时进行,但在多数情况下,在进行备份时不能修改数据本身。这种中途备份类型的优点是不必完全锁定最终用户。但是,其不足之处在于无法在进行备份时修改数据集,这可能使这种类型的备份不适用于某些应用程序。在备份过程中无法修改数据可能产生性能问题。

1.2 备份的方式

1.2.1 冷备份

最简单的备份方式就是,关闭 MySQL 服务器,然后将 data 目录下面的所有文件进行拷贝保存,需要恢复时,则将目录拷贝到需要恢复的机器即可。这种方式确实方便,但是在生产环境中基本没什么作用。因为所有的机器都是要提供服务的,即使是 Slave 有时候也需要提供只读服务,所以关闭 MySQL 停服备份是不现实的。与冷备份相对应的一个概念是热备份,所谓热备份是在不影响 MySQL 对外服务的情况下,进行备份。

     冷备份及停止业务进行备份。

1.2.2 快照备份

首先要介绍的热备份是快照备份,快照备份是指通过文件系统支持的快照功能对数据库进行备份。备份的原理是将所有的数据库文件放在同一分区中,然后对该分区执行快照工作,对于 Linux 而言,需要通过 LVM(Logical Volumn Manager)来实现。LVM 使用写时复制 (copy-on-write) 技术来创建快照,例如,对整个卷的某个瞬间的逻辑副本,类似于数据库中的 innodb 存储引擎的 MVCC,只不过 LVM 的快照在文件系统层面,而 MVCC 在数据库层面,而且仅支持 innodb 存储引擎。

LVM 有一个快照预留区域,如果原始卷数据有变化时,LVM 保证在任何变更写入之前,会复制受影响块到快照预留区域。简单来说,快照区域内保留了快照点开始时的一致的所有 old 数据。对于更新很少的数据库,快照也会非常小。

对于 MySQL 而言,为了使用快照备份,需要将数据文件,日志文件都放在一个逻辑卷中,然后对该卷快照备份即可。由于快照备份,只能本地,因此,如果本地的磁盘损坏,则快照也就损坏了。快照备份更偏向于对误操作防范,可以将数据库迅速恢复到快照产生的时间点,然后结合二进制日志可以恢复到指定的时间点。基本原理如下图:

1.2.3 逻辑备份(文本表示:SQL 语句)

冷备份和快照备份由于其弊端在生产环境中很少使用,使用更多是 MySQL 自带的逻辑备份和物理备份工具,这节主要讲逻辑备份,MySQL 官方提供了 Mysqldump 逻辑备份工具,虽然已经足够好,但存在单线程备份慢的问题。在社区提供了更优秀的逻辑备份工具 mydumper,它的优势主要体现在多线程备份,备份速度更快。

1.2.4 其他常用的备份方式

物理备份(数据文件的二进制副本)

全量备份概念

全量数据就是数据库中所有的数据(或某一个库的全部数据);

全量备份就是把数据库中所有的数据进行备份。

mysqldump 会取得一个时刻的一致性数据.

增量备份(刷新二进制日志)

增量数据就是指上一次全量备份数据之后到下一次全备之前数据库所更新的数据

对于 mysqldump,binlog 就是增量数据.

1.2.5 备份工具的介绍

1、mysqldump: mysql 原生自带很好用的逻辑备份工具

2、mysqlbinlog: 实现 binlog 备份的原生态命令

3、xtrabackup: precona 公司开发的性能很高的物理备份工具

1.3 mysqldump 备份介绍

备份的基本流程如下

1.调用FTWRL(flush tables with read lock),全局禁止读写
2.开启快照读,获取此时的快照(仅对innodb表起作用)
3.备份非innodb表数据(*.frm,*.myi,*.myd等)
4.非innodb表备份完毕后,释放FTWRL锁
5.逐一备份innodb表数据
6.备份完成。

整个过程,可以参考一张图,但他的这张图只考虑 innodb 表的备份情况,实际上在 unlock tables 执行完毕之前,非 innodb 表已经备份完毕,后面的 t1,t2 和 t3 实质都是 innodb 表,而且 5.6 的 mysqldump 利用保存点机制,每备份完一个表就将一个表上的 MDL 锁释放,避免对一张表锁更长的时间。

1.3.1 mysqldump 备份流程

1.3.2 常用的备份参数

mysqldump -A -R --triggers --master-data=2 |gzip   >/opt/all_$(date +%F).sql.gz

1.3.3 -A 参数

备份全库,备份语句

mysqldump -uroot -p123 -A  > /backup/full.sql

1.3.4 -B 参数

备某一个数据库下的所有表

增加建库(create)及 “use 库” 的语句,可以直接接多个库名,同时备份多个库 * -B 库 1 库 2

mysqldump -uroot -p123 -B world  > /backup/worldb.sql

备份语句:

create database if not 存在
    use db1
    drop table
    create table
    insert into

不加 - B 备份数据库时,只是备份数据库下的所有表,不会创建数据库

     只能备份单独的数据库(一般用于备份单表时使用)
mysqldump -uroot -p123 world  > /backup/world.sql
     备份单表
mysqldump -uroot -p123 world  city  > /backup/world_city.sql
     对于单表备份的粒度,再恢复数据库数据时速度最快。

     备份多个表
mysqldump 库1 表1 表2 表3 >库1.sql
mysqldump 库2 表1 表2 表3 >库2.sql

分库备份: for 循环

mysqldump -uroot -p'mysql123' -B mysql ...
mysqldump -uroot -p'mysql123' -B mysql_utf8 ...
mysqldump -uroot -p'mysql123' -B mysql ...
......

分库备份

for name in `mysql -e "show databases;"|sed 1d`
do
 mysqldump -uroot -p'mysql123' -B $name
done

1.3.5 --master-data={1|2} 参数

告诉你备份后时刻的 binlog 位置

2 为注释 1 为非注释,要执行的 (主从复制)

[root@db02 logs]# sed -n '22p' /opt/t.sql
CHANGE MASTER TO MASTER_LOG_FILE='clsn-bin.000005', MASTER_LOG_POS=344;
[root@db02 logs]# mysqldump -B --master-data=2 clsn >/opt/t.sql

1.3.6 --single-transaction 参数

对 innodb 引擎进行热备

     只支持 innodb 引擎

     使用该参数会单独开启一个事务进行备份,利用事务的快照技术实现。

基于事务引擎: 不用锁表就可以获得一致性的备份.

体现了 ACID 四大特性中的隔离性,生产中 99% 使用 innodb 事务引擎.

     虽然支持热备,并不意味着你可以再任意时间点进行备份,特别是业务繁忙期,不要做备份策略,一般夜里进行备份。

innodb 引擎的备份命令如下:

mysqldump -A -B -R --triggers --master-data=2 --single-transaction |gzip >/opt/all.sql.gz

1.3.7 --flush-logs 参数 /-F

刷新 binlog 日志

每天晚上 0 点备份数据库

mysqldump -A -B -F >/opt/$(date +%F).sql
[root@db02 ~]# ll /application/mysql/logs/
-rw-rw---- 1 mysql mysql 168 Jun 21 12:06 clsn-bin.000001
-rw-rw---- 1 mysql mysql 168 Jun 21 12:06 clsn-bin.000002
-rw-rw---- 1 mysql mysql 210 Jun 21 12:07 clsn-bin.index
     提示: 每个库都会刷新一次.        

1.3.8 压缩备份

压缩备份命令:

mysqldump -B --master-data=2 clsn|gzip >/opt/t.sql.gz

解压:

zcat t.sql.gz >t1.sql
gzip -d t.sql.gz #删压缩包
gunzip alL_2017-12-22.sql.gz

一个完整的备份语句

     innodb 引擎的备份命令如下:
mysqldump -A -R --triggers --master-data=2 --single-transaction |gzip >/opt/all.sql.gz
     适合多引擎混合(例如:myisam 与 innodb 混合)的备份命令如下:
mysqldump -A -R --triggers --master-data=2 |gzip   >/opt/alL_$(date +%F).sql.gz

1.3.9 使用 Mysqldump 备份进行恢复实践

备份 innodb 引擎数据库 clsn 并压缩:

mysqldump -B -R --triggers --master-data=2 clsn|gzip >/opt/all_$(date +%F).sql.gz

人为删除 clsn 数据库:

[root@db02 opt]# mysql -e “drop database clsn;”
[root@db02 opt]# mysql -e “show databases;”

恢复数据库:

使用gzip解压 gzip -d xxx.gz
shell> mysql </opt/all_2017-1222.sql
或
mysql> set sql_log_bin=0;
Query OK, 0 rows affected (0.00 sec)
mysql> source /backup/alL_2017-12-22.sql

验证数据:

[root@db02 opt]#  mysql -e “use clsn;select * from test;”

1.4 【模拟】增量恢复企业案例

1.4.1 前提条件:

1. 具备全量备份(mysqldump)。

2. 除全量备份以外,还有全量备份之后产生的的所有 binlog 增量日志。

1.4.2 环境准备

(1) 准备环境:

drop database clsn;
CREATE DATABASE clsn;
USE `clsn`;
CREATE TABLE `test` (
  `id` int(4) NOT NULL AUTO_INCREMENT,
  `name` char(20) NOT NULL,
  PRIMARY KEY (`id`)
) ENGINE=InnoDB AUTO_INCREMENT=7 DEFAULT CHARSET=utf8;
INSERT INTO `test` VALUES (1,'clsn'),(2,'znix'),(3,'inca'),(4,'zuma'),(5,'kaka');

查看创建好的数据

mysql> select * from test;
+----+------+
| id | name |
+----+------+
|  1 | clsn |
|  2 | znix |
|  3 | inca |
|  4 | zuma |
|  5 | kaka |
+----+------+
5 rows in set (0.00 sec)

(2) 模拟环境:

mkdir /data/backup -p
date -s "2017/12/22"

全备份:

mysqldump -B --master-data=2 --single-transaction clsn|gzip>/data/backup/clsn_$(date +%F).sql.gz

模拟增量:

mysql -e "use clsn;insert into test values(6,'haha');"
mysql -e "use clsn;insert into test values(7,'hehe');"
mysql -e "select * from clsn.test;"

(3) 模拟误删数据:

date -s "2017/12/22 11:40"
mysql  -e "drop database clsn;show databases;"

出现问题 10 分钟后, 发现问题, 删除了数据库了.

1.4.3 恢复数据准备

(1) 采用 iptables 防火墙屏蔽所有应用程序的写入。

[root@clsn ~]# iptables -I INPUT -p tcp --dport 3306 ! -s 172.16.1.51 -j DROP 
#<==非172.16.1.51禁止访问数据库3306端口。
     或采用 mysql 配置参数,但是需要重启数据库
--skip-networking
     复制二进制日志文件
cp -a /application/mysql/logs/clsn-bin.* /data/backup/
     截取日志
zcat clsn_2017-12-22.sql.gz >clsn_2017-12-22.sql
sed -n '22p' clsn_2017-12-22.sql
mysqlbinlog -d clsn --start-position=339 clsn-bin.000008 -r bin.sql

需要恢复的日志:

1.clsn_2017-12-22.sql
2.bin.sql
grep -i drop bin.sql 
sed -i '/^drop.*/d' bin.sql

1.4.4 进行数据恢复

恢复数据

[root@db02 backup]# mysql <clsn_2017-12-22.sql
[root@db02 backup]# mysql -e "show databases;"
+--------------------+
| Database           |
+--------------------+
| information_schema |
| mysql              |
| clsn               |
| znix               |
| performance_schema |
+--------------------+

查看数据库

mysql> select * from test;
+----+------+
| id | name |
+----+------+
|  1 | clsn |
|  2 | znix |
|  3 | inca |
|  4 | zuma |
|  5 | kaka |
+----+------+
5 rows in set (0.00 sec)

恢复增量数据:

[root@db02 backup]# mysql clsn <bin.sql
mysql> select * from test;
+----+------+
| id | name |
+----+------+
|  1 | clsn |
|  2 | znix |
|  3 | inca |
|  4 | zuma |
|  5 | kaka |
|  6 | haha |
|  7 | hehe |
+----+------+
7 rows in set (0.00 sec)

恢复完毕。

调整 iptables 允许用户访问.

1.4.5 多个 binlog 问题

mysqlbinlog -d clsn --start-position=339 clsn-bin.000009 clsn-bin.0000010 -r bin1.sql

mysql clsn <bin1.sql

1.5 mysql 数据库实际生产惨案

1.5.1 发生背景

1、mysql 服务器会在每天夜里 0 点全量备份

2、某个开发人员某个阳光明媚的上午,喝着茶,优雅的误删除了 clsn_oss(核心)数据库。

3、导致公司业务异常停止,无法正常提供服务。

1.5.2 怎么解决的

1、当前系统进行评估。

什么损坏了,有没有备份,

恢复数据时间(误操作的数据有关,备份、恢复策略),

恢复业务时间

     2、恢复方案

              (1)恢复 0 点的全备,到测试库

              (2)恢复 0 点开始到故障时间点的 binlog,到测试库

              (3)将误操作的数据导出,恢复到生产库。

              (4)检验数据是不是完整的(开发测试环境测试恢复成功数据库)

              (5)检验完成之后,重新开启生产业务

1.5.3 项目总结

     1、经过我的恢复处理,30 分钟整体业务重新提供服务(速度慢。。。)

     2、在以后的工作中制定严格的开发规范,开发,开发。

     3、将来制定更好的架构方案。

1.6 备份工具的选择

数据量范围:30G --> TB 级别

1.6.1 数据量大,变换量小

    (1)全备分花费的成本较高,mysqldump+binlog 实现全备 + 增量备份,缺点是恢复成本比备份时间成本还高

    (2)xtrabackup:可以较长时间做一次全备,其余时间都是增量,全量备份空间成本很高如果数据量在 30G-->TB 级别的话,更推荐使用 xtrabackup 工具。

1.6.2 数据量小,变化量大

只需要考虑时间成本。

只用全备备份即可,两种工具选择都可以。恢复成本上 xtrabackup 小一些

1.6.3 数据量、变化量都大

时间成本和空间成本都要考虑了。

数据量达到 PB 或更高时(facebook),mysqldump 可能成为首选,占用空间小,但技术成本高。需要对 mysqldump 进行二次开发(大数据量公司首选)。

1.7 xtrabackup 备份软件

percona 公司官网 https://www.percona.com/

1.7.1 Xtrabackup 介绍

Xtrabackup 是由 percona 开源的免费数据库热备份软件,它能对 InnoDB 数据库和 XtraDB 存储引擎的数据库非阻塞地备份(对于 MyISAM 的备份同样需要加表锁);mysqldump 备份方式是采用的逻辑备份,其最大的缺陷是备份和恢复速度较慢,如果数据库大于 50G,mysqldump 备份就不太适合。

Xtrabackup 安装完成后有 4 个可执行文件,其中 2 个比较重要的备份工具是 innobackupex**、xtrabackup**

1)xtrabackup 是专门用来备份InnoDB表的,和mysql server没有交互;
2)innobackupex 是一个封装xtrabackup的Perl脚本,支持同时备份innodb和myisam,但在对myisam备份时需要加一个全局的读锁。
3)xbcrypt 加密解密备份工具
4)xbstream 流传打包传输工具,类似tar
5)物理备份工具,在同级数据量基础上,都要比逻辑备份性能好的多,特别是在数据量较大的时候,体现的更加明显。

1.7.1 Xtrabackup 优点

1)备份速度快,物理备份可靠

2)备份过程不会打断正在执行的事务(无需锁表)

3)能够基于压缩等功能节约磁盘空间和流量

4)自动备份校验

5)还原速度快

6)可以流传将备份传输到另外一台机器上

7)在不增加服务器负载的情况备份数据

8)物理备份工具,在同级数据量基础上,都要比逻辑备份性能要好的多。几十 G 到不超过 TB 级别的条件下。但在同数据量级别,物理备份恢复数据上有一定优势。

1.7.2 备份原理

拷贝数据文件、拷贝数据页

对于 innodb 表可以实现热备。

(1)在数据库还有修改操作的时刻,直接将数据文件备走,此时,备份走的数据对于当前mysql来讲是不一致的。
    (2)将备份过程中的redo和undo一并备走。
    (3)为了恢复的时候,只要保证备份出来的数据页lsn能和redo lsn匹配,将来恢复的就是一致的数据。redo应用和undo应用。

对于 myisam 表实现自动锁表拷贝文件。

备份开始时首先会开启一个后台检测进程,实时检测 mysql redo 的变化,一旦发现有新的日志写入,立刻将日志记入后台日志文件 xtrabackup_log 中,之后复制 innodb 的数据文件一系统表空间文件 ibdatax,复制结束后,将执行 flush tables with readlock, 然后复制. frm MYI MYD 等文件,最后执行 unlock tables, 最终停止 xtrabackup_log

1.7.3 xtrabackup 的安装

安装依赖关系

wget -O /etc/yum.repos.d/epel.repo http://mirrors.aliyun.com/repo/epel-6.repo
yum -y install perl perl-devel libaio libaio-devel perl-Time-HiRes perl-DBD-MySQL
     下载软件包,并安装软件
wget https://www.percona.com/downloads/XtraBackup/Percona-XtraBackup-2.4.4/binary/redhat/6/x86_64/percona-xtrabackup-24-2.4.4-1.el6.x86_64.rpm
yum -y install percona-xtrabackup-24-2.4.4-1.el6.x86_64.rpm

1.8 xtrabackup 实践操作

1.8.1 全量备份与恢复

这一阶段会启动 xtrabackup 内嵌的 innodb 实例,回放 xtrabackup 日志 xtrabackup_log,将提交的事务信息变更应用到 innodb 数据 / 表空间,同时回滚未提交的事务 (这一过程类似 innodb 的实例恢复)。恢复过程如下图:

备份

创建备份目录

mkdir  /backup -p
     进行第一次全量备份
innobackupex --defaults-file=/etc/my.cnf --user=root --password=123 --socket=/application/mysql/tmp/mysql.sock --no-timestamp /backup/xfull

恢复前准备

恢复数据前的准备 (合并 xtabackup_log_file 和备份的物理文件)

innobackupex --apply-log --use-memory=32M /backup/xfull/
     查看合并后的 checkpoints 其中的类型变为 full-prepared 即为可恢复。
[root@db02 full]# cat xtrabackup_checkpoints 
backup_type = full-prepared
from_lsn = 0
to_lsn = 4114824
last_lsn = 4114824
compact = 0
recover_binlog_info = 0

破坏数据库数据文件

[root@db02 full]# cd /application/mysql/data/
[root@db02 data]# ls
auto.cnf  db02.pid  ibdata2      mysql             mysql-bin.index     world
clsn      haha      ib_logfile0  mysql-bin.000001  oldboy
db02.err  ibdata1   ib_logfile1  mysql-bin.000002  performance_schema
[root@db02 data]# \rm -rf ./* 
[root@db02 data]# ls
[root@db02 data]# killall mysql

恢复方法

方法一: 直接将备份文件复制回来

cp -a /backup/full/ /application/mysql/data
chown -R mysql.mysql /application/mysql/data

方法二: 使用 innobackupex 命令进行恢复 **(**推荐)

[root@db02 mysql]# innobackupex --copy-back /backup/xfull
[root@db02 mysql]# chown -R mysql.mysql /application/mysql/
             说明:无论使用那种恢复方法都要恢复后需改属组属主,保持与程序一致。
[root@db02 data]# cd /application/mysql/data/
[root@db02 data]# ls
clsn     ibdata2      ibtmp1  performance_schema            xtrabackup_info
haha     ib_logfile0  mysql   world
ibdata1  ib_logfile1  oldboy  xtrabackup_binlog_pos_innodb
     启动是数据库
[root@db02 data]#  /etc/init.d/mysqld start

1.8.2 增量备份与恢复

innobackupex 增量备份过程中的 “增量” 处理,其实主要是相对 innodb 而言,对 myisam 和其他存储引擎而言,它仍然是全拷贝 (全备份)

“增量” 备份的过程主要是通过拷贝 innodb 中有变更的 “页”(这些变更的数据页指的是 “页” 的 LSN 大于 xtrabackup_checkpoints 中给定的 LSN)。增量备份是基于全备的,第一次增备的数据必须要基于上一次的全备,之后的每次增备都是基于上一次的增备,最终达到一致性的增备。增量备份的过程如下,和全备的过程很类似,区别仅在第 2 步。

增量备份从哪增量?

基于上一次的备份进行增量。

redo 默认情况下是一组两个文件,并且有固定大小。其使用的文件是一种轮询使用方式,他不是永久的,文件随时可能被覆盖。

注意:千万不要在业务繁忙时做备份。

备份什么内容

1、可以使用 binlog 作为增量

2、自带的增量备份,基于上次备份后的变化的数据页,还要备份在备份过程中的 undo、redo 变化

怎么备份

     _1__、先进行第一次全备_
innobackupex  --user=root --password=123 --no-timestamp /bakcup/xfull
     对原库做了修改,修改了小红那行然后 commit。

2_、再进行增量备份_

innobackupex --user=root --password=123  --incremental --no-timestamp --incremental-basedir=/backup/xfull/  /backup/xinc1

怎么恢复

1、先应用全备日志(–apply-log,暂时不需要做回滚操作 --redo-only)

innobackupex --apply-log --redo-only /backup/xfull/     

2、合并增量到全备中(一致性的合并)

innobackupex --apply-log --incremental-dir=/backup/xinc1 /backup/xfull/
innobackupex --apply-log /backup/xfull

3、合并完成进行恢复

方法一: 直接将备份文件复制回来

cp -a /backup/full/ /application/mysql/data
chown -R mysql.mysql /application/mysql/data

方法二: 使用 innobackupex 命令进行恢复 **(**推荐)

[root@db02 mysql]# innobackupex --copy-back /backup/xfull
[root@db02 mysql]# chown -R mysql.mysql /application/mysql/
            说明:无论使用那种恢复方法都要恢复后需改属组属主,保持与程序一致。

1.8.3 数据库备份策略

每周的周日进行一次全备;周一到周六每天做上一天增量,每周轮询一次。

xfull       --apply-log --redo-only   保证last-lsn=周一增量开始lsn
xinc1        合并周一的增量到全备,并apply-log --redo-only  保证last-lsn=周二增量开始lsn
xinc2        合并周二的增量到全备,并apply-log --redo-only  保证last-lsn=周三增量开始lsn
xinc3       合并周三的增量到全备,并apply-log --redo-only  保证last-lsn=周四增量开始lsn
xinc4       合并周四的增量到全备,并apply-log --redo-only  保证last-lsn=周五增量开始lsn
xinc5       合并周五的增量到全备,并apply-log --redo-only  保证last-lsn=周六增量开始lsn
xinc6        合并周六的增量到全备,--apply-log  准备恢复即可

1.8.4 真实生产实战案例分析

**背景:**某物流公司网站核心系统,数据量是 220G,每日更新量 100M-200M

备份方案: xtrabackup 全备 + 增量

备份策略(crontab**)**:

1、周六 晚上 0 点全备

0 0 * * 6 zjs_full.sh — 这行可以没有

2、周一至周五、周日 是增量,基于上一天增量

0 1 * * 0-5 zjs_inc.sh— 这行可以没有

故障场景:

周三的时候,下午两点,开发人员误删除了一张表 zjs_base,大约 10G。

项目职责:

1) 指定恢复方案、利用现有备份;

              2)  恢复误删除数据;

                         3)  制定运维、开发流程规范。

恢复流程:

	a)    准备上周六全备。
    b)    合并周日、周一 、周二增量。
    c)    在测试库恢复以上数据,数据的目前状态应该周三凌晨1:00
    d)    需要恢复的数据状态是,下午2点钟左右
    e)    从1点开始的binlog恢复到删除之前转台
    f)    导出删除的表zjs_base,恢复到生产库,验证数据可用性、完整性。
    g)    启动应用连接数据库。

总结:经过 30 分钟将误删表恢复了。服务总共停止 40 分钟。

1.8.5 故障恢复小结

恢复思路:

              1、首先确保断开所有应用,保证数据的安全。

              2、检查用于恢复的备份存在吗。

              3、设计快速、安全恢复简单方案,制定突发问题解决办法。

具体恢复流程:

1、准备上周六全备,并--apply-log --redo-only
        2、合并增量,周日、周一 、周二  --apply-log --redo-only 周三 --apply-log
        3、在测试库恢复以上数据,数据的目前状态应该周三凌晨1:00
        4、需要恢复的数据状态是,下午2点钟左右,删除zjs_base之前的数据状态
              从1点开始的binlog恢复到删除之前的那个events的position。
        5、导出删除的表zjs_base,恢复到生产库,验证数据可用性、完整性。
        6、启动应用连接数据库。
     **确定恢复所需时间**
恢复窗口要多长?----> 预计3小时
        和你恢复+验证+意外情况有关。
业务停多长时间?----> 6小时?或者更多?更少?

1.8.6 【模拟】生产事故恢复

数据创建阶段

1、创建备份需要的目录

mkdir full  inc1 inc2

2、周日全备

innobackupex --user=root --password=123 --no-timestamp /backup/xbackup/full/

3、模拟数据变化

use oldboy
create table test(id int,name char(20),age int);
insert into test values(8,'outman',99);
insert into test values(9,'outgirl',100);
commit;

4、周一增量备份

innobackupex --user=root --password=123 --incremental --no-timestamp --incremental-basedir=/backup/xbackup/full/ /backup/xbackup/inc1

5、模拟数据变化

use oldboy
insert into test values(8,'outman1',119);
insert into test values(9,'outgirl1',120);
commit;

6、周二的增量备份

innobackupex --user=root --password=123 --incremental --no-timestamp --incremental-basedir=/backup/xbackup/inc1 /backup/xbackup/inc2

7. 再插入新的行操作

use oldboy
insert into test values(10,'outman2',19);
insert into test values(11,'outgirl2',10);
commit;

模拟误操作事故

模拟场景,周二下午 2 点误删除 test 表

use oldboy;
    drop table test;

准备恢复数据

1. 准备 xtrabackup 备份,合并备份

innobackupex --apply-log --redo-only /backup/xbackup/full
innobackupex --apply-log --redo-only --incremental-dir=/backup/xbackup/inc1 /backup/xbackup/full
innobackupex --apply-log  --incremental-dir=/backup/xbackup/inc2 /backup/xbackup/full
innobackupex --apply-log /backup/xbackup/full

2.确认 binlog 起点,准备截取 binlog。

cd /backup/xbackup/inc2/
 cat xtrabackup_binlog_info 
 mysql-bin.000001    1121

3. 截取到 drop 操作之前的 binlog

mysqlbinlog  --start-position=1121 /tmp/mysql-bin.000003 
    找到drop之前的event和postion号做日志截取,假如 1437
    mysqlbinlog  --start-position=1121 --stop-position=1437    /tmp/mysql-bin.000003 >/tmp/incbinlog.sql

4.关闭数据库、备份二进制日志

/etc/init.d/mysqld stop
cd /application/mysql/data/
cp mysql-bin.000001 /tmp
  1. 删除 MySQL 所有数据
cd /application/mysql/data/
rm -rf *

恢复数据

1.将全量备份的数据恢复到数据目录下

innobackupex --copy-back /backup/xbackup/full/
chown -R mysql.mysql /application/mysql/data/
/etc/init.d/mysqld start

2. 恢复 binlog 记录

set sql_log_bin=0
source /tmp/incbinlog.sql

1.8.7 xtarbackup 导出

(1)“导出” 表 导出表是在备份的 prepare 阶段进行的,因此,一旦完全备份完成,就可以在 prepare 过程中通过 --export 选项将某表导出了:

innobackupex --apply-log --export /path/to/backup

此命令会为每个 innodb 表的表空间创建一个以. exp 结尾的文件,这些以. exp 结尾的文件则可以用于导入至其它服务器。

(2)“导入” 表 要在 mysql 服务器上导入来自于其它服务器的某 innodb 表,需要先在当前服务器上创建一个跟原表表结构一致的表,而后才能实现将表导入:

mysql> CREATE TABLE mytable (...)  ENGINE=InnoDB;

然后将此表的表空间删除:

mysql> ALTER TABLE mydatabase.mytable  DISCARD TABLESPACE;

接下来,将来自于 “导出” 表的服务器的 mytable 表的 mytable.ibd 和 mytable.exp 文件复制到当前服务器的数据目录,然后使用如下命令将其“导入”:(记得改权限)

mysql> ALTER TABLE mydatabase.mytable  IMPORT TABLESPACE;

示例:

innobackupex --user=root --password=123 --no-timestamp /backup/xbackup/full/

进入到全备的数据库目录下

[root@db02 haha]# ls
db.opt  PENALTIES.frm  PENALTIES.ibd  PLAYERS.frm  PLAYERS.ibd
[root@db02 haha]# pwd
/backup/xbackup/full/haha
     导出表
[root@db02 haha]# innobackupex --apply-log --export /backup/xbackup/full/  
[root@db02 haha]# ls
db.opt         PENALTIES.exp  PENALTIES.ibd  PLAYERS.exp  PLAYERS.ibd
PENALTIES.cfg  PENALTIES.frm  PLAYERS.cfg    PLAYERS.frm
     创建出同结构表
CREATE TABLE `PLAYERS` (
  `PLAYERNO` int(11) NOT NULL,
  `NAME` char(15) NOT NULL,
  `INITIALS` char(3) NOT NULL,
  `BIRTH_DATE` date DEFAULT NULL,
  `SEX` char(1) NOT NULL,
  `JOINED` smallint(6) NOT NULL,
  `STREET` varchar(30) NOT NULL,
  `HOUSENO` char(4) DEFAULT NULL,
  `POSTCODE` char(6) DEFAULT NULL,
  `TOWN` varchar(30) NOT NULL,
  `PHONENO` char(13) DEFAULT NULL,
  `LEAGUENO` char(4) DEFAULT NULL,
  PRIMARY KEY (`PLAYERNO`)
) ENGINE=InnoDB DEFAULT CHARSET=utf8
     复制恢复数据到库下
[root@db02 haha]# cp  PLAYERS.ibd  PLAYERS.exp  /application/mysql/data/backup/
cp: overwrite `/application/mysql/data/backup/PLAYERS.ibd'? y
     恢复数据
mysql> ALTER TABLE backup.PLAYERS  DISCARD TABLESPACE;
Query OK, 0 rows affected (0.00 sec)

1.8.8 innobackupex 参数说明

参数

参数说明

--compress

该选项表示压缩 innodb 数据文件的备份。

--compress-threads   

该选项表示并行压缩 worker 线程的数量。

--compress-chunk-size

该选项表示每个压缩线程 worker buffer 的大小,单位是字节,默认是 64K。

--encrypt            

该选项表示通过 ENCRYPTION_ALGORITHM 的算法加密 innodb 数据文件的备份,目前支持的算法有 ASE128,AES192,AES256。

--encrypt-threads    

该选项表示并行加密的 worker 线程数量。

--encrypt-chunk-size 

该选项表示每个加密线程 worker buffer 的大小,单位是字节,默认是 64K。

--encrypt-key        

该选项使用合适长度加密 key,因为会记录到命令行,所以不推荐使用。

--encryption-key-file

该选项表示文件必须是一个简单二进制或者文本文件,加密 key 可通过以下命令行命令生成:openssl rand -base64 24。

--include            

该选项表示使用正则表达式匹配表的名字 [db.tb],要求为其指定匹配要备份的表的完整名称,即 databasename.tablename。

--user               

该选项表示备份账号。

--password           

该选项表示备份的密码。

--port               

该选项表示备份数据库的端口。

--host               

该选项表示备份数据库的地址。

--databases

该选项接受的参数为数据名,如果要指定多个数据库,彼此间需要以空格隔开;如:"xtra_test dba_test",同时,在指定某数据库时,也可以只指定其中的某张表。如:"mydatabase.mytable"。该选项对 innodb 引擎表无效,还是会备份所有 innodb 表。此外,此选项也可以接受一个文件为参数,文件中每一行为一个要备份的对象。

--tables-file     

该选项表示指定含有表列表的文件,格式为 database.table,该选项直接传给 --tables-file。

--socket          

该选项表示 mysql.sock 所在位置,以便备份进程登录 mysql。

--no-timestamp    

该选项可以表示不要创建一个时间戳目录来存储备份,指定到自己想要的备份文件夹。

--ibbackup        

该选项指定了使用哪个 xtrabackup 二进制程序。IBBACKUP-BINARY 是运行 percona xtrabackup 的命令。这个选项适用于 xtrbackup 二进制不在你是搜索和工作目录,如果指定了该选项,innoabackupex 自动决定用的二进制程序。

--slave-info      

该选项表示对 slave 进行备份的时候使用,打印出 master 的名字和 binlog pos,同样将这些信息以 change master 的命令写入 xtrabackup_slave_info 文件。可以通过基于这份备份启动一个从库。

--safe-slave-backup

该选项表示为保证一致性复制状态,这个选项停止 SQL 线程并且等到 show status 中的 slave_open_temp_tables 为 0 的时候开始备份,如果没有打开临时表,bakcup 会立刻开始,否则 SQL 线程启动或者关闭知道没有打开的临时表。如果 slave_open_temp_tables 在 --safe-slave-backup-timeount (默认 300 秒)秒之后不为 0,从库 sql 线程会在备份完成的时候重启。

--kill-long-queries-timeout

该选项表示从开始执行 FLUSH TABLES WITH READ LOCK 到 kill 掉阻塞它的这些查询之间等待的秒数。默认值为 0,不会 kill 任何查询,使用这个选项 xtrabackup 需要有 Process 和 super 权限。

--kill-long-query-type    

该选项表示 kill 的类型,默认是 all,可选 select。

--ftwrl-wait-threshold    

该选项表示检测到长查询,单位是秒,表示长查询的阈值。

--ftwrl-wait-query-type   

该选项表示获得全局锁之前允许那种查询完成,默认是 ALL,可选 update。

--galera-info             

该选项表示生成了包含创建备份时候本地节点状态的文件 xtrabackup_galera_info 文件,该选项只适用于备份 PXC。

--stream                  

该选项表示流式备份的格式,backup 完成之后以指定格式到 STDOUT,目前只支持 tar 和 xbstream。

--defaults-file           

该选项指定了从哪个文件读取 MySQL 配置,必须放在命令行第一个选项的位置。

--defaults-extra-file     

该选项指定了在标准 defaults-file 之前从哪个额外的文件读取 MySQL 配置,必须在命令行的第一个选项的位置。一般用于存备份用户的用户名和密码的配置文件。

----defaults-group         

该选项表示从配置文件读取的组,innobakcupex 多个实例部署时使用。

--no-lock

该选项表示关闭 FTWRL 的表锁,只有在所有表都是 Innodb 表并且不关心 backup 的 binlog pos 点,如果有任何 DDL 语句正在执行或者非 InnoDB 正在更新时(包括 mysql 库下的表),都不应该使用这个选项,后果是导致备份数据不一致,如果考虑备份因为获得锁失败,可以考虑 --safe-slave-backup 立刻停止复制线程。

--tmpdir

该选项表示指定 --stream 的时候,指定临时文件存在哪里,在 streaming 和拷贝到远程 server 之前,事务日志首先存在临时文件里。在使用参数 stream=tar 备份的时候,你的 xtrabackup_logfile 可能会临时放在 /tmp 目录下,如果你备份的时候并发写入较大的话 xtrabackup_logfile 可能会很大 (5G+),很可能会撑满你的 /tmp 目录,可以通过参数 --tmpdir 指定目录来解决这个问题。

--history              

该选项表示 percona server 的备份历史记录在 percona_schema.xtrabackup_history 表。

--incremental          

该选项表示创建一个增量备份,需要指定 --incremental-basedir。

--incremental-basedir  

该选项表示接受了一个字符串参数指定含有 full backup 的目录为增量备份的 base 目录,与 --incremental 同时使用。

--incremental-dir      

该选项表示增量备份的目录。

--incremental-force-scan

该选项表示创建一份增量备份时,强制扫描所有增量备份中的数据页。

--incremental-lsn   

该选项表示指定增量备份的 LSN,与 --incremental 选项一起使用。

--incremental-history-name

该选项表示存储在 PERCONA_SCHEMA.xtrabackup_history 基于增量备份的历史记录的名字。Percona Xtrabackup 搜索历史表查找最近(innodb_to_lsn)成功备份并且将 to_lsn 值作为增量备份启动出事 lsn. 与 innobackupex--incremental-history-uuid 互斥。如果没有检测到有效的 lsn,xtrabackup 会返回 error。

--incremental-history-uuid

该选项表示存储在 percona_schema.xtrabackup_history 基于增量备份的特定历史记录的 UUID。

--close-files            

该选项表示关闭不再访问的文件句柄,当 xtrabackup 打开表空间通常并不关闭文件句柄目的是正确的处理 DDL 操作。如果表空间数量巨大,这是一种可以关闭不再访问的文件句柄的方法。使用该选项有风险,会有产生不一致备份的可能。

--compact                

该选项表示创建一份没有辅助索引的紧凑的备份。

--throttle               

该选项表示每秒 IO 操作的次数,只作用于 bakcup 阶段有效。apply-log 和 --copy-back 不生效不要一起用。

1.9 参考文献

https://www.cnblogs.com/cchust/p/5452557.html
http://www.cnblogs.com/gomysql/p/3650645.html  xtrabackup 详解
https://www.percona.com/software/mysql-database/percona-xtrabackup
https://learn.percona.com/hubfs/Manuals/Percona_Xtra_Backup/Percona_XtraBackup_2.4/Percona-XtraBackup-2.4.9.pdf


MySQL mysqldump数据导出详解

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处:/a/654860.html

如若内容造成侵权/违法违规/事实不符,请联系我们进行投诉反馈qq邮箱809451989@qq.com,一经查实,立即删除!

相关文章

【Android14 ShellTransitions】(一)开篇

说来惭愧&#xff0c;AndroidU都已经开发这么久了&#xff0c;但是我还没有整理过ShellTransition相关的知识。我本来希望能够系统的写一篇关于ShellTransition的笔记出来&#xff0c;但是发现一来这是一个比较庞大的模块&#xff0c;二来我个人能力有限&#xff0c;对ShellTra…

Pytorch入门需要达到的效果

会搭建深度学习环境和依赖包安装 使用Anaconda创建环境、在pytorch官网安装pytorch、安装依赖包 会使用常见操作&#xff0c;例如matmul&#xff0c;sigmoid&#xff0c;softmax&#xff0c;relu&#xff0c;linear matmul操作见文章torch.matmul()的用法 sigmoid&#xff0…

greendao实现增删改查

说明&#xff1a;最近碰到一个需求&#xff0c;在安卓上使用greendao框架&#xff0c;实现增删改查数据 效果图&#xff1a; step1: // Top-level build file where you can add configuration options common to all sub-projects/modules. buildscript {repositories {go…

使用nexus搭建的docker私库,定期清理无用的镜像,彻底释放磁盘空间

一、背景 我们使用nexus搭建了docker镜像&#xff0c;随着推送的镜像数量越来越多&#xff0c;导致nexus服务器的磁盘空间不够用了。于是&#xff0c;我们急需先手动删除一些过期的镜像&#xff0c;可发现磁盘空间并没有释放。 那么&#xff0c;如何才能彻底释放掉呢&#xff…

Android - failed to set system property

记录一次疏忽&#xff0c;起因是我需要在自定义的 receiver 中保存 property 方便&#xff0c;方便在三方 app 中使用&#xff0c;结果直接崩溃了&#xff0c;虽然结果保存成功了&#xff0c;但是这种情况也是无法接收的&#xff0c;错误日志如下&#xff1a; M006082 05-25 1…

[数据集][目标检测]航空发动机缺陷检测数据集VOC+YOLO格式291张4类别

数据集格式&#xff1a;Pascal VOC格式YOLO格式(不包含分割路径的txt文件&#xff0c;仅仅包含jpg图片以及对应的VOC格式xml文件和yolo格式txt文件) 图片数量(jpg文件个数)&#xff1a;291 标注数量(xml文件个数)&#xff1a;291 标注数量(txt文件个数)&#xff1a;291 标注类别…

Python 点云处理-点云半径滤波

点云半径滤波 一、介绍二、代码示例三、结果示例其他参考:C++ 中点云半径滤波 一、介绍 点云半径滤波:删除点云一定范围内没有达到足够多领域的所有点云。通俗的讲:就是要求点云P在半径为R内需要有M个领域点,若在点P的R范围内领域点个数大于M个,则保留该点云,领域点个数…

拌合楼系统开发(二十)解决海康DS-TVL224系列屏幕显示二维码思路

前言&#xff1a; 需求是想在通过程序动态控制显示屏显示二维码&#xff0c;最开始有些担心led这种点阵屏会不会对二维码显示出来后无法识别&#xff0c;实际测时候发现是没问题的。对于显示文字和语音播报&#xff0c;csdn上已经有大神有完整的代码。 海康威视道闸进出口LED屏…

java高级——String字符串探索(在jvm底层中如何实现,常量池中怎么查看)

java高级——String字符串探索&#xff08;在jvm底层中如何实现&#xff0c;常量池中怎么查看&#xff09; 文章介绍提前了解的知识点1. 常量池2. Jvm虚拟机3. 字节码 String类详解1. String对象在申明后将不可修改&#xff0c;是不可变类2. String进行相加相减等操作时一定会创…

常见的螺纹防松措施有哪些?——SunTorque智能扭矩系统

智能扭矩系统-智能拧紧系统-扭矩自动控制系统-SunTorque 螺纹连接作为机械工程中常见的连接方式&#xff0c;其稳定性和可靠性对于整个机械系统的正常运行至关重要。然而&#xff0c;由于振动、冲击、温度变化等因素的影响&#xff0c;螺纹连接往往会出现松动现象&#xff0c;…

react中子传父信息

思路是&#xff1a; 在父组件定义一个函数接受参数&#xff0c;接收的参数用于接收子组件的信息&#xff0c;把函数传给子组件&#xff0c;子组件调用父亲传来的函数并把要告诉父亲的话传到函数中&#xff0c;就实现了子传父消息 import { useState } from reactimport { use…

C++学习/复习7--泛型编程/函数模板/类模板

一、泛型编程 1.Swap()函数的模板实现 二、函数模板 1.概念 2.格式 3.实例化 &#xff08;1&#xff09;隐式与显示 注意事项&#xff1a;隐式与显示类型转换会产生临时变量&#xff0c;临时变量有常性&#xff0c;所以形参前加const 三、类模板 1.定义 2.例1 3.例2 4.注意事…

nginx流量监控:goAccess安装与使用

关于goAccess GoAccess 是一款实时、快速的日志分析工具&#xff0c;专门设计用于分析Web服务器日志&#xff0c;特别是Nginx日志。 安装 &#xff08;1&#xff09;准备相关依赖 # Missing development libraries for ncursesw # centOS yum install -y ncurses-devel # U…

qmt量化交易策略小白学习笔记第7期【qmt策略之股票快照指标】

qmt策略之股票快照指标 qmt更加详细的教程方法&#xff0c;会持续慢慢梳理。 也可找寻博主的历史文章&#xff0c;搜索关键词查看解决方案 &#xff01; 感谢关注&#xff0c;需免费开通量化回测与咨询实盘权限&#xff0c;可以和博主联系&#xff01; 股票快照指标 提供标…

python双色球选号程序的实现与解析

新书上架~&#x1f447;全国包邮奥~ python实用小工具开发教程http://pythontoolsteach.com/3 欢迎关注我&#x1f446;&#xff0c;收藏下次不迷路┗|&#xff40;O′|┛ 嗷~~ 目录 一、引言&#xff1a;双色球选号游戏的魅力 二、程序设计与实现 1. 生成红色球号码 2. 生…

OpenHarmony迎来首个互联网技术统一标准,鸿蒙OS生态走向如何?

开源三年半&#xff0c;OpenHarmony(以下简称“开源鸿蒙”)迎来了新进展。在5月25日召开的「OpenHarmony开发者大会」上&#xff0c;鸿蒙官宣了开源鸿蒙设备统一互联技术标准。 一直以来&#xff0c;各行业品牌操作系统相互独立、难以协同,成为其互联互通的痛点。为进一步解决…

USST新生训练赛div2+div3题解

目录 前言题解部分B Ichihime and Triangle(800)题目大意题解代码实现 C Kana and Dragon Quest game(900)题目大意题解代码实现 J Squares and Cubes(800)题目大意题解代码实现 F Double Sort(1200)题目大意题解代码实现 I Minimize the Thickness(1100)题目大意题解代码实现 …

华为CE6851-48S6Q-HI升级设备版本及补丁

文章目录 升级前准备工作笔记本和交换机设备配置互联地址启用FTP设备访问FTP设备升级系统版本及补丁 升级前准备工作 使用MobaXterm远程工具连接设备&#xff0c;并作为FTP服务器准备升级所需的版本文件及补丁文件 笔记本和交换机设备配置互联地址 在交换机接口配置IP&#…

LAMP源码编译安装——CentOS7

文章目录 LAMP是什么LAMP软件组件LinuxApacheMySQLPHP 源码安装Apache一、准备工作二、安装环境依赖包三、配置软件模块四、编译及安装五、优化配置文件路径六、添加httpd系统服务&#xff08;有两种方法&#xff09;方法一&#xff1a;方法二&#xff1a; 七、修改httpd 服务配…

LabVIEW软件需求分析文档内容和编写指南

编写LabVIEW软件需求分析文档&#xff08;Software Requirements Specification, SRS&#xff09;是软件开发的关键步骤之一。以下是详细的内容结构、编写指南和注意事项&#xff1a; 内容结构 引言 项目背景&#xff1a;简要介绍项目背景和目的。 文档目的&#xff1a;说明需…