MySQL之Xtrabackup备份恢复数据库

页面导航:首页 > 数据库 > Mysql > MySQL之Xtrabackup备份恢复数据库

MySQL之Xtrabackup备份恢复数据库

来源: 作者: 时间:2016-02-02 08:56 【

一、Xtrabackup介绍 1、Xtrabackup是什么 Xtrabackup是一个对InnoDB做数据备份的工具,支持在线热备份(备份时不影响数据读写),是商业备份工具InnoDB Hotbackup的一个很好的替代品。 Xtrabackup有两个

一、Xtrabackup介绍

1、Xtrabackup是什么

Xtrabackup是一个对InnoDB做数据备份的工具,支持在线热备份(备份时不影响数据读写),是商业备份工具InnoDB Hotbackup的一个很好的替代品。
Xtrabackup有两个主要的工具:xtrabackup、innobackupex

  • xtrabackup只能备份InnoDB和XtraDB两种数据表,而不能备份MyISAM数据表。innobackupex是参考了InnoDB Hotbackup的innoback脚本修改而来的。innobackupex是一个perl脚本封装,封装了xtrabackup。主要是为了方便同时备份InnoDB和MyISAM引擎的表,但在处理myisam时需要加一个读锁。并且加入了一些使用的选项。如slave-info可以记录备份恢 复后,作为slave需要的一些信息,根据这些信息,可以很方便的利用备份来重做slave。 2、Xtrabackup可以做什么

    在线(热)备份整个库的InnoDB、 XtraDB表
    在xtrabackup的上一次整库备份基础上做增量备份(innodb only)
    以流的形式产生备份,可以直接保存到远程机器上(本机硬盘空间不足时很有用)

    MySQL数据库本身提供的工具并不支持真正的增量备份,二进制日志恢复是point-in-time(时间点)的恢复而不是增量备份。
    Xtrabackup工具支持对InnoDB存储引擎的增量备份,工作原理如下:
    (1)、首先完成一个完全备份,并记录下此时检查点的LSN(Log Sequence Number)。
    (2)、在进程增量备份时,比较表空间中每个页的LSN是否大于上次备份时的LSN,如果是,则备份该页,同时记录当前检查点的LSN。
    首先,在logfile中找到并记录最后一个checkpoint(“last checkpoint LSN”),然后开始从LSN的位置开始拷贝InnoDB的logfile到xtrabackup_logfile;接着,开始拷贝全部的数据文件.ibd;在拷贝全部数据文件结束之后,才停止拷贝logfile。
    因为logfile里面记录全部的数据修改情况,所以,即时在备份过程中数据文件被修改过了,恢复时仍然能够通过解析xtrabackup_logfile保持数据的一致。

    3、Xtrabackup备份原理

    XtraBackup基于InnoDB的crash-recovery功能。它会复制innodb的data file,由于不锁表,复制出来的数据是不一致的,在恢复的时候使用crash-recovery,使得数据恢复一致。 :
    InnoDB维护了一个redo log,又称为transaction log,事务日志,它包含了innodb数据的所有改动情况。当InnoDB启动的时候,它会先去检查data file和transaction log,并且会做二步操作:XtraBackup在备份的时候, 一页一页地复制innodb的数据,而且不锁定表,与此同时,XtraBackup还有另外一个线程监视着transactions log,一旦log发生变化,就把变化过的log pages复制走。为什么要急着复制走呢?因为transactions log文件大小有限,写满之后,就会从头再开始写,所以新数据可能会覆盖到旧的数据。
    在prepare过程中,XtraBackup使用复制到的transactions log对备份出来的innodb data file进行crash recovery。

    4、实现细节
    XtraBackup以read-write模式打开innodb的数据文件,然后对其进行复制。其实它不会修改此文件。也就是说,运行 XtraBackup的用户,必须对innodb的数据文件具有读写权限。之所以采用read-write模式是因为XtraBackup采用了其内置的 innodb库来打开文件,而innodb库打开文件的时候就是rw的。
    XtraBackup要从文件系统中复制大量的数据,所以它尽可能地使用posix_fadvise(),来告诉OS不要缓存读取到的数据,从 而提升性能。因为这些数据不会重用到了,OS却没有这么聪明。如果要缓存一下的话,几个G的数据,会对OS的虚拟内存造成很大的压力,其它进程,比如 mysqld很有可能被swap出去,这样系统就会受到很大影响了。
    在备份innodb page的过程中,XtraBackup每次读写1MB的数据,1MB/16KB=64个page。这个不可配置。读1MB数据之 后,XtraBackup一页一页地遍历这1MB数据,使用innodb的buf_page_is_corrupted()函数检查此页的数据是否正常,如果数据不正常,就重新读取这一页,最多重新读取10次,如果还是失败,备份就失败了,退出。在复制transactions log的时候,每次读写512KB的数据。同样不可以配置。

    5、innobackupex 相关参数

    注:xtrabackup命令只备份数据文件,并不备份数据表结构(.frm),所以使用xtrabackup恢复的时候,你必须有对应表结构文件(.frm),所以,个人推荐采用innobackupex命令 [此命令相当于冷备份,复制数据目录的索引,数据,结构文件,但会有短暂的锁表(时间依赖于MyISAM大小)]。

    参数说明如下:

    --defaults-file:指定my.cnf参数文件的位置[此配置文件里必须指定datadir]。

    --apply-log:同xtrabackup的--prepare参数,一般情况下,在备份完成后,数据尚且不能用于恢复操作,因为备份的数据中可能会包含尚未提交的事务或已经提交但尚未同步至数据文件中的事务。因此,此时数据 文件仍处理不一致状态。--apply-log的作用是通过回滚未提交的事务及同步已经提交的事务至数据文件使数据文件处于一致性状态。

    --copy-back:做数据恢复时将备份数据文件拷贝到MySQL服务器的datadir。

    --remote-host=HOSTNAME: 通过ssh将备份数据存储到进程服务器上。

    --stream=[tar]:备份文件输出格式, 该文件可在XtarBackup binary文件中获得. 在使用参数stream=tar备份的时候,你的xtrabackup_logfile可能会临时放在/tmp目录下,如果你备份的时候并发写入较大的话,xtrabackup_logfile可能会很大(5G+),很可能会撑满你的/tmp目录,可以通过参数--tmpdir指定目录来解决这个问题。

    --tmpdir=DIRECTORY:当有指定--remote-host or --stream时, 事务日志临时存储的目录, 默认采用MySQL配置文件中所指定的临时目录tmpdir。

    --redo-only --apply-log:强制备份日志时只redo,跳过rollback,这在做增量备份时非常必要。

    --use-memory=*:该参数在prepare的时候使用,控制prepare时innodb实例使用的内存。

    --databases=LIST:列出需要备份的databases,如果没有指定该参数,所有包含MyISAM和InnoDB表的database都会被备份。

    --slave-info:备份从库, 加上--slave-info备份目录下会多生成一个xtrabackup_slave_info 文件, 这里会保存主日志文件以及偏移, 文件内容类似于:CHANGE MASTER TO MASTER_LOG_FILE='', MASTER_LOG_POS=0。

    --socket=SOCKET:指定mysql.sock所在位置,以便备份进程登录mysql。

    二、xtrabackup-2.1.6-702安装

    本文通过源码方式安装xtrabackup-2.1.6-702

    地址:http://www.percona.com/downloads/XtraBackup/

    1、编译所需的依赖包

    查看编译所需的依赖包是否安装,如果没有安装,则安装之。

    rpm -q libaio libaio-devel perl-Time-HiRes curl curl-devel zlib-devel openssl-devel perl cpio expat-devel gettext-devel perl-ExtUtils-MakeMaker perl-DBD-MySQL.*

    yum -y install 包名

    2、安装

    tar -zxvf percona-xtrabackup-2.1.6-702-Linux-x86_64.tar.gz

    cd percona-xtrabackup-2.1.6-702-Linux-x86_64/bin

    将innobackupex、xtrabackup等文件copy到mysql程序目录下/bin目录
    cp * /mysql/bin/
    将mysql安装目录下的文件做软链接到/usr/bin/目录下。这个比变量方便,这样就完成了部署安装!!!!!!!!!!!
    ln -s /mysql/bin/* /usr/bin/

    三、innobackupex使用参数介绍

    由于innobackupex能同时备份InnoDB和MyISAM引擎的表,这里重点介绍innobackupex的备份与恢复使用。通常一般都直接使用innobackupex,因为它能同时备份InnoDB和MyISAM引擎的表。要注意的是my.cnf里datadir这个参数是必须要指定的,xtrabackup_55是根据它去定位innodb数据文件的位置。

    1、 innobackupex语法及参数说明

    innobackup [--sleep=MS] [--compress[=LEVEL]] [--include=REGEXP] [--user=NAME] [--password=WORD]
    [--port=PORT] [--socket=SOCKET] [--no-timest a mp] [--ibbackup=IBBACKUP-BINARY] [--slave-info] [--stream=tar]
    [--defaults-file=MY.CNF] [--databases=LIST] [--remote-host=HOSTNAME] BACKUP-ROOT-DIR

    innobackup --apply-log [--use-memory=MB] [--uncompress] [--defaults-file=MY.CNF] [--ibbackup=IBBACKUP-BINARY] BACKUP-DIR

    innobackup --copy-back [--defaults-file=MY.CNF] BACKUP-DIR

    各参数说明:
    --defaults-file
    同xtrabackup的--defaults-file参数

    --apply-log
    对xtrabackup的--prepare参数的封装

    --copy-back
    做数据恢复时将备份数据文件拷贝到MySQL服务器的datadir ;

    --remote-host=HOSTNAME
    通过ssh将备份数据存储到进程服务器上;

    --stream=[tar]
    备份文件输出格式, tar时使用tar4ibd , 该文件可在XtarBackup binary文件中获得.如果备份时有指定--stream=tar, 则tar4ibd文件所处目录一定要在$PATH中(因为使用的是tar4ibd去压缩, 在XtraBackup的binary包中可获得该文件)。

    在使用参数stream=tar备份的时候,你的xtrabackup_logfile可能会临时放在/tmp目录下,如果你备份的时候并发写入较大的话xtrabackup_logfile可能会很大(5G+),很可能会撑满你的/tmp目录,可以通过参数--tmpdir指定目录来解决这个问题。

    --tmpdir=DIRECTORY
    当有指定--remote-host or --stream时, 事务日志临时存储的目录, 默认采用MySQL配置文件中所指定的临时目录tmpdir

    --redo-only --apply-log组,
    强制备份日志时只redo ,跳过rollback。这在做增量备份时非常必要。

    --use-memory=#
    该参数在prepare的时候使用,控制prepare时innodb实例使用的内存量

    --throttle=IOS
    同xtrabackup的--throttle参数

    --sleep=#

    是给ibbackup使用的,指定每备份1M数据,过程停止拷贝多少毫秒,也是为了在备份时尽量减小对正常业务的影响,具体可以查看ibbackup的手册 ;

    --compress[=LEVEL]
    对备份数据迚行压缩,仅支持ibbackup,xtrabackup还没有实现;

    --include=REGEXP
    对xtrabackup参数--tables的封装,也支持ibbackup。备份包含的库表,例如:--include="test.*",意思是要备份test库中所有的表。如果需要全备份,则省略这个参数;如果需要备份test库下的2个表:test1和test2,则写成:--include="test.test1|test.test2"。也可以使用通配符,如:--include="test.test*"。

    --databases=LIST
    列出需要备份的databases,如果没有指定该参数,所有包含MyISAM和InnoDB表的database都会被备份;

    --uncompress
    解压备份的数据文件,支持ibbackup,xtrabackup还没有实现该功能;

    --slave-info
    备份从库, 加上--slave-info备份目录下会多生成一个xtrabackup_slave_info 文件, 这里会保存主日志文件以及偏移, 文件内容类似于:CHANGE MASTER TO MASTER_LOG_FILE='', MASTER_LOG_POS=0

    --socket=SOCKET
    指定mysql.sock所在位置,以便备份进程登录mysql。

    四、备份与恢复

    1、备份

    # 全备
    innobackupex --defaults-file=/etc/my.cnf --no-timestamp --port=3306 --user=backup --password=backup /backupdir/bak_data/full_bak >/backupdir/bak_data/innoback.log 2>&1

    # 第一次增量备份

    innobackupex --defaults-file=/etc/my.cnf --no-timestamp --port=3306 --user=backup --password=backup --incremental --incremental-basedir=/backupdir/bak_data/full_bak /backupdir/bak_data/one_backup >/backupdir/bak_data/innoback.log 2>&1

    # 第二次增量备份

    innobackupex --defaults-file=/etc/my.cnf --no-timestamp --port=3306 --user=backup --password=backup --incremental --incremental-basedir=/backupdir/bak_data/one_backup /backupdir/bak_data/two_backup >/backupdir/bak_data/innoback.log 2>&1

    # 第三次增量备份

    innobackupex --defaults-file=/etc/my.cnf --no-timestamp --port=3306 --user=backup --password=backup --incremental --incremental-basedir=/backupdir/bak_data/two_backup /backupdir/bak_data/three_backup >/backupdir/bak_data/innoback.log 2>&1

    2、恢复
    # 备份应用日志,保证数据一致,将增量备份的合并到全备上,恢复使用全备恢复

    是否用--redo-only --apply-log 组合参数,我也搞不清,测试用和不用--redo-only,感觉数据都没有问题?????

    # 全备应用日志
    innobackupex --defaults-file=/etc/my3308.cnf --apply-log /backupdir/bak_data/full_bak

    # 第一次的增量备份应用日志,应用完日志后,将合并到全备上,恢复使用全备恢复
    innobackupex --defaults-file=/etc/my3308.cnf --apply-log /backupdir/bak_data/full_bak --incremental-dir=/backupdir/bak_data/one_backup

    # 第二次的增量备份应用日志,应用完日志后,将合并到全备上,恢复使用全备恢复
    innobackupex --defaults-file=/etc/my3308.cnf --apply-log /backupdir/bak_data/full_bak --incremental-dir=/backupdir/bak_data/two_backup

    # 第二次的增量备份应用日志,应用完日志后,将合并到全备上,恢复使用全备恢复
    innobackupex --defaults-file=/etc/my3308.cnf --apply-log /backupdir/bak_data/full_bak --incremental-dir=/backupdir/bak_data/three_backup

    # 此时三次增量备份其实都合并到全备上了,恢复是只需要使用全备进行恢复就可以了。
    # 模拟数据故障[删除数据库的数据目录,执行如下命令还原]
    innobackupex --defaults-file=/etc/my3308.cnf --copy-back /backupdir/bak_data/full_bak

    # 恢复后的数据默认权限是有问题的,所以需要修改数据目录权限,如下
    chown -R mysql:mysql /var/lib/mysql3308/
    # 此时数据恢复完成,重启数据库服务,进行测试就可以了。

    五、错误处理

    特别说明:

    如果出现如下错误,说明没有装 dbi和dbd

    innobackupex: Connecting to MySQL server with DSN 'dbi:mysql:;mysql_read_default_file=/etc/my.cnf;mysql_read_default_group=xtrabackup' as 'root' (using password: YES).

    innobackupex: Error: Failed to connect to MySQL server as DBD::mysql module is not installed at /usr/bin/innobackupex line


    则按如下步骤进行操作:

    Percona Toolkit 的安装:

    1、下载percona toolkit的包:(可以是包,或者RPM)

    访问:http://www.percona.com/software/percona-toolkit/ 下载最新稳定的版本。也可以如下命令行的方式下载最新版本。

    wget percona.com/get/percona-toolkit.tar.gz

    wget percona.com/get/percona-toolkit.rpm

    2、安装于Perl相关的模块


    yum install perl-DBI

    yum install perl-DBD-MySQL

    yum install perl-Time-HiRes

    yum install perl-IO-Socket-SSL


    3、安装Percona Toolkit

    rpm -ivh percona-toolkit-2.2.6-1.noarch.rpm


    OK,就这么简单,安装完毕。


    安装错误:在yum install perl-DBD-MySQL时,出现如下错误信息


    ---> Package perl-DBD-MySQL.x86_64 0:3.0007-2.el5 set to be updated

    --> Processing Dependency: libclient.so.15(libmysqlclient_15)(64bit) for package: perl-DBD-MySQL

    --> Processing Dependency: libmysqlclient.so.15()(64bit) for package: perl-DBD-MySQL

    --> Running transaction check

    ---> Package mysql.x86_64 0:5.0.95-5.el5_9 set to be updated

    --> Processing Conflict: mysql conflicts MySQL

    --> Finished Dependency Resolution mysql-5.0.95-5.el5_9.x86_64 from updates has depsolving problems mysql conflicts with MySQL-server

    Error: mysql conflicts with MySQL-server


    由于我安装的是5.6.xx的MySQL版本,而自带的是5.1xx版本的,而libmysqlclient.so.15是由5.0版本提供的,所以就 出错了。如果你的系统是centos6.X系列的,MySQL自带的为5.1以上,可能不会出现这个问题了。解决方案如下:


    rpm -ivh MySQL-shared-compat-5.5.31-1.rhel5.x86_64.rpm

    MySQL-shared-compat为客户端的libraries ,向下兼容。

    在yum install perl-DBD-MySQL就没有问题了。


  • Tags:

    文章评论

    最 近 更 新
    热 点 排 行
    Js与CSS工具
    代码转换工具
    
    <