Oracle官方并行逻辑备份工具mysqlpump

SantiagoN57 8年前

来自: http://www.innomysql.net/article/25383.html

昨天Inside君写到MySQL 5.7.11版本发布,其中 最有意义 的部分在于官方修复了之前mysqlpump工具一致性备份的问题,使得mysqlpump工具在生产环境中有了用武之地。而在之前MySQL 5.7的文档中明确写着,mysqlpump是不支持一致性的备份:

Before MySQL 5.7.11, use of the –single-transaction option is mutually exclusive with parallelism. To use –single-transaction, disable parallelism by setting –default-parallelism to 0 and not using any instances of –parallel-schemas

在5.7.11版本的change history中,对于这个问题已经有了修复:

mysqlpump tries to do as much work in parallel as possible, but the dump threads lacked a synchronization point before backing up the data, resulting in inconsistent backup.

mysqlpump相对于之前的逻辑备份工具mysqldump来说,Inside君总结的优势如下:

  • 支持基于表的并行导出功能(参数–default-parallelism,默认为2,参数–parallel-schemas,控制并行导出的库)
  • 导出的时候带有进度条(参数–watch-progress,默认开启)
  • 支持直接压缩导出导入(参数–compress-output,支持ZLIB和LZ4)

mysqlpump的并行导出功能的架构为:队列+线程,允许有多个队列,每个队列下有多个线程,而一个队列可以绑定1个或者多个数据库。但是,对于每张表的导出只能是单个线程的, 这和mydumper工具是不一样的 ,因为mydumper支持一张表多个线程以chunk的方式批量导出,这在主键是随机的情况下,导出速度还能有提升。mysqlpump的架构如下图所示:

接着Inside君对比了mysqldump与mysqlpump的导出速度,选择的数据库大小为7.8G,每次备份测试时都重启数据库,清空缓冲池中的内容。其中各表的大小如下所示:

root@test-1:/mdata/mysql_data# ls -lh tpcc/*.ibd  -rw-r----- 1 mysql mysql 1.9G Feb 21 22:58 tpcc/customer.ibd  -rw-r----- 1 mysql mysql 160K Feb 21 23:12 tpcc/district.ibd  -rw-r----- 1 mysql mysql 208M Feb 21 22:58 tpcc/history.ibd  -rw-r----- 1 mysql mysql  17M Feb 21 22:23 tpcc/item.ibd  -rw-r----- 1 mysql mysql  32M Feb 22 00:05 tpcc/new_orders.ibd  -rw-r----- 1 mysql mysql 2.1G Feb 22 10:00 tpcc/order_line.ibd  -rw-r----- 1 mysql mysql 132M Feb 22 00:05 tpcc/orders.ibd  -rw-r----- 1 mysql mysql 3.5G Feb 21 23:12 tpcc/stock.ibd  -rw-r----- 1 mysql mysql  48K Feb 21 23:11 tpcc/warehouse.ibd

由于只有tpcc单个数据库,这里mysqlpump测试采用默认单队列2个线程和单队列4个线程测试,mysqlpump测试语句如下:

root@test-1:/mdata/mysql_data# time mysqlpump --single-transaction  -B tpcc > tpcc.sql  root@test-1:/mdata/mysql_data# time mysqlpump --single-transaction --default-parallelism=4 -B tpcc > tpcc.sql

最后的测试结果如下所示:

测试在网易云环境下,这时可以发现默认配置下mysqlpump的速度比起mysqldump快了39.04%,4个线程下快了有48.89%。接着测试多个数据库备份的场景,这里选择7.8G大小的tpcc库和2.4G大小的dbt3数据库,最后得到的结果mysqlpump比起mysqldump最高快了70%多的时间:

总结

mysqlpump的语法与mysqldump高度兼容,支持基于库和表的并行导出,对比mysqldump速度提升非常明显。MySQL 5.7.11版本解决了一致性备份问题,推荐线上环境使用。由于每个数据库大小,架构不同,测试给出的速度提升只是参考,或许在你的环境会没有任何差别,也可能速度提升更大。anyway,是时候好好测试mysqlpump,看看对你的生产环境是否会有极大的速度提升。

</div>