這片博文主要用來介紹MySQL的備份與恢復:
MySQL的備份形式可以分為如下幾種:
- 熱備----即不停機備份
- 冷備----需要關閉MySQL,然后備份其數據文件。(停機備份一般是直接拷貝其datadir目錄)
- 溫備----在線備份,對應用影響大,通常加一個讀鎖【會阻塞寫的應用】,意義不大,基本不用。
從導出的備份文件結構可分為如下幾種:
- 邏輯備份---備份的數據是導出的SQL語句(如mysqldump, mysqlpump【MySQL5.7加入的】,mydumper)
- 物理備份--備份的是物理文件(如xtracebackup)
接下來會詳細介紹這四種命令的通常用法(如果不特別說明,數據庫存儲引擎為INNODB):
mysqldump備份與恢復
mysqldump的用法如下:
[root@test3 ~]# mysqldump Usage: mysqldump [OPTIONS] database [tables] #備份單個庫 OR mysqldump [OPTIONS] --databases [OPTIONS] DB1 [DB2 DB3...] #備份多個庫 OR mysqldump [OPTIONS] --all-databases [OPTIONS] #備份所有的數據庫
#可以使用mysqldump --help查看mysqldump的更多參數,會在下面使用的時候介紹到經常用的參數。
備份單張表:
[root@test3 ~]# mysqldump -uroot -p123456 --single-transaction employees departments > dep.sql
#備份INNODB存儲引擎時建議加上參數--single-transaction【實際上是必須加】,這樣會保證數據的一致性。
查看一下備份出來的數據:
[root@test3 ~]# cat dep.sql #可以看到基本就是SQL語句
-- MySQL dump 10.13? Distrib 5.7.22, for linux-glibc2.12 (x86_64)
--
-- Host: localhost??? Database: employees
-- ------------------------------------------------------
-- Server version?? ?5.7.22-log
/*!40101 SET @OLD_CHARACTER_SET_CLIENT=@@CHARACTER_SET_CLIENT */;
/*!40101 SET @OLD_CHARACTER_SET_RESULTS=@@CHARACTER_SET_RESULTS */;
/*!40101 SET @OLD_COLLATION_CONNECTION=@@COLLATION_CONNECTION */;
/*!40101 SET NAMES utf8 */;
/*!40103 SET @OLD_TIME_ZONE=@@TIME_ZONE */;
/*!40103 SET TIME_ZONE='+00:00' */;
/*!40014 SET @OLD_UNIQUE_CHECKS=@@UNIQUE_CHECKS, UNIQUE_CHECKS=0 */;
/*!40014 SET @OLD_FOREIGN_KEY_CHECKS=@@FOREIGN_KEY_CHECKS, FOREIGN_KEY_CHECKS=0 */;
/*!40101 SET @OLD_SQL_MODE=@@SQL_MODE, SQL_MODE='NO_AUTO_VALUE_ON_ZERO' */;
/*!40111 SET @OLD_SQL_NOTES=@@SQL_NOTES, SQL_NOTES=0 */;
--
-- Table structure for table `departments`
--
DROP TABLE IF EXISTS `departments`; #看到這里發現了建表語句,也就是沒有建庫語句,因此若想把sql語句導入指定庫,需要先創建庫
/*!40101 SET @saved_cs_client???? = @@character_set_client */;
/*!40101 SET character_set_client = utf8 */;
CREATE TABLE `departments` (
? `dept_no` char(4) NOT NULL,
? `dept_name` varchar(40) NOT NULL,
? PRIMARY KEY (`dept_no`),
? UNIQUE KEY `dept_name` (`dept_name`)
) ENGINE=InnoDB DEFAULT CHARSET=latin1;
/*!40101 SET character_set_client = @saved_cs_client */;
--
-- Dumping data for table `departments`
--
LOCK TABLES `departments` WRITE;
/*!40000 ALTER TABLE `departments` DISABLE KEYS */; #插入語句
INSERT INTO `departments` VALUES ('d009','Customer Service'),('d005','Development'),('d002','Finance'),('d003','Human Resources'),('d001','Marketing'),('d004','Production'),('d006','Quality Management'),('d008','Research'),('d007','Sales');
/*!40000 ALTER TABLE `departments` ENABLE KEYS */;
UNLOCK TABLES;
/*!40103 SET TIME_ZONE=@OLD_TIME_ZONE */;
/*!40101 SET SQL_MODE=@OLD_SQL_MODE */;
/*!40014 SET FOREIGN_KEY_CHECKS=@OLD_FOREIGN_KEY_CHECKS */;
/*!40014 SET UNIQUE_CHECKS=@OLD_UNIQUE_CHECKS */;
/*!40101 SET CHARACTER_SET_CLIENT=@OLD_CHARACTER_SET_CLIENT */;
/*!40101 SET CHARACTER_SET_RESULTS=@OLD_CHARACTER_SET_RESULTS */;
/*!40101 SET COLLATION_CONNECTION=@OLD_COLLATION_CONNECTION */;
/*!40111 SET SQL_NOTES=@OLD_SQL_NOTES */;
-- Dump completed on 2018-11-28? 9:51:01
在備份文件中插入二進制日志的信息
該選項將binlog的位置和文件名追加到輸出文件中。如果為1,將會輸出CHANGE MASTER 命令;如果為2,輸出的CHANGE MASTER命令前添加注釋信息。該選項將打開
--lock-all-tables 選項,除非--single-transaction也被指定(在這種情況下,全局讀鎖在開始導出時獲得很短的時間)。該選項自動關閉--lock-tables選項。
[root@test3 mysql]# mysqldump -uroot -p123456 --single-transaction --master-data employees departments > dep.sql
mysqldump: [Warning] Using a password on the command line interface can be insecure.
[root@test3 mysql]# cat dep.sql
-- MySQL dump 10.13? Distrib 5.7.22, for linux-glibc2.12 (x86_64)
--
-- Host: localhost??? Database: employees
-- ------------------------------------------------------
-- Server version?? ?5.7.22-log
......
--
-- Position to start replication or point-in-time recovery from #這里有個提示基于這個點開始復制或者PIT恢復
--
CHANGE MASTER TO MASTER_LOG_FILE='test3-bin.000001', MASTER_LOG_POS=20182;
.....
#mysqldump備份時常用的兩個選項


--single-transaction Creates a consistent snapshot by dumping all tables in asingle transaction. Works ONLY for tables stored instorage engines which support multiversioning (currentlyonly InnoDB does); the dump is NOT guaranteed to beconsistent for other storage engines. While a--single-transaction dump is in process, to ensure avalid dump file (correct table contents and binary logposition), no other connection should use the followingstatements: ALTER TABLE, DROP TABLE, RENAME TABLE,TRUNCATE TABLE, as consistent snapshot is not isolatedfrom them. Option automatically turns off --lock-tables. 在備份INNODB數據庫時,事實上必須加上--single-transaction參數,這個參數會保證備份出的數據是一致的,也就是備份的數據是當前執行此命令時刻點的數據。 --single-transaction利用INNODB的MVCC特性,在備份數據會根據undo和redo得到一份快照數據。INNODB的MVCC特性在RR和RC的隔離級別下,得到的快照數據是不同,在RR 得到的是當前事務開始時的快照數據,在RC時得到的最新的事務數據。因為數據庫的正式環境一般是RC模式,因此這條命令在備份開始時,會設置當前會話的隔離級別為RR模式!
備份單個庫和備份所有的庫
[root@test3 mysql]# mysqldump -uroot -p123456 --single-transaction --master-data --databases cmdb hostinfo > dep.sql mysqldump: [Warning] Using a password on the command line interface can be insecure. [root@test3 mysql]# mysqldump -uroot -p123456 --single-transaction --master-data --all-databases > all.sql mysqldump: [Warning] Using a password on the command line interface can be insecure. #查看數據 [root@test3 mysql]# cat dep.sql #查看其中的一個數據 -- MySQL dump 10.13 Distrib 5.7.22, for linux-glibc2.12 (x86_64) -- -- Host: localhost Database: cmdb -- ------------------------------------------------------ -- Server version 5.7.22-log ......-- -- Position to start replication or point-in-time recovery from --CHANGE MASTER TO MASTER_LOG_FILE='test3-bin.000001', MASTER_LOG_POS=20182;-- -- Current Database: `cmdb` #這里有了創建數據庫的語句 --CREATE DATABASE /*!32312 IF NOT EXISTS*/ `cmdb` /*!40100 DEFAULT CHARACTER SET utf8 */;USE `cmdb`;
#因此在使用指定庫備份文件恢復數據時,不需要再創建庫,直接恢復即可
恢復數據的時候直接使用mysql導入即可:
mysql -uroot -p123456 < all.sql
切記在備份INNODB數據庫時一定要加上--single-transaction 參數,為了基于PIT恢復也要加上--master-data參數。
mysqldump的備份過程
上面我們已經看到了mysqldump備份出的數據文件時對應sql語句,我們查看一下在執行mysqldump時,MySQL數據庫做了哪些操作!
首先開啟general_log日志,如下:
mysql> set global general_log=on; Query OK, 0 rows affected (0.00 sec) mysql> set global log_output="file"; Query OK, 0 rows affected (0.00 sec) mysql> show variables like "%general%"; +------------------+-----------------------+ | Variable_name | Value | +------------------+-----------------------+ | general_log | ON | | general_log_file | /data/mysql/test3.log | +------------------+-----------------------+ 2 rows in set (0.00 sec)
然后再去使用mysqldump備份一次數據文件
[root@test3 ~]# mysqldump -uroot -p123456 --single-transaction --master-data --databases tpcc_test > dep.sql
mysqldump: [Warning] Using a password on the command line interface can be insecure.
[root@test3 ~]#
最后查看general_log日志,如下:
[root@test3 mysql]# cat test3.log 2018-11-28T05:20:31.014426Z 29 Connect root@localhost on using Socket 2018-11-28T05:20:31.014662Z 29 Query /*!40100 SET @@SQL_MODE='' */ 2018-11-28T05:20:31.014792Z 29 Query /*!40103 SET TIME_ZONE='+00:00' */ 2018-11-28T05:20:31.014915Z 29 Query FLUSH /*!40101 LOCAL */ TABLES 2018-11-28T05:20:31.015141Z 29 Query FLUSH TABLES WITH READ LOCK #這里有個鎖表 2018-11-28T05:20:31.015213Z 29 Query SET SESSION TRANSACTION ISOLATION LEVEL REPEATABLE READ #設置當前會話的隔離級別 2018-11-28T05:20:31.015271Z 29 Query START TRANSACTION /*!40100 WITH CONSISTENT SNAPSHOT */ #開始事務 2018-11-28T05:20:31.015463Z 29 Query SHOW VARIABLES LIKE 'gtid\_mode' #備份gtid信息 2018-11-28T05:20:31.018393Z 29 Query SHOW MASTER STATUS #在備份時指定master-data,這里備份日志點信息 2018-11-28T05:20:31.018467Z 29 Query UNLOCK TABLES #釋放表 2018-11-28T05:20:31.018618Z 29 Query SELECT LOGFILE_GROUP_NAME, FILE_NAME, TOTAL_EXTENTS, INITIAL_SIZE, ENGINE, EXTRA FROM INFORMATION_SCHEMA.FILES WHERE FILE_TYPE = 'UNDO LOG' AND FILE_NAME IS NOT NULL AND LOGFILE_GROUP_NAME IS NOT NULL AND LOGFILE_GROUP_NAME IN (SELECT DISTINCT LOGFILE_GROUP_NAME FROM INFORMATION_SCHEMA.FILES WHERE FILE_TYPE = 'DATAFILE' AND TABLESPACE_NAME IN (SELECT DISTINCT TABLESPACE_NAME FROM INFORMATION_SCHEMA.PARTITIONS WHERE TABLE_SCHEMA IN ('tpcc_test'))) GROUP BY LOGFILE_GROUP_NAME, FILE_NAME, ENGINE, TOTAL_EXTENTS, INITIAL_SIZE ORDER BY LOGFILE_GROUP_NAME 2018-11-28T05:20:31.021966Z 29 Query SELECT DISTINCT TABLESPACE_NAME, FILE_NAME, LOGFILE_GROUP_NAME, EXTENT_SIZE, INITIAL_SIZE, ENGINE FROM INFORMATION_SCHEMA.FILES WHERE FILE_TYPE = 'DATAFILE' AND TABLESPACE_NAME IN (SELECT DISTINCT TABLESPACE_NAME FROM INFORMATION_SCHEMA.PARTITIONS WHERE TABLE_SCHEMA IN ('tpcc_test')) ORDER BY TABLESPACE_NAME, LOGFILE_GROUP_NAME 2018-11-28T05:20:31.022750Z 29 Query SHOW VARIABLES LIKE 'ndbinfo\_version' 2018-11-28T05:20:31.023915Z 29 Init DB tpcc_test 2018-11-28T05:20:31.023977Z 29 Query SHOW CREATE DATABASE IF NOT EXISTS `tpcc_test` 2018-11-28T05:20:31.024045Z 29 Query SAVEPOINT sp #備份每張表之前會設置保存點 2018-11-28T05:20:31.024100Z 29 Query show tables 2018-11-28T05:20:31.024253Z 29 Query show table status like 'customer' 2018-11-28T05:20:31.024475Z 29 Query SET SQL_QUOTE_SHOW_CREATE=1 2018-11-28T05:20:31.024541Z 29 Query SET SESSION character_set_results = 'binary' 2018-11-28T05:20:31.024607Z 29 Query show create table `customer` 2018-11-28T05:20:31.024737Z 29 Query SET SESSION character_set_results = 'utf8' 2018-11-28T05:20:31.024806Z 29 Query show fields from `customer` 2018-11-28T05:20:31.025199Z 29 Query show fields from `customer` 2018-11-28T05:20:31.025582Z 29 Query SELECT /*!40001 SQL_NO_CACHE */ * FROM `customer` 2018-11-28T05:20:35.251932Z 29 Query SET SESSION character_set_results = 'binary' 2018-11-28T05:20:35.252069Z 29 Query use `tpcc_test` 2018-11-28T05:20:35.252158Z 29 Query select @@collation_database 2018-11-28T05:20:35.252290Z 29 Query SHOW TRIGGERS LIKE 'customer' 2018-11-28T05:20:35.252706Z 29 Query SET SESSION character_set_results = 'utf8' 2018-11-28T05:20:35.252771Z 29 Query ROLLBACK TO SAVEPOINT sp #這張表備份結束之后,回滾保存點
......
......
以上的過程可以看到,mysqldump是在一個事務中備份的,因此在備份表時會產生undo日志,若是表數據太大,則undo日志也會很大,因此mysqldump在備份每張表時都設置
savepoint,這樣當這個表備份完成之后,就會回滾保存點,然后purge線程就會回收undo日志
mysqld的其余常見參數應用:
-d:只備份指定數據庫表的結構(也就是建表語句)
[root@test3 ~]# mysqldump -uroot -p123456 -d --databases lianxi > dep.sql #這樣只備份出lianxi這個庫中表的建表語句和創建庫的語句
[root@test3 ~]# mysqldump -uroot -p123456 -d lianxi tb2 > dep.sql #如果這里只備份庫下面的表,則還是沒有建庫語句,只有創建表的語句
-R, --routines :備份時導出存儲過程和自定義函數!
[root@test3 ~]# mysqldump -uroot -p123456 -R lianxi tb2 > dep.sql
-f, --force???????? Continue even if we get an SQL error.。發生錯誤的時候也繼續備份。
mysqldump還有很多參數,可以在用到的時候查看!
mysqldump是邏輯備份,單線程備份,單線程恢復,因此會比較慢。特別是恢復的時候,之前恢復過一個800多萬行記錄的數據,結果使用mysql逐條導入sql語句,搞庫幾個小時。
?
備份與恢復糾錯
?1:在使用mysql導入mysqldump的備份數據時,報了如下錯誤:
[root@test3 ~]# mysql -uroot -p123456 financesys < financesys.sql mysql: [Warning] Using a password on the command line interface can be insecure. ERROR 1118 (42000) at line 25: Row size too large (> 8126). Changing some columns to TEXT or BLOB may help. In current row format, BLOB prefix of 0 bytes is stored inline.
錯誤原因就是行太長了,但是線上環境修改字段屬性有點不太合適,可以采用如下方法:
mysql> set global innodb_strict_mode=off; Query OK, 0 rows affected (0.00 sec) [root@test3 ~]# mysql -uroot -p123456 financesys < financesys.sql #再導入就可以了 mysql: [Warning] Using a password on the command line interface can be insecure.
從MySQL5.5.X版本開始,你可以開啟InnoDB嚴格檢查模式,尤其采用了頁數據壓縮功能后,最好是開啟該功能。開啟此功能后,當創建表(CREATE TABLE)、更改表(ALTER TABLE)和創建索引(CREATE INDEX)語句時,如果寫法有錯誤,不會有警告信息,而是直接拋出錯誤,這樣就可直接將問題扼殺在搖籃里。開啟InnoDB嚴格檢查模式涉及的參數是innodb_strict_mode,默認為OFF,支持動態開啟,開啟方式如下: set global innodb_strict_mode=1;連接地址
導入成功后,如果是線上環境,還需要把參數修改回去!
2:在使用mysqldump備份的時候出現如下問題
[root@test2 data]# mysqldump -uroot -p7abec53701c3eefb --databases financesys > financesys1.sql mysqldump: Error 2013: Lost connection to MySQL server during query when dumping table `fi_factincome` at row: 1303198
我查了一下,這個表大概有1500萬行的記錄,報錯原因如下:
備份失敗的原因:在向磁盤上備份的時候,數據的流向是這樣的:MySQL Server 端從數據文件中檢索出數據,然后分批將數據返回給mysqldump 客戶端,然后
mysqldump 將數據寫入到磁盤上。一般地,向 磁盤 上寫入數據的速度較之Server端檢索發送數據的速度要慢得多,這就會導致 mysqldump 無法及時的接受
Server 端發送過來的數據,Server 端的數據就會積壓在內存中等待發送,這個等待不是無限期的,當 Server 的等待時間超過 net_write_timeout(默認是60秒)
時它就失去了耐心,mysqldump 的連接會被斷開,同時拋出錯誤 Got error: 2013: Lost connection。其實該錯誤不是說數據庫文件太多而導致出錯,
而是單張表數據量太大導致備份失敗
問題的解決方案:增加 net_write_timeout 可以解決上述的問題的。在實踐中發現,在增大 net_write_timeout 后,Server 端會消耗更多的內存,有時甚至會導致 swap 的使用(并不確定是不是修改 net_write_timeout 所至)。建議在mysqldump 之前修改 net_write_timeout 為一個較大的值(如1800),在 mysqldump 結束后,在將這個值修改到默認的60。(備注:net_write_timeout不是mysqldump的配置參數,而是mysql的參數)
?