本文主要給大家介紹MySQL 5.7 主從原理、配置及測試講義,希望可以給大家補充和更新些知識,如有其它問題需要了解的可以持續(xù)在創(chuàng)新互聯(lián)行業(yè)資訊里面關(guān)注我的更新文章的。
創(chuàng)新互聯(lián)公司自成立以來,一直致力于為企業(yè)提供從網(wǎng)站策劃、網(wǎng)站設(shè)計、網(wǎng)站制作、成都做網(wǎng)站、電子商務(wù)、網(wǎng)站推廣、網(wǎng)站優(yōu)化到為企業(yè)提供個性化軟件開發(fā)等基于互聯(lián)網(wǎng)的全面整合營銷服務(wù)。公司擁有豐富的網(wǎng)站建設(shè)和互聯(lián)網(wǎng)應(yīng)用系統(tǒng)開發(fā)管理經(jīng)驗、成熟的應(yīng)用系統(tǒng)解決方案、優(yōu)秀的網(wǎng)站開發(fā)工程師團隊及專業(yè)的網(wǎng)站設(shè)計師團隊。
首先要準(zhǔn)備兩臺云服務(wù)器,一臺主服務(wù)器(Master),另一臺從服務(wù)器(Slave),然后要保證Master與Slave的版本要相同且Master不能高于Slave的版本,一般穩(wěn)健的做法都是使其版本相同,因為MySQL不同版本之間的binlog(二進制日志)格式可能會不一樣,最后會導(dǎo)致同步出現(xiàn)異常。
系統(tǒng):CentOS 6. 或 7.
MySQL版本:5.7
IP | 主機名 | 角色 |
---|---|---|
192.168.1.101 | MySQL-001 | master |
192.168.1.102 | MySQL-002 | slave |
Mysql的主從同步就是當(dāng)master(主庫)發(fā)生數(shù)據(jù)變化的時候,會實時同步到slave(從庫)。
主從復(fù)制可以水平擴展數(shù)據(jù)庫的負載能力,容錯,高可用,數(shù)據(jù)備份。
不管是delete、update、insert,還是創(chuàng)建函數(shù)、存儲過程,都是在master上,當(dāng)master有操作的時候,slace會快速的接受到這些操作,從而做同步。
當(dāng)master上的數(shù)據(jù)發(fā)生變化的時候,該事件變化會按照順序?qū)懭隻inlog中。當(dāng)slave鏈接到master的時候,master機器會為slave開啟binlog dunp線程。當(dāng)master的binlog發(fā)生變化的時候,binlog dump線程會通知slave,并將相應(yīng)的binlog內(nèi)容發(fā)送給slave。
當(dāng)主從同步開啟的時候,slave上會創(chuàng)建兩個線程:I\O線程。該線程連接到master機器,master機器上的binlog dump 線程會將binlog的內(nèi)容發(fā)送給該I\O線程。該I/O線程接收到binlog內(nèi)容后,再將內(nèi)容寫入到本地的relay log;sql線程。該線程讀取到I/O線程寫入的ralay log。并且根據(jù)relay log。并且根據(jù)relay log 的內(nèi)容對slave數(shù)據(jù)庫做相應(yīng)的操作。
一般mysql配置文件在/etc/my.cnf
(如果找不到的話也有可能在這些目錄下:/etc/mysql/my.cnf,/usr/local/mysql/etc/my.cnf,~/.my.cnf)
[root@MySQL-001 ~]# vim /etc/my.cnf
[mysqld]
basedir=/usr/local/mysql
datadir=/data/mysqldata
socket=/tmp/mysql.sock
user=mysql
port=3306
# master的配置
server-id=1 # 服務(wù)器id (設(shè)置唯一標(biāo)識)
binlog-do-db=employees # 要給從機同步的庫
binlog-ignore-db=mysql # 不給從機同步的庫(多個寫多行)
binlog-ignore-db=information_schema
binlog-ignore-db=performance_schema
binlog-ignore-db=sys
log-bin=mysql-bin # 打開日志(主機需要打開),可以指定絕對路徑;
expire_logs_days=90 # 自動清理 90 天前的log文件,可根據(jù)需要修改
[root@MySQL-001 ~]# service mysqld restart
[root@MySQL-001 ~]# service mysqld status
SUCCESS! MySQL running (15607)
[root@MySQL-001 ~]# systemctl restart mysqld.service
[root@MySQL-001 ~]# systemctl status mysqld.service
mysqld.service - MySQL Server
Loaded: loaded (/usr/lib/systemd/system/mysqld.service; enabled)
Active: active (running) since 四 2018-05-17 11:42:02 CST; 2h 5min ago
Docs: man:mysqld(8)
http://dev.mysql.com/doc/refman/en/using-systemd.html
Main PID: 29959 (mysqld)
CGroup: /system.slice/mysqld.service
└─29959 /opt/mysql/bin/mysqld --defaults-file=/etc/my.cnf
5月 17 11:42:02 tcloud-118 systemd[1]: Started MySQL Server.
[root@MySQL-001 ~]# mysql -uroot -p
mysql> show variables like '%log_bin%';
+---------------------------------+---------------------------------+
| Variable_name | Value |
+---------------------------------+---------------------------------+
| log_bin | ON |
| log_bin_basename | /opt/mysql/logs/mysql-bin |
| log_bin_index | /opt/mysql/logs/mysql-bin.index |
| log_bin_trust_function_creators | ON |
| log_bin_use_v1_row_events | OFF |
| sql_log_bin | ON |
+---------------------------------+---------------------------------+
6 rows in set (0.00 sec)
mysql>
可以看到log_bin為ON;
backup為用戶名,192.168.1.%表示只允許192.168.1網(wǎng)段的客戶端連接,123456為密碼;
mysql> grant replication slave on *.* to 'backup'@'192.168.1.%' identified by '123456'; # 創(chuàng)建同步賬戶
mysql> flush privileges; # 刷新權(quán)限
mysql> select Host,User,authentication_string from mysql.user; # 檢查是否創(chuàng)建
+--------------+---------------+-------------------------------------------+
| Host | User | authentication_string |
+--------------+---------------+-------------------------------------------+
| localhost | root | *6C362347EBEAA7DF44F6D34884615A35095E80EB |
| localhost | mysql.session | *THISISNOTAVALIDPASSWORDTHATCANBEUSEDHERE |
| localhost | mysql.sys | *THISISNOTAVALIDPASSWORDTHATCANBEUSEDHERE |
| 192.168.1.% | backup | *9BB58B7F11A03B83C396FF506F3DF45727E79614 |
+--------------+---------------+-------------------------------------------+
5 rows in set (0.00 sec)
mysql>
backup@192.168.1.%賬戶已建立;
重啟MySQL服務(wù)并設(shè)置讀取鎖定,讀取鎖定的意思是只能讀取,不能更新,以便獲得一個一致性的快照;
mysql> flush table with read lock; # 主庫鎖表;默認28800秒,即8小時自動解鎖;
mysql> show master status \G
*************************** 1. row ***************************
File: mysql-bin.000002
Position: 1621
Binlog_Do_DB:
Binlog_Ignore_DB: mysql
Executed_Gtid_Set: 1d3d078c-59a7-11e8-9a08-00163e000b3f:1-7
1 row in set (0.00 sec)
mysql>
查看主服務(wù)器上當(dāng)前的二進制日志名和偏移量值這里的file 和position 要和上面的一致;
導(dǎo)出master(192.168.1.101)上的數(shù)據(jù),然后導(dǎo)入slave 中
格式:mysqldump -uUSER -pPASSWORD DATABASE TABLE > NAME.sql
[root@MySQL-001 ~]# mysqldump -uroot -p employees > /opt/employees.sql # 假如employees為主庫已經(jīng)存在的庫
[root@MySQL-001 ~]# yum install openssh-clients -y # 可選
[root@MySQL-001 ~]# scp /opt/employees.sql root@192.168.1.102:/opt/
[root@MySQL-002 ~]# yum install openssh-clients -y # 可選
[root@MySQL-002 ~]# vim /etc/my.cnf
[mysqld]
basedir=/usr/local/mysql # mysql程序路徑
datadir=/data/mysqldata # mysql數(shù)據(jù)目錄
socket=/tmp/mysql.sock
user=mysql
port=3306
# slave配置
server-id=2 # MySQLid 后面2個從服務(wù)器需設(shè)置不同
skip_slave_start=1 # 復(fù)制進程不會隨著數(shù)據(jù)庫的啟動而啟動,重啟數(shù)據(jù)庫后需手動啟動;
#加上以下參數(shù)可以避免更新不及時,SLAVE 重啟后導(dǎo)致的主從復(fù)制出錯。
read_only = 1 # 從庫普通賬戶只讀;
master_info_repository=TABLE
relay_log_info_repository=TABLE
#relay_log_recovery=1 # 從機禁止寫
#super_read_only=1 # 從機禁止寫
CentOS 6.*:
[root@MySQL-002 ~]# service mysqld restart
[root@MySQL-002 ~]# service mysqld status
SUCCESS! MySQL running (15604)
CentOS 7.*:
[root@MySQL-002 ~]# systemctl restart mysqld.service
[root@MySQL-002 ~]# systemctl status mysqld.service
mysqld.service - MySQL Server
Loaded: loaded (/usr/lib/systemd/system/mysqld.service; enabled)
Active: active (running) since 四 2018-05-17 11:42:02 CST; 2h 5min ago
Docs: man:mysqld(8)
http://dev.mysql.com/doc/refman/en/using-systemd.html
Main PID: 29959 (mysqld)
CGroup: /system.slice/mysqld.service
└─29959 /opt/mysql/bin/mysqld --defaults-file=/etc/my.cnf
5月 17 11:42:02 tcloud-118 systemd[1]: Started MySQL Server.
然后導(dǎo)入到mysql數(shù)據(jù)庫中,slave上的employees數(shù)據(jù)庫不存在則先創(chuàng)建,然后再導(dǎo)入
[root@MySQL-002 ~]# mysql -uroot -p
mysql> create database employees; # 新建這個庫
[root@MySQL-002 ~]# mysql -uroot -p employees < /opt/employees.sql
登錄slave數(shù)據(jù)庫,并做如下設(shè)置
[root@MySQL-002 ~]# mysql -uroot -p
mysql> stop slave; # 關(guān)閉slave同步,第一次可略過;
mysql> change master to
-> master_host='192.168.1.101', # master的ip
-> master_user='backup', # 備份用戶名
-> master_password='123456', # 密碼
-> master_log_file='mysql-bin.000002', # 三.3,且要與master的參數(shù)一致
-> master_log_pos=1621; # 三.3,且要與master的參數(shù)一致
合寫為:
mysql> change master to master_host='192.168.1.101', master_user='backup', master_password='123456', master_log_file='mysql-bin.000002', master_log_pos=1621;
mysql> start slave; # 啟動同步
mysql> show slave status \G # 查看slave從機的狀態(tài)
*************************** 1. row ***************************
Slave_IO_State: Waiting for master to send event
Master_Host: 192.168.1.101
Master_User: backup
Master_Port: 3306
Connect_Retry: 60
Master_Log_File: mysql-bin.000002
Read_Master_Log_Pos: 1621
Relay_Log_File: relay-bin.000002
Relay_Log_Pos: 320
Relay_Master_Log_File: mysql-bin.000002
Slave_IO_Running: Yes
Slave_SQL_Running: Yes
Replicate_Do_DB:
Replicate_Ignore_DB: mysql
Replicate_Do_Table:
Replicate_Ignore_Table:
Replicate_Wild_Do_Table:
Replicate_Wild_Ignore_Table:
Last_Errno: 0
Last_Error:
Skip_Counter: 0
Exec_Master_Log_Pos: 1621
Relay_Log_Space: 521
Until_Condition: None
Until_Log_File:
Until_Log_Pos: 0
Master_SSL_Allowed: No
Master_SSL_CA_File:
Master_SSL_CA_Path:
Master_SSL_Cert:
Master_SSL_Cipher:
Master_SSL_Key:
Seconds_Behind_Master: 0
Master_SSL_Verify_Server_Cert: No
Last_IO_Errno: 0
Last_IO_Error:
Last_SQL_Errno: 0
Last_SQL_Error:
Replicate_Ignore_Server_Ids:
Master_Server_Id: 101
Master_UUID: 1d3d078c-59a7-11e8-9a08-00163e000b3f
Master_Info_File: mysql.slave_master_info
SQL_Delay: 0
SQL_Remaining_Delay: NULL
Slave_SQL_Running_State: Slave has read all relay log; waiting for more updates
Master_Retry_Count: 86400
Master_Bind:
Last_IO_Error_Timestamp:
Last_SQL_Error_Timestamp:
Master_SSL_Crl:
Master_SSL_Crlpath:
Retrieved_Gtid_Set:
Executed_Gtid_Set: 5037e479-59a7-11e8-a35b-00163e000402:1-3
Auto_Position: 0
Replicate_Rewrite_DB:
Channel_Name:
Master_TLS_Version:
1 row in set (0.00 sec)
mysql>
下面對應(yīng)參數(shù)相同代表設(shè)置成功,0延時;
Slave_IO_Running: Yes
Slave_SQL_Running: Yes
Seconds_Behind_Master: 0
mysql> unlock tables;
mysql> use employees;
mysql> create table test001(id int auto_increment primary key,name varchar(20) not null);
mysql> insert into test001 values(null,'will');
mysql> insert into test001 values(null,'jim');
mysql> insert into test001 values(null,'tom');
mysql> select * from employees.test001;
+----+------+
| id | name |
+----+------+
| 1 | will |
| 2 | jim |
| 3 | tom |
+----+------+
3 rows in set (0.01 sec)
mysql> use employees;
mysql> select * from employees.test001;
+----+------+
| id | name |
+----+------+
| 1 | will |
| 2 | jim |
| 3 | tom |
+----+------+
mysql> drop table employees.test001;
mysql> use employees;
mysql> show tables;
以上實驗證明主從同步成功!?。?/p>
1、show slave status 顯示參數(shù) Seconds_Behind_Master不為0,這個數(shù)值可能會很大
2、show slave status 顯示參數(shù) Relay_Master_Log_File和Master_Log_File顯示bin-log的編號相差很大,說明bin-log在從庫上沒有及時同步,所以近期執(zhí)行的bin-log和當(dāng)前IO線程所讀的bin-log相差很大
3、mysql的從庫數(shù)據(jù)目錄下存在大量mysql-relay-log日志,該日志同步完成之后就會被系統(tǒng)自動刪除,存在大量日志,說明主從同步延遲很厲害
mysql主從同步原理:
主庫針對寫操作,順序?qū)慴inlog,從庫單線程去主庫順序讀”寫操作的binlog”,從庫取到binlog在本地原樣執(zhí)行(隨機寫),來保證主從數(shù)據(jù)邏輯上一致。
mysql的主從復(fù)制都是單線程的操作,主庫對所有DDL和DML產(chǎn)生binlog,binlog是順序?qū)?,所以效率很高,slave的Slave_IO_Running線程到主庫取日志,效率比較高,下一步,問題來了,slave的Slave_SQL_Running線程將主庫的DDL和DML操作在slave實施。DML和DDL的IO操作是隨即的,不是順序的,成本高很多,還可能可slave上的其他查詢產(chǎn)生lock爭用,由于Slave_SQL_Running也是單線程的,所以一個DDL卡主了,需要執(zhí)行10分鐘,那么所有之后的DDL會等待這個DDL執(zhí)行完才會繼續(xù)執(zhí)行,這就導(dǎo)致了延時。
有朋友會問:“主庫上那個相同的DDL也需要執(zhí)行10分,為什么slave會延時?”,答案是master可以并發(fā),Slave_SQL_Running線程卻不可以。
當(dāng)主庫的TPS并發(fā)較高時,產(chǎn)生的DDL數(shù)量超過slave一個sql線程所能承受的范圍,那么延時就產(chǎn)生了,當(dāng)然還有就是可能與slave的大型query語句產(chǎn)生了鎖等待。
首要原因:數(shù)據(jù)庫在業(yè)務(wù)上讀寫壓力太大,CPU計算負荷大,網(wǎng)卡負荷大,硬盤隨機IO太高
次要原因:讀寫binlog帶來的性能影響,網(wǎng)絡(luò)傳輸延遲。
mysqlbinlog --no-defaults -v -v --base64-output=DECODE-ROWS /usr/local/mysql/log/relay-bin.004764 --start-position=94813395 |more
其中:
mysqlbinlog mysql-bin.001314 | awk '/Table_map/{print $11}'|sort |uniq -c|sort -n
1.業(yè)務(wù)的持久化層的實現(xiàn)采用分庫架構(gòu),mysql服務(wù)可平行擴展,分散壓力。
2.單個庫讀寫分離,一主多從,主寫從讀,分散壓力。這樣從庫壓力比主庫高,保護主庫。
3.服務(wù)的基礎(chǔ)架構(gòu)在業(yè)務(wù)和mysql之間加入memcache或者redis的cache層。降低mysql的讀壓力。
4.不同業(yè)務(wù)的mysql物理上放在不同機器,分散壓力。
5.使用比主庫更好的硬件設(shè)備作為slave
總結(jié),mysql壓力小,延遲自然會變小。
1.采用好服務(wù)器,比如4u比2u性能明顯好,2u比1u性能明顯好。
2.存儲用ssd或者盤陣或者san,提升隨機寫的性能。
3.主從間保證處在同一個交換機下面,并且是萬兆環(huán)境。
總結(jié),硬件強勁,延遲自然會變小。一句話,縮小延遲的解決方案就是花錢和花時間。
1、sync_binlog在slave端設(shè)置為0
2、–logs-slave-updates 從服務(wù)器從主服務(wù)器接收到的更新不記入它的二進制日志。
3、直接禁用slave端的binlog
4、slave端,如果使用的存儲引擎是innodb,innodb_flush_log_at_trx_commit =2
主庫是寫,對數(shù)據(jù)安全性較高,比如sync_binlog=1,innodb_flush_log_at_trx_commit = 1 之類的設(shè)置是需要的
而slave則不需要這么高的數(shù)據(jù)安全,完全可以講sync_binlog設(shè)置為0或者關(guān)閉binlog,innodb_flushlog也可以設(shè)置為0來提高sql的執(zhí)行效率
MySQL提供一個sync_binlog參數(shù)來控制數(shù)據(jù)庫的binlog刷到磁盤上去。
默認,sync_binlog=0,表示MySQL不控制binlog的刷新,由文件系統(tǒng)自己控制它的緩存的刷新。這時候的性能是最好的,但是風(fēng)險也是最大的。一旦系統(tǒng)Crash,在binlog_cache中的所有binlog信息都會被丟失。
如果sync_binlog>0,表示每sync_binlog次事務(wù)提交,MySQL調(diào)用文件系統(tǒng)的刷新操作將緩存刷下去。最安全的就是sync_binlog=1了,表示每次事務(wù)提交,MySQL都會把binlog刷下去,是最安全但是性能損耗最大的設(shè)置。這樣的話,在數(shù)據(jù)庫所在的主機操作系統(tǒng)損壞或者突然掉電的情況下,系統(tǒng)才有可能丟失1個事務(wù)的數(shù)據(jù)。
但是binlog雖然是順序IO,但是設(shè)置sync_binlog=1,多個事務(wù)同時提交,同樣很大的影響MySQL和IO性能。
雖然可以通過group commit的補丁緩解,但是刷新的頻率過高對IO的影響也非常大。對于高并發(fā)事務(wù)的系統(tǒng)來說,
“sync_binlog”設(shè)置為0和設(shè)置為1的系統(tǒng)寫入性能差距可能高達5倍甚至更多。
所以很多MySQL DBA設(shè)置的sync_binlog并不是最安全的1,而是2或者是0。這樣犧牲一定的一致性,可以獲得更高的并發(fā)和性能。
默認情況下,并不是每次寫入時都將binlog與硬盤同步。因此如果操作系統(tǒng)或機器(不僅僅是MySQL服務(wù)器)崩潰,有可能binlog中最后的語句丟失了。要想防止這種情況,你可以使用sync_binlog全局變量(1是最安全的值,但也是最慢的),使binlog在每N次binlog寫入后與硬盤同步。即使sync_binlog設(shè)置為1,出現(xiàn)崩潰時,也有可能表內(nèi)容和binlog內(nèi)容之間存在不一致性。
抱怨Innodb比MyISAM慢100倍?那么你大概是忘了調(diào)整這個值。
默認值1的意思是每一次事務(wù)提交或事務(wù)外的指令都需要把日志寫入(flush)硬盤,這是很費時的。特別是使用電池供電緩存(Battery backed up cache)時。
設(shè)成2對于很多運用,特別是從MyISAM表轉(zhuǎn)過來的是可以的,它的意思是不寫入硬盤而是寫入系統(tǒng)緩存。日志仍然會每秒flush到硬盤,所以你一般不會丟失超過1-2秒的更新。
設(shè)成0會更快一點,但安全方面比較差,即使MySQL掛了也可能會丟失事務(wù)的數(shù)據(jù)。而值2只會在整個操作系統(tǒng) 掛了時才可能丟數(shù)據(jù)。
master端
修改linux、Unix文件系統(tǒng)中文件的etime屬性, 由于每當(dāng)讀文件時OS都會將讀取操作發(fā)生的時間回寫到磁盤上,對于讀操作頻繁的數(shù)據(jù)庫文件來說這是沒必要的,只會增加磁盤系統(tǒng)的負擔(dān)影響I/O性能。可以通過設(shè)置文件系統(tǒng)的mount屬性,組織操作系統(tǒng)寫atime信息,在linux上的操作為:
打開/etc/fstab,加上noatime參數(shù)
/dev/sdb1 /data reiserfs noatime 1 2
然后重新mount文件系統(tǒng)
mount -oremount /data
看了以上關(guān)于MySQL 5.7 主從原理、配置及測試講義,希望能給大家在實際運用中帶來一定的幫助。本文由于篇幅有限,難免會有不足和需要補充的地方,如有需要更加專業(yè)的解答,可在官網(wǎng)聯(lián)系我們的24小時售前售后,隨時幫您解答問題的。