MySQL cluster: Difference between revisions

From Hobbynet Admin Wiki
Jump to navigation Jump to search
 
(60 intermediate revisions by 3 users not shown)
Line 2: Line 2:
Om te zorgen dat onze database server ook volledig redundant is hebben we hier een cluster gemaakt, onze loadbalancer zorgt er voor dat verkeer of op db01 of op db02 terecht komt.
Om te zorgen dat onze database server ook volledig redundant is hebben we hier een cluster gemaakt, onze loadbalancer zorgt er voor dat verkeer of op db01 of op db02 terecht komt.
=opzet=
=opzet=
== normale situatie ==
Dit geeft weer hoe in normale situaties het verkeer loopt.<br>
[[File:DBnormaal.png]]


[[File:DBnormaal.dia]]
= loadbalancing =
Onze servers zijn opgezet in een master-master setup, dus er kan op beide gemuteerd worden, de loadbalancer verspreid de mutatie naar de andere server.<br>
'''belangrijk'''<br>
Op alle clusters moet database lbtest aanwezig zijn met tabel lbtest. Deze tabel moet minimaal 1 record hebben, hier test de loadbalancer namelijk op. De usernaam voor loadbalancer en nagios is lbtest met ww Testing123! deze gebruiker heeft alleen select rechten op deze database


== Loadbalancer faalt ==
= database clusters =
Dit geeft weer hoe in een situatie het verkeer loopt als er een loadbalancer faalt.<br>
== dbclus01-int ==
[[File:DBlbfaalt.png]]
Dit cluster bestaat uit mysql01 en mysql02


[[File:DBlbfaalt.dia]]
== hcc-dbclus02-int ==
Dit cluster bestaat uit mysql03 en mysql04


== Database server faalt ==
== dbclus04-int ==
= database cluster 01 (hobbynet) dbclus01-int =
Dit cluster bestaat uit mysql05 en mysql06
== configuratie ==
== dbclus05-int ==
De twee server staan in de master master replicatie, dit wil zeggen als er mutatie wordt gedaan op server 1 dat deze wordt door gevoerd op server 2.
Dit cluster bestaat uit mysql07 en mysql08
De loadbalancer zorgt er voor dat server 1 altijd wordt aangesproken, is server 1 down dat wordt er omgeschakeld naar server2 zonder dat gebruiker hier iets van merkt.


== config files ==
=configuratie =  
=== db01 ===
de config aanpassingen die gedaan zijn op standaard config zijn:
<pre>
server-id              = 1
replicate-same-server-id = 0
auto-increment-increment = 2
auto-increment-offset = 1


master-host = 172.31.1.214
== configuratie files ==  
master-user = repl
al deze bestanden bevinden zich in /etc/mysql/mysql.conf.d
master-password = fxq5jLqWDYXYKhPD
master-connect-retry = 60
log_bin                = /var/log/mysql/mysql-bin.log
expire_logs_days        = 10
max_binlog_size        = 100M
binlog_do_db            = bas
# lbtest mag nooit weg ivm loadbalancing test of mysql nog werkt!
binlog_do_db            = lbtest
binlog_do_db            = xibo
binlog_do_db            = groepentest
binlog_do_db            = groepen
binlog_do_db            = groepen-test
binlog_do_db            = watersport
binlog_do_db            = watersport-test
binlog_do_db            = z-drenthe
binlog_do_db            = z-drenthe-test
binlog_do_db            = z-drenthe-hulp
binlog_do_db            = z-drenthe-hulp-test
binlog_do_db            = vandenbussche
binlog_do_db            = vandenbussche-test
binlog_do_db            = mz-limburg
binlog_do_db            = mz-limburg-test
binlog_do_db            = hccm-gg
binlog_do_db            = hccm-gg-test
binlog_do_db            = afd-gouda
binlog_do_db            = afd-gouda-test
binlog_do_db            = flightsimulator
binlog_do_db            = flightsimulator-test
binlog_do_db            = deventer
binlog_do_db            = deventer-test
binlog_do_db            = basic
binlog_do_db            = basic-test
binlog_do_db            = afd-arnhem
binlog_do_db            = afd-arnhem-test
binlog_do_db            = afd-almere
binlog_do_db            = afd-almere-test
binlog_do_db            = hcc-dagen
binlog_do_db            = basd
binlog_do_db            = basd-test
binlog_do_db            = int-nlb
binlog_do_db            = int-nlb-test
binlog_ignore_db        = mysql


</pre>
=== mysqld.cnf ===
In deze file hebben we 1 aanpassing gedaan we hebben
bind-address          = 127.0.0.1
voorzien van commentaar


=== db02 ===
=== ssl.cnf ===
de config aanpassingen die gedaan zijn op standaard config zijn:
Mysql beschikt over ssl daarom is dit ook geconfigureerd, onder andere de replicatie gebruikt het. De ssl.cnf file ziet er zo uit:
<pre>
[mysqld]
server-id              = 2
ssl-ca=/disk/site/etc/ssl/hobby.nl/CA-bundel.crt
replicate-same-server-id = 0
ssl-cert=/disk/site/etc/ssl/hobby.nl/hobby.nl.crt
auto-increment-increment = 2
ssl-key=/disk/site/etc/ssl/hobby.nl/hobby.nl.key
auto-increment-offset = 1


master-host = 172.31.1.213
=== replicatie.cnf ===
master-user = repl
Bij de replicatie is het belangrijk dat de oneven servers het server id 1 hebben en de even server id 2. Er mogen nooit 2 de zelfde id's zijn. Ook is de waarde van auto-increment-offset belangrijk; bij de oneven server is dat 1 en bij even 2. <br>
master-password = fxq5jLqWDYXYKhPD
master-connect-retry = 60


log_bin                = /var/log/mysql/mysql-bin.log
Voor oneven server ziet hij er zo uit:
expire_logs_days        = 10
#sql mode uit voor toestaan lege velden
max_binlog_size        = 100M
sql-mode                        =       ""
binlog_do_db            = bas
server-id                      =       1
# lbtest mag nooit weg ivm loadbalancing test of mysql nog werkt!
replicate-same-server-id        =       0
binlog_do_db            = lbtest
auto-increment-increment        =       2
binlog_do_db            = xibo
auto-increment-offset          =       1
binlog_do_db            = groepentest
relay-log                      =       mysql01-relay-bin
binlog_do_db            = groepen
binlog_format                  =       "STATEMENT"
binlog_do_db            = groepen-test
replicate-ignore-db            =       information_schema
binlog_do_db            = watersport
replicate-ignore-db            =       mysql
binlog_do_db            = watersport-test
binlog-ignore-db                =       information_schema
binlog_do_db            = z-drenthe
binlog-ignore-db                =       mysql
binlog_do_db            = z-drenthe-test
log_bin                        =       /var/log/mysql/mysql-bin.log
binlog_do_db            = z-drenthe-hulp
slave-skip-errors = 1062
binlog_do_db            = z-drenthe-hulp-test
binlog_do_db            = vandenbussche
binlog_do_db            = vandenbussche-test
binlog_do_db            = mz-limburg
binlog_do_db            = mz-limburg-test
binlog_do_db            = hccm-gg
binlog_do_db            = hccm-gg-test
binlog_do_db            = afd-gouda
binlog_do_db            = afd-gouda-test
binlog_do_db            = flightsimulator
binlog_do_db            = flightsimulator-test
binlog_do_db            = deventer
binlog_do_db            = deventer-test
binlog_do_db            = basic
binlog_do_db            = basic-test
binlog_do_db            = afd-arnhem
binlog_do_db            = afd-arnhem-test
binlog_do_db            = afd-almere
binlog_do_db            = afd-almere-test
binlog_do_db            = hcc-dagen
binlog_do_db            = hcc-dagen-test
binlog_do_db            = basd
binlog_do_db            = basd-test
binlog_do_db            = int-nlb
binlog_do_db            = int-nlb-test
binlog_ignore_db        = mysql


</pre>
=== credentials.cnf ===
Op de server is root voor localhost voorzien van een wachtwoord om toch mysqldump en het mysql commando te kunnen gebruiken. De eigenaar van deze file is root:mysql met permissies 640.


= database cluster 02 (hcc.nl) hcc-dbclus02-int=
=== tunning.cnf ===
== configuratie ==
Deze file bevat performance tuning. Dit is server specifiek, maar er moet in ieder geval deze regel in staan :
De twee server staan in de master master replicatie, dit wil zeggen als er mutatie wordt gedaan op server 1 dat deze wordt door gevoerd op server 2.
[mysqld]
De loadbalancer zorgt er voor dat server 1 altijd wordt aangesproken, is server 1 down dat wordt er omgeschakeld naar server2 zonder dat gebruiker hier iets van merkt.
skip-name-resolve    =       1
== config files ==
=== hcc-db03 ===
de config aanpassingen die gedaan zijn op standaard config zijn:
<pre>
server-id              = 3
log_bin                = /var/log/mysql/mysql-bin.log
replicate-same-server-id = 0
auto-increment-increment = 2
auto-increment-offset = 1
master-host = 172.31.1.216
master-user = repl
master-password = fxq5jLqWDYXYKhPD
master-connect-retry = 60
expire_logs_days        = 10
max_binlog_size        = 100M
binlog_do_db            = bas
# lbtest mag nooit weg ivm loadbalancing test of mysql nog werkt!
binlog_do_db            = lbtest
binlog_do_db            = www-prod
binlog_do_db            = www-test
binlog_do_db            = hcc-gebruikers
binlog_do_db            = hcc-gebruikers-test
binlog_ignore_db        = mysql


</pre>
= starten/herstellen replicatie =
== herstel ==
Bij herstellen moet je op beide servers de volgende sql commando's uitvoeren:
stop slave;
reset slave;
Op de '''defecte''' server verwijder je vervolgens alle databases '''nadat je eerst een backup hebt gemaakt'''


=== hcc-db04 ===
=== start replicatie ===  
de config aanpassingen die gedaan zijn op standaard config zijn:
Zorg er voor dat de database niet meer benaderd/gemuteerd wordt. Zet hem uit in de loadbalancer, zowel voor IPv4 als voor IPv6<br>
<pre>
Haal bij de '''goede''' server de log positie op:
server-id              = 4
mysql> show master status\G
replicate-same-server-id = 0
auto-increment-increment = 2
auto-increment-offset = 2


master-host = 172.31.1.215
*************************** 1. row ***************************
master-user = repl
              File: mysql-bin.000057
master-password = fxq5jLqWDYXYKhPD
          Position: 71061044
master-connect-retry = 60
      Binlog_Do_DB:
log_bin                = /var/log/mysql/mysql-bin.log
  Binlog_Ignore_DB: information_schema,mysql
expire_logs_days        = 10
Executed_Gtid_Set:
max_binlog_size        = 100M
1 row in set (0.00 sec)
binlog_do_db            = bas
Noteer de file en position<br>
# lbtest mag nooit weg ivm loadbalancing test of mysql nog werkt!
maak mysqldump en pipe die naar de gefaalde server
binlog_do_db            = lbtest
  mysqldump --all-databases |mysql -h mysql0*-int -u jegebruikersnaam -p
binlog_do_db            = www-prod
Vul je wachtwoord in en de database wordt gedump naar de ander server (dit kan effe duren).
binlog_do_db            = www-test
binlog_do_db            = hcc-gebruikers
binlog_do_db            = hcc-gebruikers-test
binlog_ignore_db        = mysql


</pre>
Op de andere server log je nu in en geef je het volgende commando's in mysql, vul dan het password in van repl user en position bij master_log_pos en de file bij master_log_file
CHANGE MASTER TO MASTER_HOST='mysql0*-int.hobby.nl', MASTER_USER='repl', '''MASTER_PASSWORD='******',''' '''MASTER_LOG_FILE='mysql-bin.000057',''' '''MASTER_LOG_POS=71061044,''' MASTER_SSL = 1, MASTER_SSL_CA = '/disk/site/etc/ssl/hobby.nl/CA-bundel.crt', MASTER_SSL_CERT = '/disk/site/etc/ssl/hobby.nl/hobby.nl.crt', MASTER_SSL_KEY = '/disk/site/etc/ssl/hobby.nl/hobby.nl.key';
start slave;


= database aan replicatie toevoegen =
Nu moeten we controleren of de replicatie deze kant op loopt, dit doe je met het commando
Op beide database servers moet in /etc/mysql/my.cnf het volgende regeltje worden toegevoegd
mysql> show slave status\G
<pre>
*************************** 1. row ***************************
binlog_do_db            = databasenaam
                Slave_IO_State: Waiting for master to send event
</pre>
                  Master_Host: mysql02-int.hobby.nl
Hierna moet je op db01 en db02 mysql herstarten dit kan zonder probleem door de loadbalancing.<br>
                  Master_User: repl
Hierna moet je op db01 en db02 de database aanmaken en user met bijbehorende rechten aanmaken.<br>
                  Master_Port: 3306
'''rechten worden niet gerepliceerd'''
                Connect_Retry: 60
 
              Master_Log_File: mysql-bin.000026
= database uit replicatie verwijderen =
          Read_Master_Log_Pos: 72292974
Op beide database servers moet in /etc/mysql/my.cnf het volgende regeltje worden verwijderd:
                Relay_Log_File: mysql01-relay-bin.000056
<pre>
                Relay_Log_Pos: 72293189
binlog_do_db           = databasenaam
        Relay_Master_Log_File: mysql-bin.000026
</pre>
              '''Slave_IO_Running: Yes'''
Hierna moet je op db01 en db02 mysql herstarten dit kan zonder probleem door de loadbalancing.<br>
            '''Slave_SQL_Running: Yes'''
Hierna moet je op db01 en db02 de database eventueel verwijderen en eventueel de user met bijbehorende rechten verwijderen/aanpassen.<br>
              Replicate_Do_DB:
 
          Replicate_Ignore_DB: information_schema,mysql
= links =
            Replicate_Do_Table:
http://www.hbyconsultancy.com/blog/create-a-master-master-mysql-replication-ubuntu-server-10-04-x64.html de handleiding die ik gebruikt hebt
        Replicate_Ignore_Table:
      Replicate_Wild_Do_Table:
  Replicate_Wild_Ignore_Table:
                    Last_Errno: 0
                    Last_Error:
                  Skip_Counter: 0
           Exec_Master_Log_Pos: 72292974
              Relay_Log_Space: 72293447
              Until_Condition: None
                Until_Log_File:
                Until_Log_Pos: 0
            Master_SSL_Allowed: Yes
            Master_SSL_CA_File: /disk/site/etc/ssl/hobby.nl/CA-bundel.crt
            Master_SSL_CA_Path:
              Master_SSL_Cert: /disk/site/etc/ssl/hobby.nl/hobby.nl.crt
            Master_SSL_Cipher:
                Master_SSL_Key: /disk/site/etc/ssl/hobby.nl/hobby.nl.key
        Seconds_Behind_Master: 0
Master_SSL_Verify_Server_Cert: No
                Last_IO_Errno: 0
                Last_IO_Error:
                Last_SQL_Errno: 0
                Last_SQL_Error:
  Replicate_Ignore_Server_Ids:
              Master_Server_Id: 2
                  Master_UUID: f0de239e-2c10-11eb-b1d1-005056a982be
              Master_Info_File: mysql.slave_master_info
                    SQL_Delay: 0
          SQL_Remaining_Delay: NULL
      Slave_SQL_Running_State: Slave has read all relay log; waiting for more updates
            Master_Retry_Count: 86400
                  Master_Bind:
      Last_IO_Error_Timestamp:
      Last_SQL_Error_Timestamp:
                Master_SSL_Crl:
            Master_SSL_Crlpath:
            Retrieved_Gtid_Set:
            Executed_Gtid_Set:
                Auto_Position: 0
          Replicate_Rewrite_DB:
                  Channel_Name:
            Master_TLS_Version:
        Master_public_key_path:
        Get_master_public_key: 0
            Network_Namespace:
1 row in set, 1 warning (0.00 sec)
Controleer of '''Slave_IO_Running''' en '''Slave_SQL_Running''' op yes staan.<br>
Als dit is het geval moeten we de replicatie naar de 1e server ook herstellen. Dit doe je door dezelfde stappen te herhalen vanaf 'show master status'

Latest revision as of 12:15, 30 December 2020

doel

Om te zorgen dat onze database server ook volledig redundant is hebben we hier een cluster gemaakt, onze loadbalancer zorgt er voor dat verkeer of op db01 of op db02 terecht komt.

opzet

loadbalancing

Onze servers zijn opgezet in een master-master setup, dus er kan op beide gemuteerd worden, de loadbalancer verspreid de mutatie naar de andere server.
belangrijk
Op alle clusters moet database lbtest aanwezig zijn met tabel lbtest. Deze tabel moet minimaal 1 record hebben, hier test de loadbalancer namelijk op. De usernaam voor loadbalancer en nagios is lbtest met ww Testing123! deze gebruiker heeft alleen select rechten op deze database

database clusters

dbclus01-int

Dit cluster bestaat uit mysql01 en mysql02

hcc-dbclus02-int

Dit cluster bestaat uit mysql03 en mysql04

dbclus04-int

Dit cluster bestaat uit mysql05 en mysql06

dbclus05-int

Dit cluster bestaat uit mysql07 en mysql08

configuratie

configuratie files

al deze bestanden bevinden zich in /etc/mysql/mysql.conf.d

mysqld.cnf

In deze file hebben we 1 aanpassing gedaan we hebben

bind-address           = 127.0.0.1

voorzien van commentaar

ssl.cnf

Mysql beschikt over ssl daarom is dit ook geconfigureerd, onder andere de replicatie gebruikt het. De ssl.cnf file ziet er zo uit:

[mysqld]
ssl-ca=/disk/site/etc/ssl/hobby.nl/CA-bundel.crt
ssl-cert=/disk/site/etc/ssl/hobby.nl/hobby.nl.crt
ssl-key=/disk/site/etc/ssl/hobby.nl/hobby.nl.key

replicatie.cnf

Bij de replicatie is het belangrijk dat de oneven servers het server id 1 hebben en de even server id 2. Er mogen nooit 2 de zelfde id's zijn. Ook is de waarde van auto-increment-offset belangrijk; bij de oneven server is dat 1 en bij even 2.

Voor oneven server ziet hij er zo uit:

#sql mode uit voor toestaan lege velden
sql-mode                        =       ""
server-id                       =       1
replicate-same-server-id        =       0
auto-increment-increment        =       2
auto-increment-offset           =       1
relay-log                       =       mysql01-relay-bin
binlog_format                   =       "STATEMENT"
replicate-ignore-db             =       information_schema
replicate-ignore-db             =       mysql
binlog-ignore-db                =       information_schema
binlog-ignore-db                =       mysql
log_bin                         =       /var/log/mysql/mysql-bin.log
slave-skip-errors = 1062

credentials.cnf

Op de server is root voor localhost voorzien van een wachtwoord om toch mysqldump en het mysql commando te kunnen gebruiken. De eigenaar van deze file is root:mysql met permissies 640.

tunning.cnf

Deze file bevat performance tuning. Dit is server specifiek, maar er moet in ieder geval deze regel in staan :

[mysqld]
skip-name-resolve    =       1

starten/herstellen replicatie

herstel

Bij herstellen moet je op beide servers de volgende sql commando's uitvoeren:

stop slave;
reset slave;

Op de defecte server verwijder je vervolgens alle databases nadat je eerst een backup hebt gemaakt

start replicatie

Zorg er voor dat de database niet meer benaderd/gemuteerd wordt. Zet hem uit in de loadbalancer, zowel voor IPv4 als voor IPv6
Haal bij de goede server de log positie op:

mysql> show master status\G
*************************** 1. row ***************************
             File: mysql-bin.000057
         Position: 71061044
     Binlog_Do_DB:
 Binlog_Ignore_DB: information_schema,mysql
Executed_Gtid_Set:
1 row in set (0.00 sec)

Noteer de file en position
maak mysqldump en pipe die naar de gefaalde server

 mysqldump --all-databases |mysql -h mysql0*-int -u jegebruikersnaam -p

Vul je wachtwoord in en de database wordt gedump naar de ander server (dit kan effe duren).

Op de andere server log je nu in en geef je het volgende commando's in mysql, vul dan het password in van repl user en position bij master_log_pos en de file bij master_log_file

CHANGE MASTER TO MASTER_HOST='mysql0*-int.hobby.nl', MASTER_USER='repl', MASTER_PASSWORD='******', MASTER_LOG_FILE='mysql-bin.000057', MASTER_LOG_POS=71061044, MASTER_SSL = 1, MASTER_SSL_CA = '/disk/site/etc/ssl/hobby.nl/CA-bundel.crt', MASTER_SSL_CERT = '/disk/site/etc/ssl/hobby.nl/hobby.nl.crt', MASTER_SSL_KEY = '/disk/site/etc/ssl/hobby.nl/hobby.nl.key';
start slave;

Nu moeten we controleren of de replicatie deze kant op loopt, dit doe je met het commando

mysql> show slave status\G
*************************** 1. row ***************************
               Slave_IO_State: Waiting for master to send event
                  Master_Host: mysql02-int.hobby.nl
                  Master_User: repl
                  Master_Port: 3306
                Connect_Retry: 60
              Master_Log_File: mysql-bin.000026
          Read_Master_Log_Pos: 72292974
               Relay_Log_File: mysql01-relay-bin.000056
                Relay_Log_Pos: 72293189
        Relay_Master_Log_File: mysql-bin.000026
             Slave_IO_Running: Yes
            Slave_SQL_Running: Yes
              Replicate_Do_DB:
          Replicate_Ignore_DB: information_schema,mysql
           Replicate_Do_Table:
       Replicate_Ignore_Table:
      Replicate_Wild_Do_Table:
  Replicate_Wild_Ignore_Table:
                   Last_Errno: 0
                   Last_Error:
                 Skip_Counter: 0
          Exec_Master_Log_Pos: 72292974
              Relay_Log_Space: 72293447
              Until_Condition: None
               Until_Log_File:
                Until_Log_Pos: 0
           Master_SSL_Allowed: Yes
           Master_SSL_CA_File: /disk/site/etc/ssl/hobby.nl/CA-bundel.crt
           Master_SSL_CA_Path:
              Master_SSL_Cert: /disk/site/etc/ssl/hobby.nl/hobby.nl.crt
            Master_SSL_Cipher:
               Master_SSL_Key: /disk/site/etc/ssl/hobby.nl/hobby.nl.key
        Seconds_Behind_Master: 0
Master_SSL_Verify_Server_Cert: No
                Last_IO_Errno: 0
                Last_IO_Error:
               Last_SQL_Errno: 0
               Last_SQL_Error:
  Replicate_Ignore_Server_Ids:
             Master_Server_Id: 2
                  Master_UUID: f0de239e-2c10-11eb-b1d1-005056a982be
             Master_Info_File: mysql.slave_master_info
                    SQL_Delay: 0
          SQL_Remaining_Delay: NULL
      Slave_SQL_Running_State: Slave has read all relay log; waiting for more updates
           Master_Retry_Count: 86400
                  Master_Bind:
      Last_IO_Error_Timestamp:
     Last_SQL_Error_Timestamp:
               Master_SSL_Crl:
           Master_SSL_Crlpath:
           Retrieved_Gtid_Set:
            Executed_Gtid_Set:
                Auto_Position: 0
         Replicate_Rewrite_DB:
                 Channel_Name:
           Master_TLS_Version:
       Master_public_key_path:
        Get_master_public_key: 0
            Network_Namespace:
1 row in set, 1 warning (0.00 sec)

Controleer of Slave_IO_Running en Slave_SQL_Running op yes staan.
Als dit is het geval moeten we de replicatie naar de 1e server ook herstellen. Dit doe je door dezelfde stappen te herhalen vanaf 'show master status'