首頁 >資料庫 >Redis >Redis中主從複製、哨兵、群集的範例分析

Redis中主從複製、哨兵、群集的範例分析

WBOY
WBOY轉載
2023-05-29 13:52:54859瀏覽

一、Redis 主從複製

1. 主從複製的概述

主從複製是將一個Redis伺服器的資料複製到其他Redis伺服器的過程。前者稱為主節點(Master),後者稱為從節點(Slave);資料的複製是單向的,只能由主節點到從節點。

預設情況下,每台Redis伺服器都是主節點;且一個主節點可以有多個從節點,但一個從節點只能有一個主節點。 【相關推薦:Redis影片教學】

2. 主從複製的作用

資料冗餘:主從複製實現了數據的熱備份,是持久化之外的一種資料冗餘方式。
故障復原:當主節點出現問題時,可以由從節點提供服務,實現快速的故障復原;實際上是一種服務的冗餘。
負載平衡:在主從複製的基礎上,配合讀寫分離,可以由主節點提供寫入服務,由從節點提供讀取服務(即寫Redis資料時應用連接主節點,讀Redis資料時應用連線從節點),分擔伺服器負載;有其是在寫入少讀多的場景下,透過多個從節點分擔讀取負載,可以大幅提高Redis伺服器的並發量。
高可用基石:除了上述作用以外,主從複製還是哨兵和集群能夠實施的基礎,因此說主從複製是Redis高可用的基礎。

3. 主從複製的流程

Redis中主從複製、哨兵、群集的範例分析

#(1)若啟動一個Slave機器進程,則它會向Master機器發送一個「sync command」命令,請求同步連線。
(2)無論是第一次連接還是重新連接,Master機器都會啟動一個後台進程,將資料快照保存到資料檔案中(執行rdb操作),同時Master也會記錄修改資料的所有命令並緩存在數據文件中。
(3)後台程序完成快取操作之後,Master機器就會向Slave機器發送資料文件,Slave端機器將資料文件保存到硬碟上,然後將其載入到記憶體中,接著Master機器就會修改資料的所有操作一併發送給Slave端機器。若Slave故障導致宕機,則恢復正常會自動重新連線。
(4)Master機器收到Slave端機器的連接後,將其完整的資料檔案傳送給Slave端機器,如果Master同時收到多個Slave發送的同步請求,則Master會在後台啟動一個進程以保存資料文件,然後將其發送給所有的Slave端機器,確保所有的Slave端機器都正常。

4. 建立Redis主從複製

4.1 伺服器IP設定

192.168 .122.10192.168.122.11
#伺服器 主機名稱 IP
#Master節點 master
Slave1節點 slave1
#######Slave2節點########################################################################################################################### ##slave2######192.168.122.12#############

4.2 各伺服器防火牆環境

systemctl stop firewalld && systemctl disable firewalld
setenforce 0

4.3 各伺服器安裝Redis

redis 安裝詳見往期部落格:
NoSQL之redis 詳解

传入安装包到/opt目录
yum install -y gcc gcc-c++ make
tar zxvf redis-5.0.7.tar.gz -C /opt/
cd /opt/redis-5.0.7/
make
make PREFIX=/usr/local/redis install
cd /opt/redis-5.0.7/utils
./install_server.sh
......
Please select the redis executable path []
#输入/uar/local/redis/bin/redis-server
ln -s /usr/local/redis/bin/* /usr/local/bin/

4.4 修改Redis設定檔(Master節點運算)

Master:192.168.122.10

[root@master ~]# vim /etc/redis/6379.conf
 
##70行,修改监听地址为0.0.0.0,表示监听任何地址
bind 0.0.0.0
##137行,开启守护进程
daemonize yes
##172行,指定日志文件目录
logfile /var/log/redis_6379.log
##264行,指定工作日志
dir /var/lib/redis/6379
##700行,开启AOF持久化功能
appendonly yes

4.5 修改Redis設定檔(Slave節點操作)

Slave1:192.168.122.11

[root@slave1 utils]# vim /etc/redis/6379.conf 
 
##70行,修改监听地址为0.0.0.0,表示监听任何地址
bind 0.0.0.0
##137行,开启守护进程
daemonize yes
##172行,指定日志文件目录
logfile /var/log/redis_6379.log
##264行,指定工作日志
dir /var/lib/redis/6379
##288行,添加要同步的Master节点IP和端口
replicaof 192.168.122.10 6379
##700行,开启AOF持久化功能
appendonly yes
 
[root@slave1 utils]# /etc/init.d/redis_6379 restart
Stopping ...
Redis stopped
Starting Redis server...

Slave2:192.168.122.12

[root@slave2 utils]# vim /etc/redis/6379.conf 
 
##70行,修改监听地址为0.0.0.0,表示监听任何地址
bind 0.0.0.0
##137行,开启守护进程
daemonize yes
##172行,指定日志文件目录
logfile /var/log/redis_6379.log
##264行,指定工作日志
dir /var/lib/redis/6379
##288行,添加要同步的Master节点IP和端口
replicaof 192.168.122.10 6379
##700行,开启AOF持久化功能
appendonly yes
 
[root@slave2 utils]# /etc/init.d/redis_6379 restart
Stopping ...
Redis stopped
Starting Redis server...

4.6 驗證主從效果

4.6.1 在Master節點上看日誌

[root@master ~]# tail -f /var/log/redis_6379.log 
1002:M 23 Sep 2021 16:46:33.569 * Background saving terminated with success
1002:M 23 Sep 2021 16:46:33.569 * Synchronization with replica 192.168.122.11:6379 succeeded
1002:M 23 Sep 2021 16:46:34.519 * Replica 192.168.122.12:6379 asks for synchronization
1002:M 23 Sep 2021 16:46:34.519 * Full resync requested by replica 192.168.122.12:6379
1002:M 23 Sep 2021 16:46:34.519 * Starting BGSAVE for SYNC with target: disk
1002:M 23 Sep 2021 16:46:34.519 * Background saving started by pid 7941
7941:C 23 Sep 2021 16:46:34.521 * DB saved on disk
7941:C 23 Sep 2021 16:46:34.521 * RDB: 0 MB of memory used by copy-on-write
1002:M 23 Sep 2021 16:46:34.591 * Background saving terminated with success
1002:M 23 Sep 2021 16:46:34.591 * Synchronization with replica 192.168.122.12:6379 succeeded

4.6.2 在Master節點驗證從節點

[root@master ~]# redis-cli info replication
# Replication
role:master
connected_slaves:2
slave0:ip=192.168.122.11,port=6379,state=online,offset=910,lag=0
slave1:ip=192.168.122.12,port=6379,state=online,offset=910,lag=0
master_replid:9d7fa17fc64cd573f5b81457183831d97dfad7dc
master_replid2:0000000000000000000000000000000000000000
master_repl_offset:910
second_repl_offset:-1
repl_backlog_active:1
repl_backlog_size:1048576
repl_backlog_first_byte_offset:1
repl_backlog_histlen:910

二、Redis 哨兵模式

1. 哨兵模式的核心功能

在主從複製的基礎上,哨兵引入了主節點的自動故障轉移。

2. 哨兵模式的原理

哨兵(sentinel)是一個分散式系統,用於對主從結構中每台伺服器進行監控,當出現故障時透過投票機制選擇新的Master並將所有Slave連接到新的Master。所以整個運行哨兵的叢集的數量不得少於3個節點。

3. 哨兵模式的作用

監控:哨兵會不斷檢查主節點和從節點是否運作正常。
自動故障轉移:當主節點無法正常運作時,哨兵會開始自動故障轉移操作,它會將失效主節點的其中一個從節點升級為新的主節點,並讓其他從節點改為複製新的主節點。
通知提醒:哨兵可以將故障轉移的結果傳送給客戶端。

4. 哨兵模式的結構

哨兵結構由兩個部分組成,哨兵節點和資料節點:
● 哨兵節點:哨兵系統由一個或多個節點組成,哨兵節點是特殊的redis節點,不儲存資料。
● 資料節點:主節點和從節點都是資料節點。

5. 哨兵模式的工作形式

Redis中主從複製、哨兵、群集的範例分析
# 哨兵的啟動依賴主從模式,所以須把主從模式安裝好的情況下再去做哨兵模式,所有節點上都需要部署哨兵模式,哨兵模式會監控所有的Redis工作節點是否正常,當Master出現問題的時候,因為其他節點與主節點失去聯繫,因此會投票,投票過半就會認為這個Master的確出現問題,然後會通知哨兵間,然後從Slaves中選取一個作為新的Master。

6. 故障轉移機制

  • 由哨兵節點定期監控發現主節點是否發生了故障。哨兵節點每秒會發送一次ping命令,以進行心跳偵測並將結果傳送給主節點、從節點和其他哨兵節點。如果主節點在一定時間範圍內不回覆或是回覆錯誤訊息,那麼這個哨兵就會認為這個主節點主觀下線了(單方面的)。當超過半數哨兵節點認為該主節點主觀下線了,這樣就客觀下線了。

  • 當主節點發生故障,此時哨兵節點會透過Raft演算法(選舉演算法)實作選舉機制共同選出一個哨兵節點為leader,來負責處理主節點的故障轉移和通知。所以哨兵叢集的主機數量不得少於三個節點。

  • 由leader哨兵節點執行故障轉移,流程如下:
    ● 將某一個從節點升級為新的主節點,讓其他從節點指向新的主節點;
    ● 若原主節點復原也變成從節點,並指向新的主節點;
    ● 通知客戶端主節點已更換。
    要特別注意的是,客觀下線是主節點才有的概念;如果從節點和哨兵節點發生故障,被哨兵主觀下線後,不會再有後續的客觀下線和故障轉移操作。

7. 主節點的選舉

  • #過濾掉不健康的(已下線的),沒有回覆哨兵ping響應的從節點。

  • 選擇設定檔中從節點優先權配置最高的(replica-priority,預設值為100)。

  • 選擇複製偏移量最大,也就是複製最完整的從節點。

8. 建立Redis哨兵模式

#8.1 伺服器IP設定

##

8.2 各服务器防火墙环境

systemctl stop firewalld && systemctl disable firewalld
setenforce 0

8.3 修改Redis哨兵模式的配置文件(所有节点操作)

vim /opt/redis-5.0.7/sentinel.conf
 
##17行,取消注释,关闭保护模式
protected-mode no
##21行,Redis哨兵默认的监听端口
port 26379
##26行,指定sentienel为后台启动
daemonize yes
##36行,指定日志存放路径
logfile "/var/log/sentinel.log"
##65行,指定数据库存放路径
dir "/var/lib/redis/6379"
##84行,修改,指定该哨兵节点监控192.168.122.10 6379这个主节点,该主节点的名称是mymaster
##最后的2的含义与主节点的故障判定有关;至少需要2个哨兵节点同意,才能判定故障并进行故障转移
sentinel monitor mymaster 192.168.122.10 6379 2
##113行,判定服务器down掉的时间周期,默认30000毫秒(30秒)
sentinel down-after-milliseconds mymaster 30000
##146行,故障节点的最大超时时间为180000毫秒(180秒)
sentinel failover-timeout mymaster 180000

8.4 启动哨兵模式

注意:需先启动master,再启动slave

cd /opt/redis-5.0.7/
redis-sentinel sentinel.conf &

8.5 查看哨兵信息

Master:192.168.122.10

[root@master redis-5.0.7]# redis-cli -p 26379 info sentinel
# Sentinel
sentinel_masters:1
sentinel_tilt:0
sentinel_running_scripts:0
sentinel_scripts_queue_length:0
sentinel_simulate_failure_flags:0
master0:name=mymaster,status=ok,address=192.168.122.10:6379,slaves=2,sentinels=3

三、Redis 群集模式

1. Redis集群的概述

集群,即Redis Cluster,是Redis 3.0开始引入的分布式存储方案。

2. Redis集群

Redis数据分布在多个节点(Node)组成的集群中。集群中的节点分为主节点和从节点;只有主节点负责读写请求和集群信息的维护;从节点只进行主节点数据和状态信息的复制。

3. Redis集群的作用

集群的作用,可以归纳为两点:

3.1 数据分区

数据分区(或称数据分片)是集群最核心的功能。
集群将数据分散到多个节点,一方面突破了Redis单机内存大小的限制,存储容量大大增加;另一方面每个主节点度可以对外提供读服务和写服务,大大提高了集群的响应能力。
Redis单机内存大小受限问题,在介绍持久化和主从复制时都有体积;例如,如果单机内存太大,bgsave和bgrewriteaof的fork操作可能导致主进程阻塞,主从环境下主机切换时可能导致从节点长时间无法提供服务,全量复制阶段主节点的复制缓冲区可能溢出。

3.2 高可用

该集群支持主从复制和类似哨兵一样的主节点自动故障转换功能,即使发生节点故障也能够继续为外部提供服务。

4. Redis集群的数据分片

● Redis集群引入了哈希槽的概念
● Redis集群有16384个哈希槽(编号0-16383)
● 集群的每个节点负责一部分哈希槽
● 每个key通过CRC16校验后对16384取余来决定放置哪个哈希槽,通过这个值,去找到所对应的节点,然后直接跳转到这个对应的节点上进行存取操作。

5. 哈希槽

5.1 哈希槽的分配

Redis中主從複製、哨兵、群集的範例分析

  • 哈希槽可按照集群主机数平均分配(默认分配)
    以3个节点组成的集群为例:
    节点A包含0-5460号哈希槽
    节点B包含5461-10922号哈希槽
    节点C包含10923-16383号哈希槽

  • 也可以根据主机的性能以及功能自定义分配
    以3个节点组成的集群为例:
    节点A性能最差,包含0-2000号哈希值
    节点B性能中等,包含2001-7000号哈希值
    节点C性能最强,包含7001-16383号哈希值

5.2 哈希槽的使用

集群搭建的时候,需要给集群的节点分配插槽,0~16383
在node1执行set a a

  • 使用crc16算法对key进行计算,得到一个数字,然后对这个数字进行求余16384(crc16 : a = 26384l;26384 % 16384 = 10000)

  • 查找包含10000的插槽的节点,找到了node2,自动跳转到node2

  • 在node2上执行set a a命令

node3上执行get a

  • a --> 10000

  • 跳转到node2

  • 在node2执行get a

6. Redis集群的主从复制模型

Redis中主從複製、哨兵、群集的範例分析
集群中具有A、B、C三个节点,如果节点B失败了,整个集群就会因缺少5461-10922这个范围的槽而不可以用。
以每个节点添加一个从节点A1、B1、C1整个集群便有了三个Master节点和三个Slave节点组成,在节点B失败后,集群选举B1位为新的主节点继续服务。当B和B1都失败后,集群将不可用。

7. 搭建Redis群集模式

7.1 服务器IP配置

redis的集群一般需要6个节点,3主3从。方便起见,这里在同一台服务器上模拟;
以端口号进行区分,3个主节点端口号6001/6002/6003,对应的从节点端口号6004/6005/6006。

伺服器 主機名稱 IP
#Master節點 master 192.168.122.10
Slave1節點 slave1 192.168.122.11
Slave2節點 slave2 192.168.122.12
服务器 主机名 IP 主端口 从端口
Node1节点 node 192.168.122.10 6001 6004
Node2节点 node 192.168.122.10 6002 6005
Node3节点 node 192.168.122.10 6003 6006

7.2 服务器防火墙环境

systemctl stop firewalld && systemctl disable firewalld
setenforce 0

7.3 创建集群配置目录及文件

[root@node ~]# cd /etc/redis
[root@node redis]# mkdir -p redis-cluster/redis600{1..6}
[root@node redis]# for i in {1..6}
> do
> cp /opt/redis-5.0.7/redis.conf /etc/redis/redis-cluster/redis600$i
> cp /opt/redis-5.0.7/src/redis-cli /opt/redis-5.0.7/src/redis-server /etc/redis/redis-cluster/redis600$i
> done
[root@node redis]# ls -R redis-cluster/
redis-cluster/:
redis6001  redis6002  redis6003  redis6004  redis6005  redis6006
 
redis-cluster/redis6001:
redis-cli  redis.conf  redis-server
 
redis-cluster/redis6002:
redis-cli  redis.conf  redis-server
 
redis-cluster/redis6003:
redis-cli  redis.conf  redis-server
 
redis-cluster/redis6004:
redis-cli  redis.conf  redis-server
 
redis-cluster/redis6005:
redis-cli  redis.conf  redis-server
 
redis-cluster/redis6006:
redis-cli  redis.conf  redis-server

7.4 开启群集功能

仅以redis6001为例,其他5个文件夹的配置文件以此类推修改,特别注意端口号的修改。

[root@node redis]# cd redis-cluster/redis6001
[root@node redis6001]# vim redis.conf 
 
##69行,注释掉bind项,默认监听所有网卡
#bind 127.0.0.1
##88行,修改,关闭保护模式
protected-mode no
##92行,修改,redis监听端口
port 6001
##136行,开启守护进程,以独立进程启动
daemonize yes
##832行,取消注释,开启群集功能
cluster-enabled yes
##840行,注销注释,群集名称文件设置
cluster-config-file nodes-6001.conf
##846行,注销注释,群集超时时间设置
cluster-node-timeout 15000
##700行,修改,开启AOF持久化
appendonly yes

7.5 启动redis节点

分别进入那六个文件夹,执行命令:“redis-server redis.conf”,来启动redis节点

[root@node redis6001]# for d in {1..6}
> do
> cd /etc/redis/redis-cluster/redis600$i
> ^C
[root@node redis6001]# for d in {1..6}
> do
> cd /etc/redis/redis-cluster/redis600$d
> redis-server redis.conf
> done
[root@node1 redis6006]# ps -ef | grep redis
root        992      1  0 13:45 ?        00:00:07 /usr/local/redis/bin/redis-server 0.0.0.0:6379
root       2289      1  0 14:41 ?        00:00:00 redis-server *:6001 [cluster]
root       2294      1  0 14:41 ?        00:00:00 redis-server *:6002 [cluster]
root       2299      1  0 14:41 ?        00:00:00 redis-server *:6003 [cluster]
root       2304      1  0 14:41 ?        00:00:00 redis-server *:6004 [cluster]
root       2309      1  0 14:41 ?        00:00:00 redis-server *:6005 [cluster]
root       2314      1  0 14:41 ?        00:00:00 redis-server *:6006 [cluster]
root       2450   2337  0 14:50 pts/0    00:00:00 grep --color=auto redis

7.6 启动集群

[root@node redis6006]# redis-cli --cluster create 127.0.0.1:6001 127.0.0.1:6002 127.0.0.1:6003 127.0.0.1:6004 127.0.0.1:6005 127.0.0.1:6006 --cluster-replicas 1

六个实例分为三组,每组一主一从,前面的做主节点,后面的做从节点。下面交互的时候需要输入yes才可以成功创建。
–replicas 1表示每个主节点有1个从节点。

7.7 测试集群

[root@node1 redis6006]# redis-cli -p 6001 -c
#加-c参数,节点之前就可以互相跳转
127.0.0.1:6001> cluster slots
#查看节点的哈希槽编号范围
1) 1) (integer) 0
#哈希槽起始编号
   2) (integer) 5460
#哈希槽终止编号
   3) 1) "127.0.0.1"
      2) (integer) 6001
#node节点主
      3) "18e59f493579facea29abf90ca4050f566d66339"
   4) 1) "127.0.0.1"
      2) (integer) 6004
#node节点从
      3) "2635bf6a0c286ef910ec5da03dbdc7cde308c588"
2) 1) (integer) 10923
   2) (integer) 16383
   3) 1) "127.0.0.1"
      2) (integer) 6003
      3) "51460d417eb56537e5bd7e8c9581c66fdd817b3c"
   4) 1) "127.0.0.1"
      2) (integer) 6006
      3) "51a75667dcf21b530e69a3242a3e9f81f577168d"
3) 1) (integer) 5461
   2) (integer) 10922
   3) 1) "127.0.0.1"
      2) (integer) 6002
      3) "6381d68c06ddb7ac43c8f7d7b8da0644845dcd59"
   4) 1) "127.0.0.1"
      2) (integer) 6005
      3) "375ad927116d3aa845e95ad5f0586306e7ff3a96"
127.0.0.1:6001> set num 1
OK
127.0.0.1:6001> get num
"1"
127.0.0.1:6001> keys *
1) "num"
127.0.0.1:6001> quit
[root@node1 redis6006]# redis-cli -p 6002 -c
127.0.0.1:6002> keys *
#6002端口无键值对
(empty list or set)
127.0.0.1:6002> get num
-> Redirected to slot [2765] located at 127.0.0.1:6001
"1"
#6002端口获取到num键位于6001端口,切换到6001端口并显示键值
127.0.0.1:6001> set key1 11111
-> Redirected to slot [9189] located at 127.0.0.1:6002
OK
#6001端口创建键值对,将其存至6002端口,并切换至6002端口
127.0.0.1:6002>

以上是Redis中主從複製、哨兵、群集的範例分析的詳細內容。更多資訊請關注PHP中文網其他相關文章!

陳述:
本文轉載於:yisu.com。如有侵權,請聯絡admin@php.cn刪除