简体中文（ZH-CN）English（EN）繁体中文（ZH-TW）日本語（JA）한국어（KO）Melayu（MS）Français（FR）Deutsch（DE）
首頁
文章
問答
課程
專題
下載
遊戲
詞典
最近更新

首頁  >  文章  >  資料庫  >  redis分片集群搭建與使用詳解

redis分片集群搭建與使用詳解

WBOY
WBOY轉載
2022-07-21 17:46:592443瀏覽

推薦學習：Redis影片教學

#前言

redis可以說在實際專案開發中使用的非常頻繁，在redis常用集群中，我們聊到了redis常用的幾種集群方案，不同的集群對應著不同的場景，並且詳細說明了各種集群的優劣，本篇將以redis 分片集群為切入點，從redis 分片集群的搭建開始，詳細說說redis 分片集群相關的技術點；

  • 單點故障；
  • 單機寫入（高並發寫）瓶頸;
  • 單機儲存資料容量限制；
  • 叢集自動伸縮；
  • 叢集自動故障下線與轉移；

建置叢集架構圖

前置準備

1、準備一台（或6台伺服器，條件允許的情況下）虛擬機器或伺服器；

本例為示範效果準備了一台記憶體8G的伺服器，將透過連接埠進行master和slave的分割

2、提前下載好redis安裝套件；

搭建步驟

1、建立6個目錄文件，分別用於保存各個redis範例的資料

mkdir 7001 7002 7003 8001 8002 8003

2、在目前目錄下建立一個redis.conf文件，內容如下

port 6379
# 开启集群功能
cluster-enabled yes
# 集群的配置文件名称，不需要我们创建，由redis自己维护
cluster-config-file /usr/local/soft/redis/6379/nodes.conf
# 节点心跳失败的超时时间
cluster-node-timeout 5000
# 持久化文件存放目录
dir /usr/local/soft/redis/6379
# 绑定地址
bind 0.0.0.0
# 让redis后台运行
daemonize yes
# 注册的实例ip
replica-announce-ip 本机公网IP
# 保护模式
protected-mode no
# 数据库数量
databases 1
# 日志
logfile /usr/local/soft/redis/6379/run.log

3、批次將該設定檔拷貝到各個目錄下

echo 7001 7002 7003 8001 8002 8003 | xargs -t -n 1 cp redis.conf

4、修改每個目錄下redis.conf，將其中的6379修改為與所在目錄一致

printf '%s\n' 7001 7002 7003 8001 8002 8003 | xargs -I{} -t sed -i 's/6379/{}/g' {}/redis.conf

隨機打開某個redis.conf看看是否修改成功

4、使用下面的指令進行啟動

/usr/local/soft/redis/redis60/src/redis-server /usr/local/soft/redis/7001/redis.conf
/usr/local/soft/redis/redis60/src/redis-server /usr/local/soft/redis/7002/redis.conf
/usr/local/soft/redis/redis60/src/redis-server /usr/local/soft/redis/7003/redis.conf

/usr/local/soft/redis/redis60/src/redis-server /usr/local/soft/redis/8001/redis.conf
/usr/local/soft/redis/redis60/src/redis-server /usr/local/soft/redis/8002/redis.conf
/usr/local/soft/redis/redis60/src/redis-server /usr/local/soft/redis/8003/redis.conf

執行完成後，可以看到6個redis實例已經開啟

建立集群

經過以上的步驟，就開啟了6個redis的實例，但是這些實例之間並沒有形成一個集群，接下來就需要執行相關的命令將它們構成一個集群

1、使用以下命令構建集群（5.0之後的版本的命令）

redis-cli --cluster create --cluster-replicas 1 IP地址:7001 IP地址:7002 IP地址:7003 IP地址:8001 IP地址:8002 IP地址:8003

關於上面指令的說明

  • redis-cli --cluster 或./redis-trib.rb：代表群集操作指令；
  • create：代表是建立叢集;
  • –replicas 1或–cluster-replicas 1 ：指定叢集中每個master的副本個數為1，此時節點總數÷ (replicas 1)得到的就是master的數量。因此節點列表中的前n個就是master，其它節點都是slave節點，隨機分配到不同master ；

也可以透過redis-cli --cluster help 指令進行群集指令的檢視;

執行指令後，控制台提示會使用哪個範例作為master，哪個作為slave；

#繼續輸入yes之後，將會依照上面的策略建立一個群集出來

透過這個輸出的日誌大概可以得到以下資訊：

  • 埠號依次為7001，7002和7003的為master節點；
  • 埠號依序為8001，8002和8003的為slave節點；
  • #埠號依序為7001，7002和7003的master節點，各自分配了一定區間的槽位數，分別是：[0-5460]，[5461-10922]，[10923-16383]，即總共分配16384個槽位；

2、查看叢集狀態

redis-cli -p 7001 cluster nodes

#

通过这个命令，可以清楚的看到集群中各个实例节点的主从状态，实例ID（唯一身份标识），槽位区间等信息

Redis散列插槽说明

其实对redis分片集群稍有了解的同学应该知道，redis分片集群在逻辑上将集群中的所有节点构成了一块完整的内存空间，数据写入进来后，具体存放到哪个节点呢？所以集群引入了一个逻辑尚的插槽概念，即将集群划分为16384个槽位，集群中的每个节点占据一部分槽位数（这个日志中可以看出来）；

那么当某个具体的key写入的时候，集群将会通过一定的算法，将要写入的数据路由到指定的插槽上去；

这里有个点需要注意，数据key不是与节点绑定，而是与插槽绑定。

redis集群会根据key的有效部分计算插槽值，分两种情况：

  • key中包含"{}"，且“{}”中至少包含1个字符，“{}”中的部分是有效部分；
  • key中不包含“{}”，整个key都是有效部分；

举例来说：key是num，那么就根据num计算，如果是{应用名称}num，则根据“应用名称”计算。计算方式是利用CRC16算法得到一个hash值，然后对16384取余，得到的结果就是slot值

下面不妨看下效果

通过上面的演示可以发现，经过集群计算的key将会分配到不同的插槽上，也就是说，key是与插槽绑定，而不是与某个节点绑定，想想为什么会这样呢？

思考下面这个需求

如何将同一类数据固定的保存在同一个Redis实例？

简单来说，如果key的分配完全没有规则的话，当涉及到某个业务类的数据对应的key随机分配到不同的节点上面时，取值的时候就会出现像上面的重定向跨节点的问题，一定程度上提升性能；

解决办法

这一类数据使用相同的有效部分，例如key都以{业务ID}为前缀

集群伸缩（添加节点）

reids的cluster模式下，有一个比较强的功能就是集群的伸缩能力，即在现有的集群基础上，可以根据实际的业务需求，进行集群的伸缩，下面来演示下给上面的集群添加一个新节点的步骤；

1、在当前目录下拷贝一个目录

2、修改配置文件的端口

sed -i s/6379/7004/g 7004/redis.conf

3、启动这个实例

/usr/local/soft/redis/redis60/src/redis-server /usr/local/soft/redis/7004/redis.conf

4、使用下面的命令将7004实例假如集群

redis-cli --cluster add-node IP:7004 IP:7001

5、再次查看集群状态

redis-cli -p 7001 cluster nodes

通过上面的状态信息发现，7004这个节点虽然加入了集群，并成了master，但是集群并没有给它分配任何的插槽

6、分配插槽

分配插槽的基本思路是，从现有的某个节点上迁移部分插槽到新的节点即可，执行下面的命令进行插槽分配

redis-cli --cluster reshard 101.34.23.80:7001

执行命令后将出现下面的提示，这里输入你要转移的插槽数量

将7004对应的实例ID输入即可

输入yes后开始移动插槽

移动完成后，再次查看集群状态，这时候7004对应的节点就分配到了从0 ~ 500的数量的插槽

故障转移

redis的cluster模式的集群，还具备一定的故障转移能力，比如在上面的架构模式下，当集群中的某个master节点宕机之后，会出现什么情况呢？下面我们来模拟下这个过程，看看效果如何

1、使用watch命令监控下集群的状态

通过这个命令可以实时查看集群的动态日志变化

watch redis-cli -p 7001 cluster nodes

2、手动将7002实例的master宕机

redis-cli -p 7002 shutdown

从上面的监控日志不难发现，当7002挂掉后，过了一会儿与集群以及它的从节点8003失去了联系，然后8003这个节点升级为master节点；

3、手动将7002实例启动起来

/usr/local/soft/redis/redis60/src/redis-server /usr/local/soft/redis/7002/redis.conf

再次分析日志，可以看到这时候7002只能以slave的身份加入了集群，事实上在某些情况下，我们仍然希望这个宕机的节点恢复后依然是主节点，这该怎么办呢？这就涉及到了手动故障转移，主要操作步骤如下：

  • 使用redis-cli连接7002节点；
  • 执行cluster failover命令；

在上面执行之后的情况下，7002是一个slave节点

执行 CLUSTER FAILOVER 命令，观察日志动态变化，通过日志变化，可以看到，命令执行完毕后，7002很快就变成了master，而8003成了slave；

通过以上步骤就完成了redis的cluster模式下的故障转移的过程

使用redistemplate访问分片集群

1、引入依赖

<dependency>
    <groupId>org.springframework.boot</groupId>
    <artifactId>spring-boot-starter-data-redis</artifactId>
</dependency>

2、将配置文件中的集群地址修改成下面这样即可

spring:
  redis:
    cluster:
      nodes:
       - 集群IP:7001
       - 集群IP:7002
       - 集群IP:7003
       - 集群IP:7004
       - 集群IP:8001
       - 集群IP:8002
       - 集群IP:8003

至于具体的代码部分，可以参考下面的这个测试案例

	@Autowired
    private RedisTemplate<String,String> redisTemplate;

    //localhost:8083/set?key=b&value=123
    @GetMapping("/set")
    public void set(@RequestParam String key,@RequestParam String value){
        redisTemplate.opsForValue().set(key,value);
    }

    //localhost:8083/get?key=b
    @GetMapping("/get")
    public String get(@RequestParam String key){
        return redisTemplate.opsForValue().get(key);
    }

推荐学习：Redis视频教程

以上是redis分片集群搭建與使用詳解的詳細內容。更多資訊請關注PHP中文網其他相關文章！

陳述：
本文轉載於：jb51.net。如有侵權，請聯絡admin@php.cn刪除
上一篇：一起聊聊使用redis實現分散式緩存下一篇：一起聊聊使用redis實現分散式緩存

相關文章

看更多