Maison >interface Web >js tutoriel >En savoir plus sur l'utilisation de la fonction de cluster Redis dans le nœud [configuration détaillée]
Comment utiliser la fonction cluster Redis dans le nœud ? L'article suivant vous donnera une explication détaillée de la configuration du cluster Redis basée sur node J'espère qu'il vous sera utile !
Concernant l'utilisation de la fonction cluster redis
dans nodejs
nodejs
中使用redis
集群功能,没有找到一篇比较完整且通俗易懂的文章,因此自己在开发调试的过程中也走了不少弯路。
本文会详细介绍了在本地如何搭建redis集群、在客户端如何使用集群、在搭建过程中遇到的问题和错误汇总并说明,以避免下次使用的时候再走弯路,提高开发、工作效率。
使用集群的背景是:在Redis单例模式下随着用户量、访问量的提高,qps值急剧上涨??,大量的io
操作导致某一时刻占满cpu(100%)
,随时有宕机的危险,同时通过批量处理redis等方式也是治标不治本,无法突破服务器性能的瓶颈。因此使用集群方案或增加redis实例就势在必行。
集群一般是指服务器集群,区别于分布式系统,是将很多服务器集中起来一起进行同一种服务,在客户端看来就像是只有一个服务器。集群可以利用多个计算机进行并行计算从而获得很高的计算速度,也可以用多个计算机做备份,从而使得任何一个机器坏了整个系统还是能正常运行。(在redis3.0之前一般使用的都是 哨兵模式,但 哨兵的配置略微复杂,并且性能和高可用性等各方面表现一般)
由于投票容错机制要求超过半数节点认为某个节点挂了该节点才是挂了,所以2个节点无法构成集群,因此Redis集群至少需要3个节点。
要保证集群的高可用、需要每个节点都有从节点(也就是备份节点),所以Redis
集群至少需要6台服务器。 (三主三从、三存三取、高可用、可备份)
当然,我们在本地调试时不可能用这么多服务器,因此我们可以在本地模拟运行6个redis
实例,事实上生产环境的Redis集群搭建和这里基本上一样。
可以在官网选择安装,也可以用命名行安装
#安装 brew install redis #启动 redis-server #进入redis客户端 redis-cli
首先要找到redis配置文件的位置
brew list redis
# 查看redis安装的位置cd /opt/homebrew/Cellar/redis/6.2.4
# 根据位置进入版本号所在的文件夹open .
# 打开文件夹Xcode.app
打开homebrew.mxcl.redis.plist
, 即可找到redis.conf
所在的位置,如下所示:创建六个服务配置文件
cd /opt/homebrew/etc/
(上一步找到的配置文件目录)
# 需要在 /opt/homebrew/etc/ 路径下 mkdir -p redis/cluster/7000 mkdir -p redis/cluster/7001 mkdir -p redis/cluster/7002 mkdir -p redis/cluster/7003 mkdir -p redis/cluster/7004 mkdir -p redis/cluster/7005
修改配置文件
/opt/homebrew/etc/redis.conf
路径下的配置文件不用去修改, 只要将其copy到上面创建的 redis/cluster/7000
目录下,然后再修改,步骤如下
cd /opt/homebrew/etc/ # 进入配置文件目录 cp redis.conf redis/cluster/7000/7000.conf code redis/cluster/7000/7000.conf # 用编辑器打开或者用vim打开配置文件来进行修改
7000.conf
后,修改以下属性# Redis端口号(7000-7005每个配置文件都要修改) port 7000 # 开启集群模式运行 cluster-enabled yes # 集群内部配置文件配置文件路径,默认nodes-6379.conf(7000-7005每个配置文件都要修改) cluster-config-file nodes-7000.conf # 节点间通信的超时时间 cluster-node-timeout 5000 # 数据持久化 appendonly yes
cd /opt/homebrew/etc/redis/cluster # 进入配置文件目录 cp 7000/7000.conf 7001/7001.conf cp 7000/7000.conf 7002/7002.conf cp 7000/7000.conf 7003/7003.conf cp 7000/7000.conf 7004/7004.conf cp 7000/7000.conf 7005/7005.conf
7001.conf-7005.conf
每个配置文件的port和cluster-config-file属性注意:每个配置文件必需配置不一样的port和cluster-config-file
值(否则集群不会生效),上面是以端口区分。
通过find /opt/homebrew -name nodes-7000.conf
, je n'ai pas trouvé d'article relativement complet et simple à comprendre, je suis donc dans le processus de développement et de débogage, j'ai également fait de nombreux détours. Cet article présentera en détail
io
provoquent le soit plein à un certain moment >cpu(100%)
, il existe un risque de temps d'arrêt à tout moment. Dans le même temps, le traitement par lots Redis et d'autres méthodes ne sont qu'une solution temporaire, pas. la cause première et ne peut pas surmonter le goulot d'étranglement des performances du serveur. Il est donc impératif d’utiliser une solution cluster ou d’ajouter des instances Redis. Cluster fait généralement référence à un cluster de serveurs, qui est différent d'un système distribué. Il s'agit d'un groupe de nombreux serveurs rassemblés. pour fournir le même service. Il semble qu’il n’y ait qu’un seul serveur. Le cluster peut utiliser plusieurs ordinateurs pour Calcul parallèle
pour obtenir une vitesse de calcul très élevée, vous pouvez également utiliser plusieurs ordinateurs Backup🎜, de sorte que si une machine est en panne, l'ensemble du système peut toujours fonctionner normalement. (🎜Avant redis3.0, 🎜 🎜Le mode Sentinel était généralement utilisé, mais 🎜 🎜La configuration de Sentinel est légèrement complexe, et ses performances et sa haute disponibilité sont moyennes à tous égards 🎜)🎜Redis
nécessite au moins 6 serveurs. 🎜(Trois maîtres et trois esclaves, trois dépôts et trois récupérations, haute disponibilité, sauvegarde)🎜🎜🎜Bien sûr, il nous est impossible d'utiliser autant de serveurs lors du débogage local, nous pouvons donc simuler l'exécution de 6 redisExemple, 🎜En fait, la configuration du cluster Redis dans l'environnement de production est fondamentalement la même qu'ici. 🎜🎜<h2 data-id="heading-3">Créer un cluster Redis local dans un environnement Mac</h2>
<h3 data-id="heading-4">🎜1. Téléchargez et installez Redis🎜🎜🎜Vous pouvez. choisissez sur le site officiel Installation, vous pouvez également utiliser la ligne nommée pour installer🎜<pre class="brush:js;toolbar:false;"># start.sh 文件
#!/bin/sh
redis-server /opt/homebrew/etc/redis/cluster/7000/7000.conf &
redis-server /opt/homebrew/etc/redis/cluster/7001/7001.conf &
redis-server /opt/homebrew/etc/redis/cluster/7002/7002.conf &
redis-server /opt/homebrew/etc/redis/cluster/7003/7003.conf &
redis-server /opt/homebrew/etc/redis/cluster/7004/7004.conf &
redis-server /opt/homebrew/etc/redis/cluster/7005/7005.conf &
# stop.sh 文件
#!/bin/sh
redis-cli -p 7000 shutdown &
redis-cli -p 7001 shutdown &
redis-cli -p 7002 shutdown &
redis-cli -p 7003 shutdown &
redis-cli -p 7004 shutdown &
redis-cli -p 7005 shutdown &</pre><h3 data-id="heading-5">🎜2 Configurez l'environnement du cluster via redis🎜🎜🎜🎜Tout d'abord, recherchez l'emplacement du fichier de configuration redis🎜🎜<ul>
<li> <code>brew list redis
# Vérifiez l'emplacement de l'installation de redis
cd /opt/homebrew/Cellar/redis/6.2. 4
# Entrez le numéro de version en fonction de l'emplacement Dossieropen
# Ouvrez le dossierXcode.app<.> pour ouvrir <code>homebrew.mxcl.redis .plist
, vous pouvez trouver l'emplacement de redis.conf
, comme indiqué ci-dessous :
cd /opt/homebrew/ etc/
(le répertoire du fichier de configuration trouvé à l'étape précédente)🎜redis-cli -p 7000 # 单个客户端启动 redis-server 7000/7000.conf # 启动单个服务端 redis-cli -p 7000 shutdown # 关闭服务端 sudo chmod +x start.sh # 开启脚本执行权限 # 设置redis主从关系(三主三从) redis-cli --cluster create --cluster-replicas 1 127.0.0.1:7000 127.0.0.1:7001 127.0.0.1:7002 127.0.0.1:7003 127.0.0.1:7004 127.0.0.1:7005 cluster nodes #查看集群节点情况(进入某个客户端执行) cluster info #查看集群信息(进入某个客户端执行) 查看所有key值:keys * 删除指定索引的值:del key 清空整个 Redis 服务器的数据:flushall 清空当前库中的所有 key:flushdb🎜🎜Modifier le fichier de configuration🎜🎜🎜
Le fichier de configuration sous le chemin / opt/homebrew/etc/redis.conf
n'a pas besoin d'être modifié, copiez-le simplement dans le répertoire redis/cluster/7000
créé ci-dessus, puis modifiez-le. comme suit🎜// redis.js const Redis = require("ioredis"); const cluster = new Redis.Cluster([ { port: 7000, host: "127.0.0.1", }, { port: 7001, host: "127.0.0.1", }, ]); cluster.set("foo", "bar"); cluster.get("foo", (err, res) => { // res === 'bar' });
7000.conf
, modifiez les propriétés suivantesimport Queue from 'bull' // 创建redis队列实例 const instance = new Queue('custom', { prefix : '{myprefix}', createClient(type) { // cluster 集群实例同上 return cluster } }) // 添加数据到redis队列(生产者) instance.add( 'request', { ...params }, { removeOnComplete: false } ).catch(e => { console.error(e) }) // 消费者回调 instance.process('request', 5, async (job, done) => { console.log('获取当前消费的数据:', job.data) // 执行异步操作 await new Promise((resolve)=>resolve()) done() })
# 以7000端口的服务为例,7001-7005重复以下操作 $redis-cli -p 7000 127.0.0.1:7000> flushall 127.0.0.1:7000> cluster reset 127.0.0.1:7000> exit # 使用find找到rdb和aof文件(也在rdb目录下) find /opt/homebrew -name dump.rdb # 重新执行创建语句成功 redis-cli --cluster create --cluster-replicas 1 127.0.0.1:7000 127.0.0.1:7001 127.0.0.1:7002 127.0.0.1:7003 127.0.0.1:7004 127.0.0.1:7005
port et un fichier de configuration de cluster différents
valeurs (sinon le cluster ne prendra pas effet). Ce qui précède se distingue par le port). 🎜🎜🎜Vous pouvez trouver le répertoire du fichier de configuration via la commande 🎜find /opt/homebrew -name nodes-7000.conf
🎜🎜🎜🎜🎜🎜3. Démarrez et arrêtez le service du cluster🎜. 🎜🎜En raison de Nous avons configuré 6 services, il est donc impossible de démarrer ou d'arrêter un par un. Nous devons utiliser des scripts shell pour y parvenir🎜.进入/opt/homebrew/etc/redis/cluster
目录,创建start.sh和stop.sh文件
# start.sh 文件 #!/bin/sh redis-server /opt/homebrew/etc/redis/cluster/7000/7000.conf & redis-server /opt/homebrew/etc/redis/cluster/7001/7001.conf & redis-server /opt/homebrew/etc/redis/cluster/7002/7002.conf & redis-server /opt/homebrew/etc/redis/cluster/7003/7003.conf & redis-server /opt/homebrew/etc/redis/cluster/7004/7004.conf & redis-server /opt/homebrew/etc/redis/cluster/7005/7005.conf & # stop.sh 文件 #!/bin/sh redis-cli -p 7000 shutdown & redis-cli -p 7001 shutdown & redis-cli -p 7002 shutdown & redis-cli -p 7003 shutdown & redis-cli -p 7004 shutdown & redis-cli -p 7005 shutdown &
执行./start.sh
或者./stop.sh
来启停服务
执行ps -ef |grep redis
来查看已启动的redis服务
注意: 第一次执行./start.sh需要通过sudo chmod +x start.sh
授权执行权限
redis-cli -p 7000 # 单个客户端启动 redis-server 7000/7000.conf # 启动单个服务端 redis-cli -p 7000 shutdown # 关闭服务端 sudo chmod +x start.sh # 开启脚本执行权限 # 设置redis主从关系(三主三从) redis-cli --cluster create --cluster-replicas 1 127.0.0.1:7000 127.0.0.1:7001 127.0.0.1:7002 127.0.0.1:7003 127.0.0.1:7004 127.0.0.1:7005 cluster nodes #查看集群节点情况(进入某个客户端执行) cluster info #查看集群信息(进入某个客户端执行) 查看所有key值:keys * 删除指定索引的值:del key 清空整个 Redis 服务器的数据:flushall 清空当前库中的所有 key:flushdb
Redis.Cluster提供了在多个Redis节点上自动分片的功能,使用前面搭建好的六个redis服务器,然后在本地启动node redis.js
,就可以测试集群的效果了。ioredis
// redis.js const Redis = require("ioredis"); const cluster = new Redis.Cluster([ { port: 7000, host: "127.0.0.1", }, { port: 7001, host: "127.0.0.1", }, ]); cluster.set("foo", "bar"); cluster.get("foo", (err, res) => { // res === 'bar' });
import Queue from 'bull' // 创建redis队列实例 const instance = new Queue('custom', { prefix : '{myprefix}', createClient(type) { // cluster 集群实例同上 return cluster } }) // 添加数据到redis队列(生产者) instance.add( 'request', { ...params }, { removeOnComplete: false } ).catch(e => { console.error(e) }) // 消费者回调 instance.process('request', 5, async (job, done) => { console.log('获取当前消费的数据:', job.data) // 执行异步操作 await new Promise((resolve)=>resolve()) done() })
使用bull
框架连接ioredis
集群时存在问题: 每次有数据push
到redis
队列时对应的回调函数可能会触发多次,目前无法确定是使用的问题还是框架本身的问题(如果有了解的欢迎大家留言告知)。
替代集群的方案:在不需要数据同步和数据迁移的情况下,可以在客户端使用多个redis
实例,结合Math.random()
使数据平分到其中的一个redis
,从而解决了单个实例硬件(cpu
等)瓶颈的问题。
1、Mac系统下连接redis报错?
控制台错误提示:Could not connect to Redis at 127.0.0.1:6379: Connection refused
原因:服务端没有开启或启动失败
解决办法:需要先启动redis服务端redis-server
参考链接
https://blog.csdn.net/qq_23347459/article/details/104257529
2、客户端启动、读写报错?
错误提示:ClusterAllFailedError: Failed to refresh slots cache.
原因:每个服务下的配置文件中的cluster-config-file属性一致。
处理:修改成唯一的属性值
参考链接1
https://stackoverflow.com/questions/57350961/ioredis-clusterallfailederror-failed-to-refresh-slots-cache
参考2
https://github.com/luin/ioredis/issues/711
3、执行创建主从redis语句失败?
执行语句:redis-cli --cluster create --cluster-replicas 1 127.0.0.1:7000 127.0.0.1:7001 127.0.0.1:7002 127.0.0.1:7003 127.0.0.1:7004 127.0.0.1:7005
提示错误:[ERR] Node 127.0.0.1:7000 is not empty. Either the node already knows other nodes (check with CLUSTER NODES) or contains some key in database 0
原因:执行创建语句时,没有清空数据和重置集群
处理:清空数据和重置集群, 清除rdb和aof文件
参考清除redis数据
https://stackoverflow.com/questions/37206993/redis-server-cluster-not-working
# 以7000端口的服务为例,7001-7005重复以下操作 $redis-cli -p 7000 127.0.0.1:7000> flushall 127.0.0.1:7000> cluster reset 127.0.0.1:7000> exit # 使用find找到rdb和aof文件(也在rdb目录下) find /opt/homebrew -name dump.rdb # 重新执行创建语句成功 redis-cli --cluster create --cluster-replicas 1 127.0.0.1:7000 127.0.0.1:7001 127.0.0.1:7002 127.0.0.1:7003 127.0.0.1:7004 127.0.0.1:7005
redis集群在客户端的使用是非常简单的,相比之下服务端的配置会比较繁琐。
客户端的具体使用只做了一下简单的说明,使用过程中要注意redis数据的同步和迁移等问题。
使用集群虽然能提升服务能力、支持主从复制、哨兵模式、读写分离、平分服务器的压力等特点。但不具备自动容错和恢复功能,如果出现宕机会使部分读写请求失败,降低了系统的可用性。在使用时根据业务情况分析、选择不同的方案。
本文转载自:https://juejin.cn/post/7079928963107127327
作者:tager
更多node相关知识,请访问:nodejs 教程!
Ce qui précède est le contenu détaillé de. pour plus d'informations, suivez d'autres articles connexes sur le site Web de PHP en chinois!