详解三分钟快速搭建分布式高可用的Redis集群
这里的Redis集群指的是RedisCluster,它是Redis在3.0版本正式推出的专用集群方案,有效地解决了Redis分布式方面的需求。当单机内存、并发、流量等遇到瓶颈的时候,可以采用这种RedisCluster方案进行解决。
分区规则
RedisCluster采用虚拟槽(slot)进行数据分区,即使用分散度良好的哈希函数把所有键映射到一个固定范围的整数集合里,这里的整数就是槽(slot)。RedisCluster槽的范围是0~16383,计算公式:slot=CRC16(key)&16383。
白嫖小贴士:CRC16是一种高质量的哈希算法,可以使每个槽所映射的键通常比较均匀。
当集群中有3个节点时,每个节点平均大概负责5461个槽以及槽所映射的键值数据。这样一来,可以解耦数据与节点之间的关系,简化节点扩容和缩容的难度。节点自身维护槽的映射关系,不需要客户端或代理服务维护分区信息。
不过,RedisCluster相对于单机还是存在一些限制的,比如:
- 批量操作键支持有限,仅支持具有相同槽的键进行批量操作。
- 事务操作键支持有限,仅支持在同一个节点上多个键的事务操作。
- 不支持多个数据空间。单机Redis可以支持16个数据库,而Cluster模式下只能使用一个数据库空间。
扯了这么多RedisCluster的分区规则,下面我们开始步入正题。
手动搭建
把RedisCluster搭建起来总共几步?答:三步!第一步把冰箱门打开。第二步把大象关进去。第三步把冰箱门带上。不好意思,段子暴露年龄了。集群搭建需要以下三个步骤:
- 准备节点。
- 节点握手。
- 分配槽。
RedisCluster由多个节点组成,节点数量至少有6个才能组成一个完整高可用的集群,其中有3个主节点和3个从节点,我们就以此为例搭建一个RedisCluster。
准备节点
首先,为6个节点(同一台机器上的6380、6381、6382、6383、6384、6385端口)分别创建配置文件,以6380端口的节点为例:
#节点端口 port6380 #日志文件 logfile"log/redis-6380.log" #开启集群模式 cluster-enabledyes #集群配置文件 cluster-config-file"data/nodes-6380.conf"
保持文件名为redis-6380.conf,其他节点的配置文件替换成各自的端口。准备好配置文件后启动所有节点,命令如下:
src/redis-serverconf/redis-6380.conf& src/redis-serverconf/redis-6381.conf& src/redis-serverconf/redis-6382.conf& src/redis-serverconf/redis-6383.conf& src/redis-serverconf/redis-6384.conf& src/redis-serverconf/redis-6385.conf&
检测日志是否正确,以下是6380端口的节点的日志:
#oO0OoO0OoO0OoRedisisstartingoO0OoO0OoO0Oo #Redisversion=4.0.14,bits=64,commit=00000000,modified=0,pid=3031,juststarted #Configurationloaded *Noclusterconfigurationfound,I'mdf1ac987f47dea35f1d0a83c3b405f0ef86892ab *Runningmode=cluster,port=6380.
6380端口的节点启动成功,第一次启动时如果没有集群配置文件,Redis会自动创建一个。6380端口的节点创建的集群配置文件如下:
df1ac987f47dea35f1d0a83c3b405f0ef86892ab:0@0myself,master-000connected varscurrentEpoch0lastVoteEpoch0
集群文件中记录的集群的状态,这里最重要的是节点ID,它是一个40位的16进制字符串,用于唯一标识集群中的这个节点。同样,也可以通过clusternodes命令查看集群节点状态。比如在6380端口的节点上执行命令:
127.0.0.1:6380>clusternodes df1ac987f47dea35f1d0a83c3b405f0ef86892ab:6380@16380myself,master-000connected
目前,我们已经成功启动了6个节点,但是它们只能识别自己的节点信息,互相之间并不认识。下面我们通过节点握手让这6个节点互相之间建立联系从而组成一个集群。
节点握手
节点握手是一些运行在集群模式下的节点通过Gossip协议互相通信,达到感知彼此的过程。
白嫖小贴士:Gossip协议是基于流行病传播方式的节点或者进程之间信息交换的协议,在分布式系统中被广泛使用。
节点握手通过客户端执行clustermeet命令实现,它是一个异步命令,执行之后立刻返回,在Redis内部异步发起与目标节点的握手通信,该命令的语法如下:
clustermeet目标节点IP目标节点端口
把6个节点加到一个集群中:
127.0.0.1:6380>clustermeet127.0.0.16381 OK 127.0.0.1:6380>clustermeet127.0.0.16382 OK 127.0.0.1:6380>clustermeet127.0.0.16383 OK 127.0.0.1:6380>clustermeet127.0.0.16384 OK 127.0.0.1:6380>clustermeet127.0.0.16385 OK
只需要在集群中任意节点上执行clustermeet命令加入新的节点,握手状态会通过消息在集群中传播,其他节点也会自动发现新节点并与之发起握手流程。
我们再执行一下clusternodes命令,检查一下6个节点是否已经组成集群:
127.0.0.1:6380>clusternodes 1e1f45677d7b9b0130d03193f0bcec34578ac47d127.0.0.1:6385@16385master-015866179190215connected df1ac987f47dea35f1d0a83c3b405f0ef86892ab127.0.0.1:6380@16380myself,master-015866179160002connected 5846b66ebe4fb4a5dcfd035652cc471f7e412752127.0.0.1:6381@16381master-015866179170051connected a435cf98c3444b0b110a224401e397a107c453ef127.0.0.1:6384@16384master-015866179149884connected 71e0e9e9a6f0c7c85dbe0d396846a9072625c5e8127.0.0.1:6383@16383master-015866179180133connected e25590603c7a254cce43aa8437861c5c425d753d127.0.0.1:6382@16382master-015866179160000connected
可以看到,6个节点都在集群中了。不过,此时因为还没有为集群中的节点分配槽,集群还处于下线状态,所有的数据读写都是被禁止的。比如:
127.0.0.1:6380>setonemorestudy (error)CLUSTERDOWNHashslotnotserved
接下来,我们为集群中的节点分配槽。
分配槽
我们把6380、6382、6384端口的节点作为主节点,负责处理槽和相关数据;6381、6383、6385端口的节点分别作为从节点,负责故障转移。先把16384个槽平均分配给6380、6382、6384端口的节点,为节点分配槽是通过clusteraddslots命令实现:
#./redis-cli-h127.0.0.1-p6380clusteraddslots{0..5461} OK #./redis-cli-h127.0.0.1-p6382clusteraddslots{5462..10922} OK #./redis-cli-h127.0.0.1-p6384clusteraddslots{10923..16383} OK
我们再执行一下clusternodes命令,检查一下槽是否已经分配:
127.0.0.1:6380>clusternodes 1e1f45677d7b9b0130d03193f0bcec34578ac47d127.0.0.1:6385@16385master-015866194680005connected df1ac987f47dea35f1d0a83c3b405f0ef86892ab127.0.0.1:6380@16380myself,master-015866194640002connected0-5461 5846b66ebe4fb4a5dcfd035652cc471f7e412752127.0.0.1:6381@16381master-015866194670001connected a435cf98c3444b0b110a224401e397a107c453ef127.0.0.1:6384@16384master-015866194670004connected10923-16383 71e0e9e9a6f0c7c85dbe0d396846a9072625c5e8127.0.0.1:6383@16383master-015866194673483connected e25590603c7a254cce43aa8437861c5c425d753d127.0.0.1:6382@16382master-015866194683550connected5462-10922
再使用clusterreplicate命令把一个节点变成从节点.,这个命令必须在从节点上运行,它的语法是:
clusterreplicate主节点ID
把6381、6383、6385端口的节点变成对应6380、6382、6384端口的节点的从节点:
#./redis-cli-h127.0.0.1-p6381 127.0.0.1:6381>clusterreplicatedf1ac987f47dea35f1d0a83c3b405f0ef86892ab OK 127.0.0.1:6381>exit #./redis-cli-h127.0.0.1-p6383 127.0.0.1:6383>clusterreplicatee25590603c7a254cce43aa8437861c5c425d753d OK 127.0.0.1:6383>exit #./redis-cli-h127.0.0.1-p6385 127.0.0.1:6385>clusterreplicatea435cf98c3444b0b110a224401e397a107c453ef OK 127.0.0.1:6385>exit
我们再执行一下clusternodes命令,检查一下集群状态和主从关系:
127.0.0.1:6380>clusternodes df1ac987f47dea35f1d0a83c3b405f0ef86892ab127.0.0.1:6380@16380myself,master-015866201480002connected0-5461 5846b66ebe4fb4a5dcfd035652cc471f7e412752127.0.0.1:6381@16381slavedf1ac987f47dea35f1d0a83c3b405f0ef86892ab015866201500002connected e25590603c7a254cce43aa8437861c5c425d753d127.0.0.1:6382@16382master-015866201510000connected5462-10922 71e0e9e9a6f0c7c85dbe0d396846a9072625c5e8127.0.0.1:6383@16383slavee25590603c7a254cce43aa8437861c5c425d753d015866201522203connected a435cf98c3444b0b110a224401e397a107c453ef127.0.0.1:6384@16384master-015866201500004connected10923-16383 1e1f45677d7b9b0130d03193f0bcec34578ac47d127.0.0.1:6385@16385slavea435cf98c3444b0b110a224401e397a107c453ef015866201490005connected
自此,RedisCluster已经手动搭建完成。手动搭建可以理解集群建立的流程和细节,不过大家也会发现手动搭建有很多步骤,当集群的节点比较多的时候,肯定会让人头大。所以Redis官方提供了redis-trib.rb工具,可以让我们快速地搭建集群。
自动搭建
redis-trib.rb是使用Ruby开发的RedisCluster的管理工具,不需要额外下载,默认位于源码包的src目录下,但因为该工具是用Ruby开发的,所以需要准备相关的依赖环境。
环境准备
安装Ruby:
yum-yinstallzlib-devel wgethttps://cache.ruby-lang.org/pub/ruby/2.5/ruby-2.5.1.tar.gz tarxvfruby-2.5.1.tar.gz cdruby-2.5.1/ ./configure-prefix=/usr/local/ruby make makeinstall cd/usr/local/ruby/ cpbin/ruby/usr/local/bin cpbin/gem/usr/local/bin
安装rubygemredis依赖:
wgethttp://rubygems.org/downloads/redis-3.3.0.gem geminstall-lredis-3.3.0.gem
安装redis-trib.rb:
cpsrc/redis-trib.rb/usr/local/bin
执行redis-trib.rb命令确认一下环境是否准备正确:
#redis-trib.rbhelp Usage:redis-tribcreatehost1:port1...hostN:portN --replicas checkhost:port infohost:port fixhost:port --timeout reshardhost:port --from ...此处省略一万个字...
搭建集群
像前面的内容讲的,准备好节点配置并启动:
src/redis-serverconf/redis-7380.conf& src/redis-serverconf/redis-7381.conf& src/redis-serverconf/redis-7382.conf& src/redis-serverconf/redis-7383.conf& src/redis-serverconf/redis-7384.conf& src/redis-serverconf/redis-7385.conf&
使用redis-trib.rbcreate命令完成节点握手和槽分配的工作,命令如下:
redis-trib.rbcreate--replicas1127.0.0.1:7380127.0.0.1:7382127.0.0.1:7384127.0.0.1:7381127.0.0.1:7383127.0.0.1:7385
其中--replicas参数用来指定集群中每个主节点有几个从节点,这里设置的是1。命令执行后,会首先给出主从节点的分配计划:
>>>Creatingcluster >>>Performinghashslotsallocationon6nodes... Using3masters: 127.0.0.1:7380 127.0.0.1:7382 127.0.0.1:7384 Addingreplica127.0.0.1:7383to127.0.0.1:7380 Addingreplica127.0.0.1:7385to127.0.0.1:7382 Addingreplica127.0.0.1:7381to127.0.0.1:7384 >>>Tryingtooptimizeslavesallocationforanti-affinity [WARNING]Someslavesareinthesamehostastheirmaster M:c25675d021c377c91f860986025e3779d89ede79127.0.0.1:7380 slots:0-5460(5461slots)master M:58980a81b49de31383802d7d21d6782881678922127.0.0.1:7382 slots:5461-10922(5462slots)master M:3f00a37d2c7a5ea40671c8f2934f66d059157a4a127.0.0.1:7384 slots:10923-16383(5461slots)master S:6f7dd93973a8332305831e6b7b5e2c54c15b3b51127.0.0.1:7381 replicates3f00a37d2c7a5ea40671c8f2934f66d059157a4a S:03e01f82a935ed7f977af092e6a9cb71057df68a127.0.0.1:7383 replicatesc25675d021c377c91f860986025e3779d89ede79 S:2cf3883e974a709b7070d6c4d7c528d9fa813358127.0.0.1:7385 replicates58980a81b49de31383802d7d21d6782881678922 CanIsettheaboveconfiguration?(type'yes'toaccept):
如果我们同意这份计划就输入yes,之后就会开始执行节点握手和槽分配,输入如下:
>>>Nodesconfigurationupdated >>>Assignadifferentconfigepochtoeachnode >>>SendingCLUSTERMEETmessagestojointhecluster Waitingfortheclustertojoin.... >>>PerformingClusterCheck(usingnode127.0.0.1:7380) M:c25675d021c377c91f860986025e3779d89ede79127.0.0.1:7380 slots:0-5460(5461slots)master 1additionalreplica(s) M:58980a81b49de31383802d7d21d6782881678922127.0.0.1:7382 slots:5461-10922(5462slots)master 1additionalreplica(s) S:2cf3883e974a709b7070d6c4d7c528d9fa813358127.0.0.1:7385 slots:(0slots)slave replicates58980a81b49de31383802d7d21d6782881678922 S:03e01f82a935ed7f977af092e6a9cb71057df68a127.0.0.1:7383 slots:(0slots)slave replicatesc25675d021c377c91f860986025e3779d89ede79 S:6f7dd93973a8332305831e6b7b5e2c54c15b3b51127.0.0.1:7381 slots:(0slots)slave replicates3f00a37d2c7a5ea40671c8f2934f66d059157a4a M:3f00a37d2c7a5ea40671c8f2934f66d059157a4a127.0.0.1:7384 slots:10923-16383(5461slots)master 1additionalreplica(s) [OK]Allnodesagreeaboutslotsconfiguration. >>>Checkforopenslots... >>>Checkslotscoverage... [OK]All16384slotscovered.
集群创建完成后,还可以使用redis-trib.rbcheck命令检查集群是否创建成功,具体命令如下:
#redis-trib.rbcheck127.0.0.1:7380 >>>PerformingClusterCheck(usingnode127.0.0.1:7380) M:c25675d021c377c91f860986025e3779d89ede79127.0.0.1:7380 slots:0-5460(5461slots)master 1additionalreplica(s) M:58980a81b49de31383802d7d21d6782881678922127.0.0.1:7382 slots:5461-10922(5462slots)master 1additionalreplica(s) S:2cf3883e974a709b7070d6c4d7c528d9fa813358127.0.0.1:7385 slots:(0slots)slave replicates58980a81b49de31383802d7d21d6782881678922 S:03e01f82a935ed7f977af092e6a9cb71057df68a127.0.0.1:7383 slots:(0slots)slave replicatesc25675d021c377c91f860986025e3779d89ede79 S:6f7dd93973a8332305831e6b7b5e2c54c15b3b51127.0.0.1:7381 slots:(0slots)slave replicates3f00a37d2c7a5ea40671c8f2934f66d059157a4a M:3f00a37d2c7a5ea40671c8f2934f66d059157a4a127.0.0.1:7384 slots:10923-16383(5461slots)master 1additionalreplica(s) [OK]Allnodesagreeaboutslotsconfiguration. >>>Checkforopenslots... >>>Checkslotscoverage... [OK]All16384slotscovered.
可以看到,所有的槽都已分配到节点上,大功告成!
到此这篇关于详解三分钟快速搭建分布式高可用的Redis集群的文章就介绍到这了,更多相关Redis搭建分布式高可用集群内容请搜索毛票票以前的文章或继续浏览下面的相关文章希望大家以后多多支持毛票票!
声明:本文内容来源于网络,版权归原作者所有,内容由互联网用户自发贡献自行上传,本网站不拥有所有权,未作人工编辑处理,也不承担相关法律责任。如果您发现有涉嫌版权的内容,欢迎发送邮件至:czq8825#qq.com(发邮件时,请将#更换为@)进行举报,并提供相关证据,一经查实,本站将立刻删除涉嫌侵权内容。