Linux下 Redis集群搭建详解(主从+哨兵)

网友投稿 1431 2023-05-18

Linux下 Redis集群搭建详解(主从+哨兵)

Linux下 Redis集群搭建详解(主从+哨兵)

前言

由于项目需要,搭建了一个 Redis 服务器集群,实现了主从配置和容灾部署,使得主机出现故障时,可自动进行容灾切换,下面就详细讲解一下如何利用 Redis 来实现。

文章重点

1、Redis 入门简介

2、Redis 安装部署

3、Redis 集群整体架构

4、Redis 主从配置及数据同步

5、Redis 哨兵模式搭建

一、Redis 入门简介

Redis支持数据的持久化,可以将内存中的数据保存在磁盘中,重启的时候可以再次加载进行使用。Redis不仅仅支持简单的key-value类型的数据,同时还提供 list,set,zset,hash等数据结构的存储。Redis支持数据的备份,即master-slave模式的数据备份。

为什么用Redis?

一个字,快!传统的关系型数据库如 Mysql 等已经不能适用所有的场景了,比如在高并发,访问流量高峰等情况时,数据库很容易崩了。Redis 运行在内存,能起到一个缓冲作用,由于内存的读写速度远快于硬盘,因此 Redis 在性能上比其他基于硬盘存储的数据库有明显的优势。同时除了快之外,还可应用于集群的自动容灾切换以及数据的读写分离,减轻高并发的压力。

二、Redis 安装部署

1、下载安装包

或者直接使用命令下载,如下:

2、安装

首先解压安装包,如下

cd redis-5.0.7/ make

tar

进入解压文件目录使用make命令对解压的 redis 文件进行编译,如下

cd redis-5.0.7/ make

make

编译完成之后,可以看到解压文件 redis-5.0.7 中会有对应的 src、conf 等文件,如下

编译后目录

编译成功后,进入 src 文件夹,执行 make install 进行 Redis 安装。

cd src/ make install

安装完成后,显示如下

install

3、部署

由于 src 下文件非常多,我们可以将几个常用的命令和 conf 配置文件复制出来进行统一管理,如下:(1)新建 bin 和 etc 文件夹

cd /root/redis-5.0.7/ mkdir etc mkdir bin

(2)回到安装目录,将redis.conf复制到 ect 文件夹下

cp redis.conf /root/redis-5.0.7/etc

(3)进入 src 文件夹下,将mkreleasehdr.sh、redis-benchmark、redis-check-aof、redis-check-rdb、redis-cli、redis-server、redis-sentinel文件复制到 bin 文件夹

cd src/ cp mkreleasehdr.sh redis-benchmark redis-check-aof redis-check-rdb redis-cli redis-server redis-sentinel /root/redis-5.0.7/bin/

查看复制后的文件,如下

copyFile

4、启动redis服务

切换到 bin 目录,使用./redis-server即可启动 redis 服务,但是这种方式没有指明配置文件,redis 将采用默认配置,所以我们需要让 redis 按照我们的配置文件来启动,如下,启动时指定刚才我们复制到 etc 文件夹下的redis.conf。

cd /root/redis-5.0.7/bin ./redis-server /root/redis-5.0.7/etc/redis.conf

启动redis服务

启动后查看redis的进程,如下,可以看到6379端口就是我们运行的 redis 服务(配置文件中默认端口为6379)。

查看redis进程

使用redis-cli命令连接客户端,如下

redis-cli

5、关闭redis服务

如果需要关闭redis服务,使用如下命令即可关闭。

redis-cli -p 6379 shutdown

关闭redis服务

三、Redis 集群整体架构

这里我们采用的集群整体架构就是主从结构+哨兵(sentinel),实现容灾的自动切换,如下图所示:

redis架构(主从+哨兵)

一个主节点(master)可拥有多个从节点(slave),从节点实现对主节点的复制,保证数据同步。而哨兵(sentinel)则对各节点进行监控,主要包括主节点存活检测、主从运行情况检测等,一旦主节点宕机,哨兵可自动进行故障转移 (failover)、主从切换。接下来就开始搭建这样一个集群,首先是主从结构,然后是哨兵模式,接着往下看。

四、Redis 主从配置及数据同步

在第一步 Redis 安装部署中我们已经启动了 Redis 服务,但是配置文件并没有做修改,因为主从配置主要就是通过修改配置文件来实现,所以 Redis 配置文件的修改统一在这里进行讲解。

这里我创建了三台虚拟机来演示,分别按照上述安装方式安装好 Redis,三台虚拟机如下配置:

IP地址端口号角色192.168.231.1306379主机(master)192.168.231.1326380从机(slave)192.168.231.1316381从机(slave)

现在进入 etc 文件夹,使用vi redis.conf命令打开编辑 redis.conf 配置文件,如下

viconfig

首先看一下redis.conf 配置文件中的各个参数,详解如下

1、主机配置

主机(192.168.231.130)需要改动的配置如下所示,修改完毕后先按 esc ,然后:wq命令保存退出。

bind:0.0.0.0 port:6379 protected-mode:no daemonize:yes logfile:./redis.log requirepass:pwdtest@2019 masterauth:pwdtest@2019 replicaof 192.168.231.130 6379

bind:0.0.0.0

Redis 默认只允许本机访问,把 bind 修改为 0.0.0.0 表示允许所有远程访问。如果想指定限制访问,可设置对应的 ip。

port:6379

监听端口默认为6379,想改其他也行。

protected-mode:no

关闭保护模式,可以外部访问。

daemonize:yes

设置为后台启动。

logfile:./redis.log

redis 日志文件,生成后在 bin 目录下可找到。

requirepass:pwdtest@2019

设置 redis 连接密码。

masterauth:pwdtest@2019

slave 服务连接 master 的密码。

2、从机配置

从机的配置和主机相似,相同的地方我就不再详解,不同的地方是需要使用replicaof指定主机(master)的IP地址和端口,需要注意的是老版本使用的是 slaveof,目前我使用的5.0.7版本要使用 replicaof ,如下。

bind:0.0.0.0 port:6379 protected-mode:no daemonize:yes logfile:./redis.log requirepass:pwdtest@2019 masterauth:pwdtest@2019 replicaof 192.168.231.130 6379

replicaof 192.168.231.130 6379

指定当本机为 slave 服务时,设置 master 服务的IP地址及端口,在 redis 启动的时候会自动跟 master 进行数据同步,所以两台从机都这样配置即可。

注:由于我们搭建的集群需要自动容灾切换,主数据库可能会变成从数据库,所以三台机器上都需要同时设置 requirepass 和 masterauth 配置项。

3、数据同步

上面我们主从节点的配置文件配置好后,重启 redis 服务,进入 bin 目录即可查看配置文件中指定的redis.log日志文件。

查看log

下面我们需要设置一下防火墙,否则主从机之间无法同步数据,命令如下,这里根据自己设置的端口进行更改。

firewall-cmd --add-port=6379/tcp --permanent --zone=public #重启防火墙(修改配置后要重启防火墙) firewall-cmd --reload

至此主从结构搭建完毕,不出意外主从机已经可以数据同步,下面我们分别查看三台机器的信息,如下

192.168.231.130 6379(主)

info_6379.png

可以看到当前角色为主机(master),并且连接了另外两台从机(slave)。

192.168.231.132 6380(从)

info_6380.png

可以看到当前角色为从机(slave),并指明了主机地址192.168.231.130和端口6379。

192.168.231.131 6381(从)

info_6381.png

可以看到当前角色为从机(slave),并指明了主机地址192.168.231.130和端口6379。

4、主从验证

接下来我们在主机(master)添加几条数据,看从机(slave)是否可以获取到,如果能获取,说明数据已经同步到了从机,主机添加数据,如下:

6379set

两台从机已经获取到数据,证明主从搭建成功并可同步数据,如下所示:

6380get

6381get

五、Redis 哨兵模式搭建

1、哨兵模式详解

Redis Sentinel是Redis 的高可用性解决方案,由一个或多个Sentinel(哨兵)实例组成。它可以监视任意多个主服务器,以及这些主服务器属下的所有从服务器,并在被监视的主服务器进入下线状态时,自动将下线主服务器属下的某个从服务器升级为新的主服务器,它的主要功能如下:

监控(Monitoring):Sentinel会不断地检查你的主服务器和从服务器是否运作正常。通知(Notification):当被监控的某个 Redis 服务器出现问题时, Sentinel可以通过API向管理员或者其他应用程序发送通知。故障迁移:当主服务器不能正常工作时,Sentinel会自动进行故障迁移,也就是主从切换。统一的配置管理:连接者询问sentinel取得主从的地址。

哨兵原理

Sentinel 使用的算法核心是 Raft 算法,主要用途就是用于分布式系统,系统容错,以及Leader选举,每个Sentinel都需要定期的执行以下任务:

每个 Sentinel 会自动发现其他 Sentinel 和从服务器,它以每秒钟一次的频率向它所知的主服务器、从服务器以及其他 Sentinel 实例发送一个 PING 命令。如果一个实例(instance)距离最后一次有效回复 PING 命令的时间超过 down-after-milliseconds 选项所指定的值, 那么这个实例会被 Sentinel 标记为主观下线。 有效回复可以是: +PONG 、 -LOADING 或者 -MASTERDOWN 。如果一个主服务器被标记为主观下线, 那么正在监视这个主服务器的所有Sentinel要以每秒一次的频率确认主服务器的确进入了主观下线状态。如果一个主服务器被标记为主观下线, 并且有足够数量的Sentinel(至少要达到配置文件指定的数量)在指定的时间范围内同意这一判断, 那么这个主服务器被标记为客观下线。在一般情况下, 每个Sentinel会以每 10 秒一次的频率向它已知的所有主服务器和从服务器发送 INFO 命令。 当一个主服务器被Sentinel标记为客观下线时,Sentinel向下线主服务器的所有从服务器发送 INFO 命令的频率会从 10 秒一次改为每秒一次。当没有足够数量的Sentinel同意主服务器已经下线, 主服务器的客观下线状态就会被移除。 当主服务器重新向Sentinel的 PING 命令返回有效回复时, 主服务器的主管下线状态就会被移除。

哨兵原理

配置文件详解

哨兵的配置主要就是修改sentinel.conf配置文件中的参数,在Redis安装目录即可看到此配置文件,各参数详解如下:

# 哨兵sentinel实例运行的端口,默认26379   port 26379 # 哨兵sentinel的工作目录 dir ./ # 是否开启保护模式,默认开启。 protected-mode:no # 是否设置为后台启动。 daemonize:yes  # 哨兵sentinel的日志文件 logfile:./sentinel.log  # 哨兵sentinel监控的redis主节点的  ## ip:主机ip地址 ## port:哨兵端口号 ## master-name:可以自己命名的主节点名字(只能由字母A-z、数字0-9 、这三个字符".-_"组成。) ## quorum:当这些quorum个数sentinel哨兵认为master主节点失联 那么这时 客观上认为主节点失联了   # sentinel monitor       sentinel monitor mymaster 127.0.0.1 6379 2  # 当在Redis实例中开启了requirepass,所有连接Redis实例的客户端都要提供密码。 # sentinel auth-pass     sentinel auth-pass mymaster 123456    # 指定主节点应答哨兵sentinel的最大时间间隔,超过这个时间,哨兵主观上认为主节点下线,默认30秒   # sentinel down-after-milliseconds   sentinel down-after-milliseconds mymaster 30000    # 指定了在发生failover主备切换时,最多可以有多少个slave同时对新的master进行同步。这个数字越小,完成failover所需的时间就越长;反之,但是如果这个数字越大,就意味着越多的slave因为replication而不可用。可以通过将这个值设为1,来保证每次只有一个slave,处于不能处理命令请求的状态。 # sentinel parallel-syncs   sentinel parallel-syncs mymaster 1    # 故障转移的超时时间failover-timeout,默认三分钟,可以用在以下这些方面: ## 1. 同一个sentinel对同一个master两次failover之间的间隔时间。   ## 2. 当一个slave从一个错误的master那里同步数据时开始,直到slave被纠正为从正确的master那里同步数据时结束。   ## 3. 当想要取消一个正在进行的failover时所需要的时间。 ## 4.当进行failover时,配置所有slaves指向新的master所需的最大时间。不过,即使过了这个超时,slaves依然会被正确配置为指向master,但是就不按parallel-syncs所配置的规则来同步数据了 # sentinel failover-timeout     sentinel failover-timeout mymaster 180000  # 当sentinel有任何警告级别的事件发生时(比如说redis实例的主观失效和客观失效等等),将会去调用这个脚本。一个脚本的最大执行时间为60s,如果超过这个时间,脚本将会被一个SIGKILL信号终止,之后重新执行。 # 对于脚本的运行结果有以下规则:   ## 1. 若脚本执行后返回1,那么该脚本稍后将会被再次执行,重复次数目前默认为10。 ## 2. 若脚本执行后返回2,或者比2更高的一个返回值,脚本将不会重复执行。   ## 3. 如果脚本在执行过程中由于收到系统中断信号被终止了,则同返回值为1时的行为相同。 # sentinel notification-script     sentinel notification-script mymaster /var/redis/notify.sh  # 这个脚本应该是通用的,能被多次调用,不是针对性的。 # sentinel client-reconfig-script   sentinel client-reconfig-script mymaster /var/redis/reconfig.sh

2、哨兵搭建

这里我们部署三个哨兵,每台服务器一个哨兵,配置方式相同,如下

(1)同样为了方便管理,首先将sentinel.conf复制到 etc 下

cd /data/redis-5.0.7/ cp sentinel.conf /data/redis-5.0.7/etc/

(2)编辑 sentinel.conf

cd etc/ vi sentinel.conf

配置文件修改如下,修改完毕后先按 esc ,然后:wq命令保存退出。

//端口默认为26379。 port:26379 //关闭保护模式,可以外部访问。 protected-mode:no //设置为后台启动。 daemonize:yes //日志文件。 logfile:./sentinel.log //指定主机IP地址和端口,并且指定当有2台哨兵认为主机挂了,则对主机进行容灾切换。 sentinel monitor mymaster 192.168.231.130 6379 2 //当在Redis实例中开启了requirepass,这里就需要提供密码。 sentinel auth-pass mymaster pwdtest@2019 //这里设置了主机多少秒无响应,则认为挂了。 sentinel down-after-milliseconds mymaster 3000 //主备切换时,最多有多少个slave同时对新的master进行同步,这里设置为默认的1。 snetinel parallel-syncs mymaster 1 //故障转移的超时时间,这里设置为三分钟。 sentinel failover-timeout mymaster 180000

3、防火墙设置

命令如下,这里根据自己设置的端口进行更改。

firewall-cmd --add-port=26379/tcp --permanent --zone=public #重启防火墙(修改配置后要重启防火墙) firewall-cmd --reload

4、启动三个哨兵:

cd /data/redis-5.0.7/bin redis-sentinel /data/redis-5.0.7/etc/sentinel.conf

三个哨兵都启动后,可使用如下命令查看哨兵信息

redis-cli -p 26379 info sentinel

info_sentinel.

可以看到,哨兵已经监听到当前的主机IP端口和运行状态,并且有2台从机,3个哨兵。

5、容灾切换

现在我们模拟主机宕机,将主机 redis 服务关闭,如下

模拟宕机

现在我们去看三台服务器的情况,发现刚才的主机(192.168.231.130 6379)已经变成了从机,并且哨兵(Sentinel)通过选举机制选举了从机(192.168.231.131 6381)作为了新的主机,如下

容灾切换

进入192.168.231.131 6381 可以看到它已经由从机(slave)变为了主机(master),并且成功连接从机。

newMaster

需要注意的是,主从切换后配置文件已经被自动进行了更改,我们现在看一下新上位的主机 redis 日志,如下

容灾后redis日志

可以看到,当主机挂了的时候,一直连接主机被拒绝,当哨兵选举它为主机后,它成功执行重写的配置文件,并且连接了其他从机。

至此,主从+哨兵的集群架构搭建完毕。

结语

版权声明:本文内容由网络用户投稿,版权归原作者所有,本站不拥有其著作权,亦不承担相应法律责任。如果您发现本站中有涉嫌抄袭或描述失实的内容,请联系我们jiasou666@gmail.com 处理,核实后本网站将在24小时内删除侵权内容。

上一篇:你知道MySQL主从复制的原理吗?
下一篇:MySQL的开发必会的SQL语句
相关文章