redis高可用之主从复制、哨兵以及Cluster集群

数据冗余：主从复制实现了数据的热备份，是持久化之外的一种数据冗余方式。
故障恢复：当主节点出现问题时，可以由从节点提供服务，实现快速的故障恢复，实际上是一种服务的冗余。主从复制进行故障恢复需要手动完成。
负载均衡：在主从复制的基础上，配合读写分离，可以由主节点提供写服务，由从节点提供读服务（即写Redis数据时，应用连接主节点；读Redis数据时，应用连接从节点），分担服务器负载；尤其是在写少读多的场景下，通过多个从节点分担读负载，可以大大提高Redis服务器的并发量。
高可用基石：除了上述作用以外，主从复制还是哨兵和集群能够实施的基础，因此说主从复制是Redis高可用的基础。

2）主从复制流程

首次同步：当从节点要进行主从复制时，它会发送一个SYNC命令给主节点。主节点收到SYNC命令后，会执行BGSAVE命令来生成RDB快照文件，并在生成期间使用缓冲区记录所有写操作。
快照传输：当主节点完成BGSAVE命令并且快照文件准备好后，将快照文件传输给从节点。主节点将快照文件发送给从节点，并且在发送过程中，主节点会继续将新的写操作缓冲到内存中。
追赶复制：当从节点收到快照文件后，会加载快照文件并应用到自己的数据集中。一旦快照文件被加载，从节点会向主节点发送一个PSYNC命令，以便获取缓冲区中未发送的写操作。
增量复制：主节点收到PSYNC命令后，会将缓冲区中未发送的写操作发送给从节点，从节点会执行这些写操作，保证与主节点的数据一致性。此时，从节点已经追赶上了主节点的状态。
同步：从节点会继续监听主节点的命令，并及时执行主节点的写操作，以保持与主节点的数据同步。主节点会定期将自己的操作发送给从节点，以便从节点保持最新的数据状态.

注意:当slave首次同步或者宕机后恢复时，会全盘加载，以追赶上大部队，即全量复制。

3）搭建Redis主从复制

准备三台redis服务器；192.168.170.200 master；192.168.170.100 slave1；192.168.170.101 slave2

1、部署redis服务器

//环境准备
systemctl stop firewalld
systemctl disable firewalld
setenforce 0
sed -i 's/enforcing/disabled/' /etc/selinux/config

#修改内核参数
vim /etc/sysctl.conf
vm.overcommit_memory = 1
net.core.somaxconn = 2048
#刷新生效
sysctl -p


//安装redis
#上传tar.gz格式的redis软件包后解压编译
yum install -y gcc gcc-c++ make
tar zxvf /opt/redis-7.0.9.tar.gz -C /opt/
cd /opt/redis-7.0.9
make
make PREFIX=/usr/local/redis install
#由于Redis源码包中直接提供了 Makefile 文件，所以在解压完软件包后，不用先执行 ./configure 进行配置，可直接执行 make 与 make install 命令进行安装。

#创建redis工作目录和用户
mkdir /usr/local/redis/{conf,log,data}

cp /opt/redis-7.0.9/redis.conf /usr/local/redis/conf/

useradd -M -s /sbin/nologin redis
chown -R redis.redis /usr/local/redis/

#环境变量
vim /etc/profile 
PATH=$PATH:/usr/local/redis/bin#增加一行

source /etc/profile


//定义systemd服务管理脚本
vim /usr/lib/systemd/system/redis-server.service
[Unit]
Description=Redis Server
After=network.target

[Service]
User=redis
Group=redis
Type=forking
TimeoutSec=0
PIDFile=/usr/local/redis/log/redis_6379.pid
ExecStart=/usr/local/redis/bin/redis-server /usr/local/redis/conf/redis.conf
ExecReload=/bin/kill -s HUP $MAINPID
ExecStop=/bin/kill -s QUIT $MAINPID
PrivateTmp=true

[Install]
WantedBy=multi-user.target

2、修改Redis配置文件（所有节点操作）

//master节点
vim /usr/local/redis/conf/redis.conf
bind 0.0.0.0#87行，修改监听地址为0.0.0.0任意地址或者127.0.0.1和本机地址
protected-mode no#111行，将本机访问保护模式设置no
port 6379#138行，Redis默认的监听6379端口
tcp-backlog 20480                               #147行，修改参数为20480
timeout 0                                       #159行，长连接超时，可以自行设置，防止没有任何操作的客户端一致挂在服务器上
daemonize yes#309行，设置为守护进程，后台启动
pidfile /usr/local/redis/log/redis_6379.pid#341行，指定 PID 文件
logfile "/usr/local/redis/log/redis_6379.log"#354行，指定日志文件
dir /usr/local/redis/data#504行，指定持久化文件所在目录
#requirepass 123456#1037行，可选，设置redis密码
appendonly yes#1380行，开启AOF
#masterauth 123456#535行，可选，指定Master节点的密码，在Master节点设置requirepass时，此处才需要设置密码

启动redis
systemctl restart redis-server.service
netstat -lntp | grep 6379

//slave节点
vim /usr/local/redis/conf/redis.conf
replicaof 192.168.170.200 6379                 #528行，指定要同步的Master节点IP和端口

启动redis
systemctl restart redis-server.service
netstat -lntp | grep 6379

3、验证主从复制结果

redis-cli -h ip -p 6379 -a '123456'
info replication

通过master节点的日志分析主从复制的工作流程

[root@master conf]# cd /usr/local/redis/log/
[root@master log]# ls
redis_6379.log  redis_6379.pid
[root@master log]# vim redis_6379.log

二、哨兵模式

主从切换技术的方法是：当服务器宕机后，需要手动一台从机切换为主机，这需要人工干预，不仅费时费力而且还会造成一段时间内服务不可用。为了解决主从复制的缺点，就有了哨兵机制。哨兵的核心功能：在主从复制的基础上，哨兵引入了主节点的自动故障转移。

1）哨兵的作用

监控：哨兵会不断地检查主节点和从节点是否运作正常。
自动故障转移：当主节点不能正常工作时，哨兵会开始自动故障转移操作，它会将失效主节点的其中一个从节点升级为新的主节点，并让其它从节点改为复制新的主节点。
通知（提醒）：哨兵可以将故障转移的结果发送给客户端。

2）哨兵结构的组成

哨兵节点：哨兵系统由一个或多个哨兵节点组成，哨兵节点是特殊的redis节点，不存储数据。
数据节点：主节点和从节点都是数据节点。

3）哨兵故障转移机制

1、由哨兵节点定期监控发现主节点是否出现了故障,每个哨兵节点每隔1秒会向主节点、从节点及其它哨兵节点发送一次ping命令做一次心跳检测。如果主节点在一定时间范围内不回复或者是回复一个错误消息，那么这个哨兵就会单方面的认为这个主节点下线了（是不是真的下线它不管）。当超过半数哨兵节点认为该主节点主观下线了，这样就客观下线了。

2、当主节点出现故障，此时哨兵节点会通过Raft算法（选举算法），实现选举机制共同选举出一个哨兵节点为leader，来负责处理主节点的故障转移和通知。所以整个运行哨兵的集群的数量不得少于3个节点（奇数个）。

3、由leader哨兵节点执行故障转移，过程如下：

将某一个从节点升级为新的主节点，让其它从节点指向新的主节点；
原主节点恢复也变成从节点，并指向新的主节点；
通知客户端主节点已经更换。
需要特别注意的是，客观下线是主节点才有的概念；如果从节点和哨兵节点发生故障，被哨兵主观下线后，不会再有后续的客观下线和故障转移操作。

4）主节点的选举

（1）过滤掉不健康的（已下线的），没有回复哨兵ping响应的从节点。
（2）选择配置文件中从节点优先级配置最高的。（replica-priority，默认值为100）
（3）选择复制偏移量最大，也就是复制最完整的从节点。

5）搭建Redis哨兵模式

注意：哨兵节点既可以单独部署，也可以和数据节点部署在一台服务器上，视服务器的数量而定。哨兵的启动依赖于主从模式，所以须把主从模式安装好的情况下再去做哨兵模式.。

沿用主从复制的三台redis服务器；192.168.170.200 master；192.168.170.100 slave1；192.168.170.101 slave2，vip为192.168.170.99

1、设置Redis哨兵模式配置文件的属组以及属主（master服务器）

cp /opt/redis-7.0.13/sentinel.conf /usr/local/redis/conf/
chown redis:redis /usr/local/redis/conf/sentinel.conf

2、修改Redis哨兵模式的配置文件（所有节点）

vim /usr/local/redis/conf/sentinel.conf
protected-mode no#6行，关闭保护模式
port 26379#10行，Redis哨兵默认的监听端口
daemonize yes#15行，指定sentinel为后台启动
pidfile /usr/local/redis/log/redis-sentinel.pid#20行，指定PID文件
logfile "/usr/local/redis/log/sentinel.log"#25行，指定日志存放路径
dir /usr/local/redis/data#54行，指定数据库存放路径
sentinel monitor mymaster 192.168.170.200 6379 2#73行，修改指定该哨兵节点监控192.168.170.200 6379端口这个主节点，该主节点的名称是mymaster，最后的2的含义与主节点的故障判定有关：至少半数哨兵节点同意，才能判定主节点故障并进行故障转移
#sentinel auth-pass mymaster 123456    #76行，可选，指定Master节点的密码，仅在Master节点设置了requirepass
sentinel down-after-milliseconds mymaster 3000#114行，判定服务器down掉的时间周期，默认30000毫秒（30秒）
sentinel failover-timeout mymaster 180000#214行，同一个sentinel对同一个master两次failover之间的间隔时间（180秒）
sentinel client-reconfig-script mymaster /usr/local/redis/conf/master_ip_failover.sh   #278行，指定故障漂移脚本路劲
-------------------------------------------------------------------------------------------
cd /usr/local/redis/conf
vim master_ip_failover.sh     #编写故障漂移脚本
-----
#!/bin/bash
#新master的ip
MASTER_IP=$6
#当前主机的ip
LOCAL_IP=$(ifconfig | awk 'NR==2 {print $2}')
 
VIP='192.168.9.99'
 
if [ "$MASTER_IP" == "$LOCAL_IP" ];then
    ifconfig ens33:1 $VIP/24
    exit 0
else
    ifconfig ens33:1 $VIP/24 down
    exit 0
fi
exit 1
-----
chmod +x master_ip_failover.sh  #给予可执行权限
systemctl restart redis-server.service

#master服务器
ifconfig ens33:1 192.168.170.99/24

3、master节点开启哨兵模式后slave节点开启哨兵模式，查看哨兵状态

redis-sentinel sentinel.conf &
netstat -lntp | grep 26379

redis-cli -h 192.168.170.200 -p 26379   #没有设置密码
info sentinel

报错

明明配置了三个sentinel，但是这里显示的却是4，有的可能是1，基本都是配置文件有问题，我们要检查一下这几个地方：
1.主节点redis.conf的masterauth是否配置，从节点redis.conf的requirepass是否配置
2.哨兵sentinel.conf配置文件底部的sentinel myid是否有相同，有相同则关闭哨兵进程再将文件中此行删除，重启会重新生成。关闭命令：kill -s term 进程号
3.在较新的redis里提供的sentinel.conf模板文件中，有sentinel-announce-ip和sentinel-announce-port，请记住，这里我们配置的时当前文件所属的哨兵的ip和端口。我就是犯了这个低级错误，写成了主节点的ip和端口

哨兵数量与实际不符合怎么解决？

4、关闭主节点进程，模拟故障切换

master服务器关闭redis，打开slave服务器日志脚本进行监控

三、redis集群模式

Redis群集模式即Redis Cluster，是Redis 3.0开始引入的分布式存储方案。

集群由多组节点(Node)组成，Redis的数据分布在这些节点中。集群中的节点分为主节点和从节点：只有主节点负责读写请求和集群信息的维护；从节点只进行主节点数据和状态信息的复制。

集群将数据分散到多组节点，一方面突破了Redis单机内存大小的限制，存储容量大大增加；另一方面每个主节点都可以对外提供读服务和写服务，大大提高了集群的响应能力。Redis单机内存大小受限问题，在介绍持久化和主从复制时都有提及；例如，如果单机内存太大，bgsave和bgrewriteaof的fork操作可能导致主进程阻塞，主从环境下主机切换时可能导致从节点长时间无法提供服务，全量复制阶段主节点的复制缓冲区可能溢出。redis内存并不是越大越好

1）集群的作用

高可用：集群支持主从复制和主节点的自动故障转移（与哨兵类似）；当任一节点发生故障时，集群仍然可以对外提供服务。

数据分区：数据分区(或称数据分片)是集群最核心的功能。

2）Redis集群的数据分片【※】

Redis集群引入了哈希槽的概念
Redis集群有16384个哈希槽（编号0-16383）
集群的每组节点负责一部分哈希槽
每个Key通过CRC16校验后对16384取余来决定放置哪个哈希槽，通过这个值，去找到对应的插槽所对应的节点，然后直接自动跳转到这个对应的节点上进行存取操作

以3个节点组成的集群为例：

节点A包含0到5460号哈希槽
节点B包含5461到10922号哈希槽
节点C包含10923到16383号哈希槽

3） Redis集群的主从复制模型

集群中具有A、B、C三个节点，如果节点B失败了，整个集群就会因缺少5461-10922这个范围的槽而不可以用。为每个节点添加一个从节点A1、B1、C1整个集群便有三个Master节点和三个slave节点组成，在节点B失败后，集群选举B1为新的主节点继续服务。当B和B1都失败后，集群将不可用。

4）搭建Redis群集模式

主库	从库
192.168.170.200	192.168.170.5
192.168.170.	192.168.170.6
192.168.170.	192.168.170.7

1、部署6台redis

//初始化
systemctl stop firewalld
systemctl disable firewalld
setenforce 0
vim /etc/selinux/config
    --->SELINUX=disabled

//配置内核参数添加配置
vim /etc/sysctl.conf
----------------------------------------------
vm.overcommit_memory = 1                     #内核允许超量使用内存直到用完为止，防止OOM杀死进程
net.core.somaxconn = 20480                    #指定处于监听状态的连接请求队列的最大长度
 
sysctl -p   #加载

//安装依赖包、安装redis
yum install -y gcc gcc-c++ make
cd /opt
rz -E
#redis-7.0.13.tar.gz
tar xf /opt/redis-7.0.13.tar.gz 
cd /opt/redis-7.0.13
make
make PREFIX=/usr/local/redis install
#由于Redis源码包中直接提供了Makefile文件，所以在解压完软件包后，不用先执行./configure行配置，可直接执行make与make install命令进行安装

//创建redis的工作目录并创建redis程序用户，将redis程序执行文件加入到系统环境变量中
cd /usr/local/redis
mkdir conf log data
cd /opt/redis-7.0.13/
cp redis.conf /usr/local/redis/conf/
useradd -M -s /sbin/nologin redis
chown -R redis:redis /usr/local/redis
vim /etc/profile
   ---> export PATH=$PATH:/usr/local/redis/bin
source /etc/profile

//修改redis.conf配置文件
vim /usr/local/redis/conf/redis.conf
bind 192.168.170.200            #87行，添加监听的主机地址
protected-mode no            #111行，将本机访问保护模式设置no。如果开启了，那么在没有设定bind ip且没有设密码的情况下，Redis只允许接受本机的响应
port 6379#138行，Redis默认的监听6379端口
tcp-backlog 20480                               #147行，修改参数为20480，与内核参数一致
daemonize yes#309行，设置为守护进程，后台启动
pidfile /usr/local/redis/log/redis_6379.pid#341行，指定PID文件
logfile "/usr/local/redis/log/redis_6379.log"#354行，指定日志文件
dir /usr/local/redis/data#504行，指定持久化文件所在目录
requirepass 123456

//定义systemd服务管理脚本
cd /usr/lib/systemd/system
vim redis-server.service
-----------------------------------------------------------------------------
[Unit]
Description=Redis Server
After=network.target
 
[Service]
User=redis
Group=redis
Type=forking
TimeoutSec=0
PIDFile=/usr/local/redis/log/redis_6379.pid
ExecStart=/usr/local/redis/bin/redis-server /usr/local/redis/conf/redis.conf
ExecReload=/bin/kill -s HUP $MAINPID
ExecStop=/bin/kill -s QUIT $MAINPID
PrivateTmp=true
 
[Install]
WantedBy=multi-user.target
 
---------------------------------------------------------------------------------
systemctl daemon-reload
systemctl start redis-server.service
systemctl enable redis-server.service
netstat -lntp | grep 6379

2、所有节点修改配置文件、创建集群

cp /opt/redis-7.0.13/redis.conf /usr/local/redis/conf/
/usr/local/redis/conf
vim redis.conf
-------------------------------------------------------------------------------------
bind 0.0.0.0  #87行
protected-mode no  #第111行关闭保护模式
daemonize yes   #309行后台运行打开
pidfile /usr/local/redis/log/redis_6379.pid   #341行pid文件路径
logfile "/usr/local/redis/log/redis_6379.log"    #354日志文件路径
dir /usr/local/redis/data #504行
appendonly yes    #1379aof持久化打开
cluster-enabled yes   #1576打开注释
cluster-config-file nodes-6379.conf   #1584集群配置文件打开注释
cluster-node-timeout 15000     #1590打开注释
-------------------------------------------------------------------------------------
systemctl restart redis-server.service   ####重启所有服务器

//创建集群
redis-cli --cluster create 192.168.170.200:6379 192.168.170.100:6379 192.168.170.101:6379 192.168.170.5:6379 192.168.170.6:6379 192.168.170.70:6379 --cluster-replicas 1

3、登录查看集群信息

redis-cli -h 192.168.170.200 -p 6379 -c        #加-c参数，节点之间就可以互相跳转
    cluster slots         #查看节点的哈希槽编号范围
    set name zhangsan                #创建键和值
    cluster keyslot name #查看name键的槽编号

4、集群测试

5、动态扩容

增加两台无redis服务器：192.168.9.210；192.168.9.120

① 集群master节点服务器进行复制操作

启动文件复制到新添加的服务器中
cd /usr/local/redis/conf
scp redis.conf 192.168.170.120:`pwd`
scp redis.conf 192.168.170.210:`pwd`

cd /usr/lib/systemd/system
scp redis-server.service 192.168.170.210:`pwd`
scp redis-server.service 192.168.170.120:`pwd`

scp -rp redis/ 192.168.170.210:/usr/local
scp -rp redis/ 192.168.170.120:/usr/local

scp redis.conf 192.168.170.210:`pwd`
scp redis.conf 192.168.170.120:`pwd`

cd /usr/lib/systemd/system
scp redis-server.service 192.168.170.210:`pwd`
scp redis-server.service 192.168.170.120:`pwd`

② 两台新服务器操作

初始化操作
systemctl disable --now firewalld
vim /etc/sysctl.conf
-------------------------------------------------------------------------------
vm.overcommit_memory = 1
net.core.somaxconn = 20480
-------------------------------------------------------------------------------
sysctl -p

创建用户，准备空目录
useradd -M -s /sbin/nologin redis
rm -rf conf/*
rm -rf log/*
rm -rf data/*
chown -R redis:redis /usr/local/redis

启动服务
systemctl enable --now redis-server.service  
vim /etc/profile
export PATH=$PATH:/usr/local/redis/bin
source /etc/profile

③ 集群master节点服务器配置将两台服务器加入集群

redis-cli -h 192.168.170.140 -p 6379
cluster meet 192.168.170.210 6379
cluster meet 192.168.170.120 6379

④ 192.168.170.120对192.168.170.210对接做主从复制

redis-cli -h 192.168.170.120 -p 6379
cluster replicate 0f3ffa68ab18469feb2d135313b6d141b15a998f

⑤ master节点查询是否连接成功

cluster nodes

⑥为新添加的服务器分配hash槽

原文地址：https://blog.csdn.net/2401_83883919/article/details/140005799

免责声明：本站文章内容转载自网络资源，如本站内容侵犯了原著者的合法权益，可联系本站删除。更多内容请关注自学内容网（zxcms.com）！

上一篇：相信开源的力量，MoonBit 构建系统正式开源
下一篇：【BUG】已解决：TypeError: expected string or bytes-like object

openresty入门教程：init_by_lua_block
是 Nginx 配置中用于在 Nginx 启动时执行 Lua 脚本的一个指令。这个指令通常用于初始化全局变量、设置共享内存，或者执行一些需要在服务器启动时完成的准备工作。以下是一个简单的。
阅读更多2024-11-10
2024 高级爬虫笔记（一）bs4和xpath使用教程
【代码】2024 高级爬虫笔记（一）bs4和xpath使用教程。
阅读更多2024-11-10
微信小程序中使用离线版阿里云矢量图标
阿里矢量图库提供的在线链接服务仅供平台体验和调试使用，平台不承诺服务的稳定性，企业客户需下载字体包自行发布使用并做好备份。
阅读更多2024-11-10
CDH大数据平台部署
全称Cloudera’s Distribution Including Apache Hadoop。hadoop的版本 (Apache、CDH、Hotonworks版本)在公司中一般使用cdh多一些（
阅读更多2024-11-10
【科普小白】LLM大语言模型的基本原理
大语言模型：LLM（Large Language Models），是试图完成文本生成任务的一类 ML（Machine Learning，机器学习）模型。LLM 使计算机能够处理、解释和生成人类语言，从
阅读更多2024-11-10
文献阅读 | Nature Methods：使用 STAMP 对空间转录组进行可解释的空间感知降维
文献介绍文献题目：使用 STAMP 对空间转录组进行可解释的空间感知降维研究团队：陈金妙（新加坡科学技术研究局）发表时间： 2024-10-15 发表期刊： Nature Methods 影响因
阅读更多2024-11-10
SpringBoot技术下的共享汽车运营平台
1系统概述1.1 研究背景随着计算机技术的发展以及计算机网络的逐渐普及，互联网成为人们查找信息的重要场所，二十一世纪是信息的时代，所以信息的管理显得特别重要。因此，使用计算机来管理共享汽车管理系统的相
阅读更多2024-11-10
PySpark 数据处理实战：从基础操作到案例分析
本文将通过三个案例，我们详细展示了 PySpark 在不同数据处理场景下的应用。从手机号码流量统计到合同数据分析，再到日志分析，涵盖了数据过滤、映射、分组求和、排序以及特定数据统计等常见操作。同时，也
阅读更多2024-11-10
基于MATLAB的农业病虫害识别研究
matlab有处理语音信号的函数wavread，不过已经过时了，现在处理语音信号的函数名称是audioread。% 播放音频% sound(x,Fs)% sound(y,Fs)选取4.wav进行处理（
阅读更多2024-11-10
three.js的轨道控制器 orbitControls 详细学习参数
three.js的轨道控制器 orbitControls 详细学习参数。清理控制器所占用的资源，释放内存。阻尼系数，控制平滑移动的速度。控制相机围绕其旋转的目标点。是否启用阻尼以实现平滑移动。重置
阅读更多2024-11-10