https://blog.csdn.net/nimasike/article/details/52487452
本文讲解如何使用KeepAlived配合健康检查脚本来配置Redis高可用(主从数据同步,故障自动切换)。
PS:在使用前请先安装好KeepAlived Redis等相关软件,需要设置为系统服务,但不要设置成为开机启动。
软件环境
CentOS7 X64 | Keepalived v1.2.22 | redis-3.2.0
系统架构图
1:正常情况下VIP绑定到Redis-Master主服务器上(128),由主服务器对外提供服务,Redis-Slave(132)为备用服务器,异步备份主服务器上的数据。
2:当Redis-Master出现故障后,VIP绑定到Redis-Slave服务器上(132),这时通过脚本提升 Redis-Slave 为新的主,对外提供服务。
3:当Redis-Master服务器恢复正常后,通过脚本将它设置备用服务器,同时设置它去新的主服务器(132)上同步数据。
4:只要俩台服务器不同时宕机,即可实现Redis的高可用,故障自动切换功能。
PS:上诉架构仍然存在一些问题,就是当主服务器的缓存内容改变后,此时备份服务器还没来得急更新数据,如果在这时主服务器宕机,那么备份服务器会丢失这部分数据。
命令脚本
1:redis-to-master.sh 当Redis提升为主时执行的脚本。
-
-
-
-
rediscli=“/home/redis/redis-3.2.0/src/redis-cli”
-
-
-
-
perl -pi -e ‘s/^slaveof.*/slaveof no one/’ /home/redis/redis-3.2.0/redis.conf
-
-
echo $(date “+%Y-%m-%d %H:%M:%S”) “the redis is to be the master.” >> /home/redis/redis_rdb/redis-keepalived.log
rediscli=”/home/redis/redis-3.2.0/src/redis-cli” 定义redis客户端的位置。
$rediscli slaveof no one 执行Redis客户端命令,设置不去任何地方同步数据(提升为主)。
perl -pi -e ‘s/^slaveof.*/slaveof no one/’ /home/redis/redis-3.2.0/redis.conf 修改配置文件
echo $(date “+%Y-%m-%d %H:%M:%S”) “the redis is to be the master.” >> /home/redis/redis_rdb/redis-keepalived.log 记录日志。
2:redis-to-slave.sh 当Redis变成备时执行的脚本
-
-
-
-
rediscli=“/home/redis/redis-3.2.0/src/redis-cli”
-
PEER_HOST=“192.168.80.132”
-
-
$rediscli slaveof $PEER_HOST $PEER_PORT
-
perl -pi -e “s/^slaveof.*/slaveof $PEER_HOST $PEER_PORT/” /home/redis/redis-3.2.0/redis.conf
-
-
echo $(date “+%Y-%m-%d %H:%M:%S”) “the redis is to be the slave.” >> /home/redis/redis_rdb/redis-keepalived.log
$rediscli slaveof $PEER_HOST $PEER_PORT 执行Redis客户端命令,设置其去主服务器同步数据(变成备)。
3:redis-check.sh KeepAlived健康检查脚本。
-
-
-
-
rediscli=“/home/redis/redis-3.2.0/src/redis-cli”
-
logfile=“/home/redis/redis_rdb/redis-keepalived.log”
-
-
# echo $(date “+%Y-%m-%d %H:%M:%S”) keepaliced checking >> $logfile
-
-
-
-
-
if [ “${RESULT}” = “PONG” ]; then
-
-
-
echo $(date “+%Y-%m-%d %H:%M:%S”) “ping failed ${TRIES}” >> $logfile
-
-
-
echo $(date “+%Y-%m-%d %H:%M:%S”) “redis server was down. shutdown keepalived.” >> $logfile
-
systemctl stop keepalived.service
-
for TRIES in `seq 1 3` 循环3次
RESULT=`$rediscli ping` 执行客户端命令Ping
if [ “${RESULT}” = “PONG” ]; then exit 0 如果返回正常值,则退出脚本。
否则记录日志,暂停1秒,等3次循环结束则 结束keepalived服务 systemctl stop keepalived.service
PS:当停掉主服务器(128)上的KeepAlived后,VIP会票到备份服务器(132)上面,同时出发脚本提成(132)上面的Redis为主。
KeepAlived配置文件
主服务器配置:
-
! Configuration File for keepalived
-
-
-
-
-
-
notification_email_from root@localhost
-
-
-
-
-
-
-
-
-
-
-
-
-
-
-
-
-
-
-
-
-
-
notify_master /home/redis/redis-shell/redis-to-master.sh
-
notify_backup /home/redis/redis-shell/redis-to-slave.sh
-
#notify_fault /home/keepshell/notify_fault.sh
-
#notify_stop /home/keepshell/notify_stop.sh
-
-
-
virtual_server 127.0.0.1 16379 {
-
-
-
real_server 127.0.0.1 6379 {
-
-
misc_path “/home/redis/redis-shell/redis-check.sh”
-
-
-
-
备服务器配置: 只贴出不同之处。
router_id NodeB (名字不同)
priority 90 (权重低一些)。
PS: nopreempt:不抢占VIP state BACKUP(全不都为BACKUP模式) 需要注意无论主备服务器都需要设置为BACKUP,与以往KeepAlived的配置不同,其目的就是防止主服务器恢复后重新抢回VIP,导致Redis切换从而影响稳定。
==========================================================================
notify_master /home/redis/redis-shell/redis-to-master.sh
当KeepAlived提升为主时执行的脚本,设置Redis变成主。
notify_backup /home/redis/redis-shell/redis-to-slave.sh
当KeepAlived变成Backup时执行的脚本,设置Redis变成备,并且去主同步数据。
misc_path “/home/redis/redis-shell/redis-check.sh”
健康检查脚本,默认执行间隔时间5秒,脚本中如果连续3次ping redis失败,则停止KeepAlived服务。
系统测试
1:首先启动主服务器的redis与keepalived
systemctl start redis.service
systemctl status keepalived.service
启动后观察日志: cat /home/redis/redis_rdb/redis-keepalived.log
-
2016–09–09 17:20:00 the redis is to be the slave.
-
2016–09–09 17:20:19 the redis is to be the master.
可以看到先执行了 notify_backup 这是因为主服务器上的KeepAlived也设置成了BACKUP模式,keep启动后会先成为BACKUP。然后由于只有它自己,所以它接下来会接管VIP,变成Master。然后执行notify_master
这个时候主服务器上的Redis与Keep就正常了,通过客户端插入一些值,怎么插入就不做介绍了
可以看到值已经插入进去了。
2:启动备服务器的Redis与KeepAlived。
systemctl start redis.service
systemctl start keepalived.service
查看日志:cat /home/redis/redis_rdb/redis-keepalived.log
2016-09-09 17:28:11 the redis is to be the slave.
可以看到备服务器启动后KeepAlived执行了 notify_backup 设置redis为备,同时去主服务器同步数据。
3:测试数据同步与客户端连接。
1、可以在主服务器写入数据,然后去备服务器查看数据是否同步,这里就不做截图演示了。
2、写一个客户端去连接VIP上的Redis读取数据。
-
-
-
import java.util.ArrayList;
-
import java.util.HashSet;
-
-
-
-
import java.util.concurrent.LinkedBlockingQueue;
-
import java.util.concurrent.ThreadPoolExecutor;
-
import java.util.concurrent.TimeUnit;
-
-
import redis.clients.jedis.HostAndPort;
-
import redis.clients.jedis.Jedis;
-
import redis.clients.jedis.JedisCluster;
-
import redis.clients.jedis.JedisPool;
-
import redis.clients.jedis.JedisPoolConfig;
-
import redis.clients.jedis.JedisShardInfo;
-
import redis.clients.jedis.ShardedJedis;
-
import redis.clients.jedis.ShardedJedisPool;
-
import redis.clients.util.ClusterNodeInformationParser;
-
-
-
-
public static void main(String[] args) throws Exception {
-
JedisPoolConfig cfg = new JedisPoolConfig();
-
-
final JedisPool pool = new JedisPool(cfg, “192.168.80.120”, 6379, 8000);
-
ThreadPoolExecutor executor = new ThreadPoolExecutor(10, 10, 0,
-
TimeUnit.SECONDS, new LinkedBlockingQueue<Runnable>());
-
-
-
for (int i = 0; i < 1000; i++) {
-
-
-
-
jedis = pool.getResource();
-
System.out.println(jedis.keys(“*”));
-
-
-
-
-
-
-
-
-
-
-
-
-
-
-
4:模拟服务器异常。
1、首先停掉主服务器上的redis ,查看日志,看到keep也已经被停止了,这时VIP会漂到备机上。
-
2016–09–09 17:20:00 the redis is to be the slave.
-
2016–09–09 17:20:19 the redis is to be the master.
-
2016–09–09 17:34:14 ping failed 1
-
2016–09–09 17:34:15 ping failed 2
-
2016–09–09 17:34:16 ping failed 3
-
2016–09–09 17:34:17 redis server was down. shutdown keepalived.
2、查看备机的日志,看到备机已经提升为主,客户端连接VIP仍然可用。
-
2016–09–09 17:28:11 the redis is to be the slave.
-
2016–09–09 17:34:23 the redis is to be the master.
3、这时恢复主服务器,重新启动Redis与KeepAlived
systemctl start redis.service
systemctl start keepalived.service
通过客户端 INFO 命令查看状态,可以看到原来的主,现在变成了备份服务器。又变成了新一轮的主备模式。