Net分布式系统之三：Keepalived+LVS+Nginx负载均衡之高可用

上一篇写了nginx负载均衡，此篇实现高可用（HA）。系统整体设计是采用Nginx做负载均衡，若出现Nginx单机故障，则导致整个系统无法正常运行。针对系统架构设计的高可用要求，我们需要解决Nginx负载均衡出现单机故障时，系统正常运行的需求。所以系统架构引入Keepalived组件，实现系统高可用。

一、Keepalived介绍

Keepalived是分布式部署系统解决系统高可用的软件，结合LVS（Linux Virtual Server）使用，其功能类似于heartbeat，解决单机宕机的问题。

二、Keepalived技术原理

keepalived是以VRRP协议为实现基础的，VRRP全称Virtual Router Redundancy Protocol，即虚拟路由冗余协议。通过VRRP协议结合LVS，对组群服务器监控情况，若master出现宕机情况，则将VIP漂移到backup机上。实现了分布式系统高可用。可以理解为：keepalived是LVS的管理软件，根据监控情况，将宕机服务器从ipvsadm移除掉。

三、Keepalived+LVS+Nginx实现系统高可用

1、安装ipvsadm，CentOS7自带安装包，通过yum进行安装。实现系统支持LVS

yum install ipvsadm

2、安装Keepalived软件，并将keepalived设置开机启动

yum install Keepalived

systemctl enable keepalived

3、进行Keepalived.conf配置，如果是MASTER机，将state BACKUP改为state MASTER。

vim /etc/keepalived/keepalived.conf
#配置的内容
! Configuration File for keepalived
 
global_defs {
   notification_email {
     xxx@126.com #收到通知的邮件地址
   }
   notification_email_from XX@126.com
   smtp_server 127.0.0.1
   smtp_connect_timeout 30
   router_id LVS_DEVEL
}
 
vrrp_script monitor_nginx{
   script "/usr/local/etc/keepalived/script/monitor_nginx.sh"
   interval 1
   weight -15
}
 
vrrp_instance VI_1 {
    state BACKUP
    interface eno16777736
    virtual_router_id 51
    priority 80
    advert_int 1
    authentication {
        auth_type PASS
        auth_pass 1111
    }
    virtual_ipaddress {
        192.168.1.120
    }
    track_script {
        monitor_nginx
    }
}
 
virtual_server 192.168.1.120 80 {
    delay_loop 6
    lb_algo wrr
    lb_kind DR
    persistence_timeout 50
    protocol TCP
 
    real_server 192.168.1.103 80 {
        weight 1
        TCP_CHECK {
            connect_timeout 10
            nb_get_retry 3
            delay_before_retry 3
            connect_port 80
        }
    }
 
    real_server 192.168.1.104 80 {
        weight 5
        TCP_CHECK {
            connect_timeout 10
            nb_get_retry 3
            delay_before_retry 3
            connect_port 80
        }
    }
}

4、配置监控shell脚本

（1）创建：vim /usr/local/etc/keepalived/script/monitor_nginx.sh
（2）SHELL文件内容

#!/bin/bash 
if [ "$(ps -ef | grep "nginx: master process"| grep -v grep )" == "" ]
then 
    systemclt start nginx.service
    sleep 5   
  if [ "$(ps -ef | grep "nginx: master process"| grep -v grep )" == "" ] 
  then  
    killall keepalived 
  fi 
fi

以上完成相关配置，nginx和web服务以上一篇博客内容一致。如下对功能进行验证测试。

四、实现测试展示

1、访问系统情况：通过VIP（192.168.1.120）访问系统页面。因为设置了轮询调度，所以刷新页面访问不同站点。

2、将 MASTER（192.168.1.104）关机前后，查看相关VLS情况：

（1）关机前：

（2）关机后：

我们看到将104服务器从 LVS移除掉。此时则将后续请求转发到103服务器。

3、关机后，BACKUP服务器 keepalived日志显示无法连接104，并移除掉

5、开机后，将自动检测到服务器正常，并加入LVS中。