2018-05-23 nginx和keepalived实现IT服务的负债均衡和高可用

通过nginx的反向代理功能实现负载均衡,通过keepalived的故障转移功能实现nginx的高可用。

1环境

192.168.159.134 nginx + keepalived master
192.168.159.139 nginx + keepalived backup
192.168.159.137 tomcat
192.168.159.138 tomcat
192.168.159.3 VIP(虚拟IP)

2 tomcat 做应用服务器

3 nginx做负载均衡

nginx.conf的配置如下:


user nobody nobody; #运行用户:任意
worker_processes 1; #设置值和CPU核心数一致

error_log /usr/local/webserver/nginx/logs/nginx_error.log crit; #日志位置和日志级别
pid /usr/local/webserver/nginx/nginx.pid; #PID文件

# 工作模式和连接数上限
events
{
    use epoll;
    worker_connections 65535; # 单个后台worker process进程的最大并发
}


http
{
    include mime.types;
    default_type application/octet-stream;

    # 日志格式
    log_format main  '$remote_addr - $remote_user [$time_local] "$request" '
               '$status $body_bytes_sent "$http_referer" '
               '"$http_user_agent" $http_x_forwarded_for';


    #设定请求缓冲
    server_names_hash_bucket_size 128;
    client_header_buffer_size 32k;
    large_client_header_buffers 4 32k;
    client_max_body_size 8m;

    # 设置为on表示启动高效传输文件的模式
    sendfile on; 
    tcp_nopush on;
    tcp_nodelay on;

    #连接超时时间
    keepalive_timeout 60;


    #开启gzip压缩,降低传输流量
    gzip on;
    gzip_min_length 1k;
    gzip_buffers 4 16k;
    gzip_http_version 1.0;
    gzip_comp_level 2;
    gzip_types text/plain application/x-javascript text/css application/xml;
    gzip_vary on;


    # 真实服务器
    upstream myWeb
    {
        server 192.168.159.137:8080;
        server 192.168.159.138:8080;
    }

    # 虚拟服务器
    server
    {
        listen 80;#监听端口
        server_name localhost;

          location /myWeb/
        {
            proxy_pass http://myWeb;
            proxy_set_header Host $host;
        }

    }

}

同一个链接访问到两台机器:

master
backup

4 keepalived实现nginx高可用

master的keepalived.conf配置:

global_defs {
   router_id lb01
}

vrrp_script check {     #定义脚本
   script "/home/admin/software/script/check_web.sh"  --- 表示将一个脚本信息赋值给变量check_web
   interval 2    --- 执行监控脚本的间隔时间
   weight 2  ---利用权重值和优先级进行运算,从而降低主服务优先级使之变为备服务器(建议先忽略)
}

vrrp_instance VI_1 {
    state MASTER # 指定keepalived的角色,MASTER为主机
    interface eth0 # 当前的网卡
    virtual_router_id 71 # 虚拟路由编号,主机和备份要一直
    priority 150 # 优先级,数值越大,获取处理请求的优先级越高
    advert_int 1 # 检查间隔,默认为1s(vrrp组播周期秒数)
    authentication {
        auth_type PASS
        auth_pass 1111
    }
    virtual_ipaddress {
        192.168.159.3/24 dev eth0 label eth0:1 # 定义虚拟ip(VIP)
    }
    track_script {     #调用脚本
       check
    }
}

backup的keepalived.conf配置:

global_defs {
   router_id lb02
}

vrrp_instance VI_1 {
    state BACKUP # 指定keepalived的角色,BACKUP为备份
    interface eth1 # 当前的网卡
    virtual_router_id 71 # 虚拟路由编号,主机和备份要一直
    priority 100 # 优先级,数值越大,获取处理请求的优先级越高
    advert_int 1 # 检查间隔,默认为1s(vrrp组播周期秒数)
    authentication {
        auth_type PASS
        auth_pass 1111
    }
    virtual_ipaddress {
        192.168.159.3/24 dev eth1 label eth1:1 # 定义虚拟ip(VIP)
    }

}

脚本check_web.sh,主要作用是监控nginx,当进程小于2个,则关闭keepalived,让备份进入主机模式。

#!/bin/bash

while true
do
if [ `ps -ef |grep nginx |grep -v grep |wc -l` -lt 2 ]
then
   /etc/init.d/keepalived stop
   exit
fi
done

配置好并启动之后,访问虚拟IP:

cat /var/log/messages看下日志:

master日志
backup日志

master终止keepalived服务模拟宕机,可以看到backup切换为master,接管虚拟IP:

重新启动master的keepalived服务,模拟master恢复,可以看到backup切换回备份模式:

在主机和备份切换的过程中,对于前面访问VIP的客户端来说是不可见的。

5 注意

问题1:虚拟IP没有绑定到网卡

通过 ifconfig 查不到VIP的信息:

发现在启动了keepalived服务之后,虚拟IP没有绑定到网卡,这需要修改内核参数开启允许绑定非本机的IP。

vim /etc/sysctl.conf

添加:

net.ipv4.ip_nonlocal_bind = 1

然后通过命令 sysctl -p 让修改立刻生效。

VIP添加成功:

如果还是不成功,可以尝试在指定虚拟IP的时候指定绑定的网卡:

问题2:主机备机同时进入master模式(裂脑)

其实就是主机和备机之间的心跳失败。

1)检查虚拟路由编号(virtual_router_id)是否一致。
2)调整iptables
可以直接关闭:

service iptables stop 

也可以增加对vrrp的过滤【vim /etc/sysconfig/iptables】:

-A INPUT -p vrrp -j ACCEPT 

Keepalived的主备之间是通过VRRP( Virtual Router Redundancy Protocol,虚拟路由冗余协议)通信的,因此要开通防火墙的过滤。

6 参考文章链接

Nginx安装及配置详解:
http://www.cnblogs.com/zhouxinfei/p/7862285.html

高并发场景 LVS 安装及高可用实现:
http://www.cnblogs.com/clsn/p/7920637.html

keepalived实现服务高可用:
http://www.cnblogs.com/clsn/p/8052649.html

Keepalived无法绑定VIP故障排查经历:
https://www.linuxidc.com/Linux/2015-03/114981.htm

©著作权归作者所有,转载或内容合作请联系作者
  • 序言:七十年代末,一起剥皮案震惊了整个滨河市,随后出现的几起案子,更是在滨河造成了极大的恐慌,老刑警刘岩,带你破解...
    沈念sama阅读 206,214评论 6 481
  • 序言:滨河连续发生了三起死亡事件,死亡现场离奇诡异,居然都是意外死亡,警方通过查阅死者的电脑和手机,发现死者居然都...
    沈念sama阅读 88,307评论 2 382
  • 文/潘晓璐 我一进店门,熙熙楼的掌柜王于贵愁眉苦脸地迎上来,“玉大人,你说我怎么就摊上这事。” “怎么了?”我有些...
    开封第一讲书人阅读 152,543评论 0 341
  • 文/不坏的土叔 我叫张陵,是天一观的道长。 经常有香客问我,道长,这世上最难降的妖魔是什么? 我笑而不...
    开封第一讲书人阅读 55,221评论 1 279
  • 正文 为了忘掉前任,我火速办了婚礼,结果婚礼上,老公的妹妹穿的比我还像新娘。我一直安慰自己,他们只是感情好,可当我...
    茶点故事阅读 64,224评论 5 371
  • 文/花漫 我一把揭开白布。 她就那样静静地躺着,像睡着了一般。 火红的嫁衣衬着肌肤如雪。 梳的纹丝不乱的头发上,一...
    开封第一讲书人阅读 49,007评论 1 284
  • 那天,我揣着相机与录音,去河边找鬼。 笑死,一个胖子当着我的面吹牛,可吹牛的内容都是我干的。 我是一名探鬼主播,决...
    沈念sama阅读 38,313评论 3 399
  • 文/苍兰香墨 我猛地睁开眼,长吁一口气:“原来是场噩梦啊……” “哼!你这毒妇竟也来了?” 一声冷哼从身侧响起,我...
    开封第一讲书人阅读 36,956评论 0 259
  • 序言:老挝万荣一对情侣失踪,失踪者是张志新(化名)和其女友刘颖,没想到半个月后,有当地人在树林里发现了一具尸体,经...
    沈念sama阅读 43,441评论 1 300
  • 正文 独居荒郊野岭守林人离奇死亡,尸身上长有42处带血的脓包…… 初始之章·张勋 以下内容为张勋视角 年9月15日...
    茶点故事阅读 35,925评论 2 323
  • 正文 我和宋清朗相恋三年,在试婚纱的时候发现自己被绿了。 大学时的朋友给我发了我未婚夫和他白月光在一起吃饭的照片。...
    茶点故事阅读 38,018评论 1 333
  • 序言:一个原本活蹦乱跳的男人离奇死亡,死状恐怖,灵堂内的尸体忽然破棺而出,到底是诈尸还是另有隐情,我是刑警宁泽,带...
    沈念sama阅读 33,685评论 4 322
  • 正文 年R本政府宣布,位于F岛的核电站,受9级特大地震影响,放射性物质发生泄漏。R本人自食恶果不足惜,却给世界环境...
    茶点故事阅读 39,234评论 3 307
  • 文/蒙蒙 一、第九天 我趴在偏房一处隐蔽的房顶上张望。 院中可真热闹,春花似锦、人声如沸。这庄子的主人今日做“春日...
    开封第一讲书人阅读 30,240评论 0 19
  • 文/苍兰香墨 我抬头看了看天上的太阳。三九已至,却和暖如春,着一层夹袄步出监牢的瞬间,已是汗流浃背。 一阵脚步声响...
    开封第一讲书人阅读 31,464评论 1 261
  • 我被黑心中介骗来泰国打工, 没想到刚下飞机就差点儿被人妖公主榨干…… 1. 我叫王不留,地道东北人。 一个月前我还...
    沈念sama阅读 45,467评论 2 352
  • 正文 我出身青楼,却偏偏与公主长得像,于是被迫代替她去往敌国和亲。 传闻我的和亲对象是个残疾皇子,可洞房花烛夜当晚...
    茶点故事阅读 42,762评论 2 345

推荐阅读更多精彩内容