docker+consul基于服务发现的极简web架构实践

自从docker的出现,web架构方式也出现了新的变化。这几年一直在关注docker,但是从未实践过。最近有点时间,决定实践下,用以评估今后架构转型的可行性。

写本文的目的是,分享自己的实践,希望能让初学者能少走点冤枉路。

这里就不再千篇一律的讲什么docker的原理的,既然是初学者,那些说实话没什么用。初学者更需要的是通过实践,窥到docker的外形。

为保持精炼,文章会隐藏一些细节,如果不明白,请留言。

实践过程中,发现docker这个大玩具,知识点还是非常多的。

所以在实践前做了一些知识储备:

  1. Docker — 从入门到实践:https://yeasy.gitbooks.io/docker_practice/content/introduction/what.html
    这是一本好书,让我缩短了知识储备的时间,非常建议初学者还是先仔细研读。
    不过细节部分讲的不是特别细,很多知识还是得各种查资料。

  2. Docker文档:https://docs.docker.com/
    查资料用的

  3. consul文档:https://www.consul.io/docs/guides/index.html
    如果你选择consul,这个是必读的,这家伙比传说中的复杂多了。

  4. consul的docker镜像:https://hub.docker.com/r/progrium/consul/
    包装consul的镜像,简化了consul的部署,这也是docker的魅力。

  5. 《Nodejs微服务架构》
    比较务实的一本书,从书里找到了一些灵感。比如Seneca可能是下一步会做的技术选型,去集中化的方式避免了服务发现的繁琐。

架构

下面废话不多说,架构大概是这样的。很简单,没有那种高来高去的东西,新手需要的是情境无关。

image.png

对于架构的考虑:

  1. 首先架构应该是,简单的,可迭代演进的。这样可操作性和可维护性会更强。
  2. 谈架构,无外乎就是高可用和可扩展,脱离这两个都是耍流氓。还有就是省钱,动不动20台服务器,创业公司伤不起。所以,解决好了就是好架构。
  3. 监控方案是后续迭代演进的事,你必须要保证你的系统正常运转,才能缩短开发周期。留出更多的时间,你可以做这些重要的事。
  4. 关于负载均衡器,有很多备选方案,现在云服务这么发达,可选的方案也很多,甚至有跨机房的负载均衡。比自己搭nginx+keepalived要方便的多。
  5. 选择consul,用于服务发现,解决的是服务互访的问题。
  6. 没有集群方案,这里没有考虑使用集群方案,比如swarm之类的,在实践过程中,发现配置过于繁琐,更不用说zookeeper了。
  7. 为什么没有使用consul-template,虽然很巧妙,但是这两个服务集成的耦合度过高。nginx模板配置繁琐,这会极大增加运维成本。不太像是一个适用与生产环境的成熟方案。

架构原理

第一步,所有应用启动之后会向consu集群注册自己,注册的信息包括

  • 所属数据中心 DC1
  • 所属数据中心的宿主机节点
  • 所属节点的服务,服务访问方式ip,端口

如何注册?很多方式,比较简单的方式是,应用在启动的时候往consul 注册Api发送注册服务信息。
可以使用shell或者应用程序来发送。比如nodejs 可以引入node-consul库来发送注册信息。

后期consul会负责服务节点的健康检查。

第二步,当应用间存在访问时,如Api网关访问微服务,web应用访问微服务,微服务之间互访。这里可以使用consul Api定期请求服务状态的方式,来获取可用的节点,后面会详细介绍。请求到节点后还可以在应用程序级别做一些负载均衡策略。没有使用dns的原因的,dns使用起来也不是很方便,配置起来也很繁琐。

基础工作

安装docker

首先是安装docker,mac下安装很简单,其他环境除了安装过程不一样,后续基本一样。
https://docs.docker.com/docker-for-mac/
安装之后有GUI界面可以用,可以让新手快速使用起来。

image.png

安装后的配置

如果你还没有注册 docker hub.,按提示注册即可。
登陆完后,进入Preferences...
添加阿里云docker hub镜像:https://45599kaw.mirror.aliyuncs.com
也可以自己注册一个阿里云,开通容器云服务,镜像是免费送的。

image.png

打开终端,实验下是否成功

$ docker search nginx

出现登陆提示:
登陆请注意,登录名使用注册时的用户名,千万别用邮箱。

安装虚拟机

安装VirtualBox
作为实验性项目,使用VirutalBox可以快速构建你想要的物理环境,而且docker和virtualbox搭配的很好,使用docker-machine可以非常简单的管理所有虚拟机。

开始

好了,万事具备。现在我们开始创建虚拟机。

使用docker工具包自带的 docker-machine工具,可以帮你快速创建一个docker宿主机。

在这个架构中,我们一共只需要创建3台宿主机

docker-machine命令后面会用的比较频繁,所以我们改个短点的名字。

这里我用zsh,bash类似。

$ vi ~/.zshrc

#增加
alias dm="docker-machine”

依次创建3台虚拟机
$ dm create -d "virtualbox” node1
$ dm create -d "virtualbox” node2
$ dm create -d "virtualbox" node3

ip是自动分配的,不出意外的话,会得到下面对应的ip(如果真出意外了,就改改ip吧)。

宿主机 node1: 192.169.99.100
宿主机 node2: 192.169.99.101
宿主机 node3: 192.169.99.102

$ dm ls

NAME    ACTIVE   DRIVER       STATE     URL                         SWARM   DOCKER        ERRORS
node1   -        virtualbox   Running   tcp://192.168.99.100:2376           v17.06.0-ce
node2   -        virtualbox   Running   tcp://192.168.99.101:2376           v17.06.0-ce
node3   -        virtualbox   Running   tcp://192.168.99.102:2376           v17.06.0-ce

第一台宿主机配置

宿主机node1
我们新开一个终端
$ dm ssh node1
这个命令可以快速登入node1宿主机

$ sudo vi /etc/docker/daemon.json
{
  "experimental" : true,
  "registry-mirrors" : [
    "https://45599kaw.mirror.aliyuncs.com"
  ]
}

虽然可以架设regsiter私服,但是使用起来的麻烦程度,远远超过重复下载带来的代价。所以不用纠结了,就这么整,非常简单。

改完之后,重启docker

$ sudo /etc/init.d/docker restart

执行命令后有提示错误,不用理会。

配置consul-server

启动第一台 consul-server,非常简单,一条命令搞定,这就是docker的魅力。

$ docker run -h node1  --name consul -d -v /data:/data --restart=always\
    -p   8300:8300 \
    -p   8301:8301 \
    -p   8301:8301/udp \
    -p   8302:8302 \
    -p   8302:8302/udp \
    -p   8400:8400 \
    -p   8500:8500 \
progrium/consul -server \
-bootstrap-expect 3 \
-advertise 192.168.99.100

下面来解释下各个参数
-h 节点名字
--name 容器(container)名称,后期用来方便启动关闭,看日志等,这个一定要写
-d 后台运行
-v /data:/data 使用宿主机的/data目录映射到容器内部的/data,用于保存consul的注册信息,要不docker 一重启,数据是不保留的。
--restart=always 这个可以活得长一点
下面几个参数都是consul集群用的,非集群模式可以不使用。
-p 8300:8300
-p 8301:8301
-p 8301:8301/udp
-p 8302:8302
-p 8302:8302/udp \

progrium/consul 镜像名称,本地没有就自动从公共docker库下载
后面的都是consul的参数:
-server \ 以服务节点启动
-bootstrap-expect 3 \ 预期的启动节点数3,最少是3,要不达不到cluster的效果
-advertise 192.168.99.100 告诉集群,我的ip是什么,就是注册集群用的

执行完毕后 ,使用docker ps看下,是否运行正常。docker logs就不用看了,里面各种警告和错误,其实那都是假象。

但是consul cluster你必须明白,只有3个consul-server节点都启动正常了,整个集群才能正常启动。
打开 http://192.168.99.100:8500/
但是你看不到下面的consul标签,因为集群还没有都起来。


配置下一台consul-server

开启一个新的终端

$ dm ssh node2  #进入node2宿主机

增加daemon.json,重启docker,不再赘述。

$ docker run -h node2 --name consul -d -v /data:/data   --restart=always\
    -p   8300:8300 \
    -p   8301:8301/udp \
    -p   8302:8302 \
    -p   8302:8302/udp \
    -p   8400:8400 \
    -p   8500:8500 \
progrium/consul -server \
-advertise 192.168.99.101 \
-join  192.168.99.100

这里多了一个参数
-join 192.168.99.100 代表的是加入node1建立好的consul-server

好,已经加入了,但是集群还是没有完备。

用同样的方法配置 最后一台
新开终端进入node3

$ docker run -h node3 --name consul -d -v /data:/data   --restart=always\
    -p   8300:8300 \
    -p   8301:8301/udp \
    -p   8302:8302 \
    -p   8302:8302/udp \
    -p   8400:8400 \
    -p   8500:8500 \
progrium/consul -server \
-advertise 192.168.99.102 \
-join  192.168.99.100

consul配置完毕

检查是否成功
没出意外的话,就看到下面的界面
http://192.168.99.100:8500/


但是我有预感,意外的可能性比较大。如果不成功,可以留言,这里面细节比较多。。。

开始启动应用

这里拿最简单的nginx服务作为演示,情境无关。

启动nginx

进入3个节点
执行
$ docker run -d -p 80:80 --name nginx nginx

在node1,node2,node3中, 分别执行以下命令

$ curl -X PUT -d '{"id": "nginx","name": "nginx","address": "192.168.99.100","port": 80,"checks": [{"http": "http://192.168.99.100/","interval": "5s"}]}' http://127.0.0.1:8500/v1/agent/service/register

$ curl -X PUT -d '{"id": "nginx","name": "nginx","address": "192.168.99.101","port": 80,"checks": [{"http": "http://192.168.99.101/","interval": "5s"}]}' http://127.0.0.1:8500/v1/agent/service/register

$ curl -X PUT -d '{"id": "nginx","name": "nginx","address": "192.168.99.102","port": 80,"checks": [{"http": "http://192.168.99.102/","interval": "5s"}]}' http://127.0.0.1:8500/v1/agent/service/register

好了,我们启动了3个nginx,并将它们都注册到了consul.

健康检查

获取状态

http 命令工具 httpie,可以自行安装,替代curl,可以高亮格式化返回的json

$ http http://192.168.99.100:8500/v1/health/checks/nginx

HTTP/1.1 200 OK
Content-Type: application/json
Date: Sun, 30 Jul 2017 11:41:59 GMT
Transfer-Encoding: chunked
X-Consul-Index: 20
X-Consul-Knownleader: true
X-Consul-Lastcontact: 0

[    
    {
        "CheckID": "service:nginx",
        "Name": "Service 'nginx' check",
        "Node": "node1",
        "Notes": "",
        "Output": "HTTP GET http://192.168.99.100/: 200 OK Output: <!DOCTYPE html>\n<html>\n<head>\n<title>Welcome to nginx!</title>\n<style>\n    body {\n        width: 35em;\n        margin: 0 auto;\n        font-family: Tahoma, Verdana, Arial, sans-serif;\n    }\n</style>\n</head>\n<body>\n<h1>Welcome to nginx!</h1>\n<p>If you see this page, the nginx web server is successfully installed and\nworking. Further configuration is required.</p>\n\n<p>For online documentation and support please refer to\n<a href=\"http://nginx.org/\">nginx.org</a>.<br/>\nCommercial support is available at\n<a href=\"http://nginx.com/\">nginx.com</a>.</p>\n\n<p><em>Thank you for using nginx.</em></p>\n</body>\n</html>\n",
        "ServiceID": "nginx",
        "ServiceName": "nginx",
        "Status": "passing"
    },
    {
        "CheckID": "service:nginx",
        "Name": "Service 'nginx' check",
        "Node": "node2",
        "Notes": "",
        "Output": "HTTP GET http://192.168.99.101/: 200 OK Output: <!DOCTYPE html>\n<html>\n<head>\n<title>Welcome to nginx!</title>\n<style>\n    body {\n        width: 35em;\n        margin: 0 auto;\n        font-family: Tahoma, Verdana, Arial, sans-serif;\n    }\n</style>\n</head>\n<body>\n<h1>Welcome to nginx!</h1>\n<p>If you see this page, the nginx web server is successfully installed and\nworking. Further configuration is required.</p>\n\n<p>For online documentation and support please refer to\n<a href=\"http://nginx.org/\">nginx.org</a>.<br/>\nCommercial support is available at\n<a href=\"http://nginx.com/\">nginx.com</a>.</p>\n\n<p><em>Thank you for using nginx.</em></p>\n</body>\n</html>\n",
        "ServiceID": "nginx",
        "ServiceName": "nginx",
        "Status": "passing"
    },
    {
        "CheckID": "service:nginx",
        "Name": "Service 'nginx' check",
        "Node": "node3",
        "Notes": "",
        "Output": "HTTP GET http://192.168.99.102/: 200 OK Output: <!DOCTYPE html>\n<html>\n<head>\n<title>Welcome to nginx!</title>\n<style>\n    body {\n        width: 35em;\n        margin: 0 auto;\n        font-family: Tahoma, Verdana, Arial, sans-serif;\n    }\n</style>\n</head>\n<body>\n<h1>Welcome to nginx!</h1>\n<p>If you see this page, the nginx web server is successfully installed and\nworking. Further configuration is required.</p>\n\n<p>For online documentation and support please refer to\n<a href=\"http://nginx.org/\">nginx.org</a>.<br/>\nCommercial support is available at\n<a href=\"http://nginx.com/\">nginx.com</a>.</p>\n\n<p><em>Thank you for using nginx.</em></p>\n</body>\n</html>\n",
        "ServiceID": "nginx",
        "ServiceName": "nginx",
        "Status": "passing"
    }
]

可以看到3个nginx的服务节点都是passing状态,这时候你可以选择一个使用了。

制造一些事故

进入node3
$ docker kill nginx

进入node2

$ docker kill consul

再次检查

$ http http://192.168.99.100:8500/v1/health/checks/nginx

[
    {
        "CheckID": "service:nginx",
        "Name": "Service 'nginx' check",
        "Node": "node1",
        "Notes": "",
        "Output": "HTTP GET http://192.168.99.100/: 200 OK Output: <!DOCTYPE html>\n<html>\n<head>\n<title>Welcome to nginx!</title>\n<style>\n    body {\n        width: 35em;\n        margin: 0 auto;\n        font-family: Tahoma, Verdana, Arial, sans-serif;\n    }\n</style>\n</head>\n<body>\n<h1>Welcome to nginx!</h1>\n<p>If you see this page, the nginx web server is successfully installed and\nworking. Further configuration is required.</p>\n\n<p>For online documentation and support please refer to\n<a href=\"http://nginx.org/\">nginx.org</a>.<br/>\nCommercial support is available at\n<a href=\"http://nginx.com/\">nginx.com</a>.</p>\n\n<p><em>Thank you for using nginx.</em></p>\n</body>\n</html>\n",
        "ServiceID": "nginx",
        "ServiceName": "nginx",
        "Status": "passing"
    },
    {
        "CheckID": "service:nginx",
        "Name": "Service 'nginx' check",
        "Node": "node2",
        "Notes": "",
        "Output": "HTTP GET http://192.168.99.101/: 200 OK Output: <!DOCTYPE html>\n<html>\n<head>\n<title>Welcome to nginx!</title>\n<style>\n    body {\n        width: 35em;\n        margin: 0 auto;\n        font-family: Tahoma, Verdana, Arial, sans-serif;\n    }\n</style>\n</head>\n<body>\n<h1>Welcome to nginx!</h1>\n<p>If you see this page, the nginx web server is successfully installed and\nworking. Further configuration is required.</p>\n\n<p>For online documentation and support please refer to\n<a href=\"http://nginx.org/\">nginx.org</a>.<br/>\nCommercial support is available at\n<a href=\"http://nginx.com/\">nginx.com</a>.</p>\n\n<p><em>Thank you for using nginx.</em></p>\n</body>\n</html>\n",
        "ServiceID": "nginx",
        "ServiceName": "nginx",
        "Status": "passing"
    },
    {
        "CheckID": "service:nginx",
        "Name": "Service 'nginx' check",
        "Node": "node3",
        "Notes": "",
        "Output": "Get http://192.168.99.102/: dial tcp 192.168.99.102:80: connection refused",
        "ServiceID": "nginx",
        "ServiceName": "nginx",
        "Status": "critical"
    }
]

可以看到,当consul服务挂掉一个的时候,并不影响nginx服务的健康状况。其中有一个nginx已经处于critical状态。这样我们就有足够的信息不选择不健康的节点。

总结

好了,终于写完了。总的来说,这个已经算是极简的架构了。当然,docker的生命周期远不止这些,比如ci,发布上线,灰度发布等。docker远没有传说中那么简单,美妙。docker有很多的好处,但是需要DevOPS做很多的工作。

在实践过程中,我发现有一个或许是更优的架构。那就是seneca的方案,使用事件相应作为微服务的提供方式,这样就避免了服务发现这件事,完全不需要注册服务,选择服务这么麻烦。也不用为服务发现服务搭建一个集群确保其高可用。

最后编辑于
©著作权归作者所有,转载或内容合作请联系作者
  • 序言:七十年代末,一起剥皮案震惊了整个滨河市,随后出现的几起案子,更是在滨河造成了极大的恐慌,老刑警刘岩,带你破解...
    沈念sama阅读 206,378评论 6 481
  • 序言:滨河连续发生了三起死亡事件,死亡现场离奇诡异,居然都是意外死亡,警方通过查阅死者的电脑和手机,发现死者居然都...
    沈念sama阅读 88,356评论 2 382
  • 文/潘晓璐 我一进店门,熙熙楼的掌柜王于贵愁眉苦脸地迎上来,“玉大人,你说我怎么就摊上这事。” “怎么了?”我有些...
    开封第一讲书人阅读 152,702评论 0 342
  • 文/不坏的土叔 我叫张陵,是天一观的道长。 经常有香客问我,道长,这世上最难降的妖魔是什么? 我笑而不...
    开封第一讲书人阅读 55,259评论 1 279
  • 正文 为了忘掉前任,我火速办了婚礼,结果婚礼上,老公的妹妹穿的比我还像新娘。我一直安慰自己,他们只是感情好,可当我...
    茶点故事阅读 64,263评论 5 371
  • 文/花漫 我一把揭开白布。 她就那样静静地躺着,像睡着了一般。 火红的嫁衣衬着肌肤如雪。 梳的纹丝不乱的头发上,一...
    开封第一讲书人阅读 49,036评论 1 285
  • 那天,我揣着相机与录音,去河边找鬼。 笑死,一个胖子当着我的面吹牛,可吹牛的内容都是我干的。 我是一名探鬼主播,决...
    沈念sama阅读 38,349评论 3 400
  • 文/苍兰香墨 我猛地睁开眼,长吁一口气:“原来是场噩梦啊……” “哼!你这毒妇竟也来了?” 一声冷哼从身侧响起,我...
    开封第一讲书人阅读 36,979评论 0 259
  • 序言:老挝万荣一对情侣失踪,失踪者是张志新(化名)和其女友刘颖,没想到半个月后,有当地人在树林里发现了一具尸体,经...
    沈念sama阅读 43,469评论 1 300
  • 正文 独居荒郊野岭守林人离奇死亡,尸身上长有42处带血的脓包…… 初始之章·张勋 以下内容为张勋视角 年9月15日...
    茶点故事阅读 35,938评论 2 323
  • 正文 我和宋清朗相恋三年,在试婚纱的时候发现自己被绿了。 大学时的朋友给我发了我未婚夫和他白月光在一起吃饭的照片。...
    茶点故事阅读 38,059评论 1 333
  • 序言:一个原本活蹦乱跳的男人离奇死亡,死状恐怖,灵堂内的尸体忽然破棺而出,到底是诈尸还是另有隐情,我是刑警宁泽,带...
    沈念sama阅读 33,703评论 4 323
  • 正文 年R本政府宣布,位于F岛的核电站,受9级特大地震影响,放射性物质发生泄漏。R本人自食恶果不足惜,却给世界环境...
    茶点故事阅读 39,257评论 3 307
  • 文/蒙蒙 一、第九天 我趴在偏房一处隐蔽的房顶上张望。 院中可真热闹,春花似锦、人声如沸。这庄子的主人今日做“春日...
    开封第一讲书人阅读 30,262评论 0 19
  • 文/苍兰香墨 我抬头看了看天上的太阳。三九已至,却和暖如春,着一层夹袄步出监牢的瞬间,已是汗流浃背。 一阵脚步声响...
    开封第一讲书人阅读 31,485评论 1 262
  • 我被黑心中介骗来泰国打工, 没想到刚下飞机就差点儿被人妖公主榨干…… 1. 我叫王不留,地道东北人。 一个月前我还...
    沈念sama阅读 45,501评论 2 354
  • 正文 我出身青楼,却偏偏与公主长得像,于是被迫代替她去往敌国和亲。 传闻我的和亲对象是个残疾皇子,可洞房花烛夜当晚...
    茶点故事阅读 42,792评论 2 345

推荐阅读更多精彩内容