容器化 | 基于 Kubernetes 的新一代 MySQL 高可用架构实现方案

作者:高日耀 资深 MySQL 内核研发

本文源于作者在 KubeSphere & Friends 2021 杭州站 的演讲内容《基于 Kubernetes 的新一代 MySQL 高可用架构实现方案》。

本文是 MySQL 容器化系列的第三篇文章,主要介绍 MySQL 容器化 Helm 版本[1] 的设计思路。

Dockerfile 简介

首先 RadonDB MySQL 一个 Pod 中的容器角色中,一般包含 MySQL、Xenon、slowlog 三个容器。


Alt text

其中,MySQL 和 Xenon Dockerfile 目录结构如下所示:

Alt text

MySQL Dockerfile 解析

启动 MySQL 主进程前,需要准备数据库配置、初始化等,这些工作要在最终的 MySQL 运行之前解决。在制作镜像时,通过配置 MySQL Dockerfile 中 ENTRYPOINTCMD 参数,可提前准备数据库配置、初始化等进程。

Docker 是分层的,每一条命令都会建一个镜像层,分层太多会导致快速膨胀。在制作镜像时,不建议分层太多。

MySQL Dockerfile 文件中命令示例如下:

Alt text

MySQL mysql-entry.sh 文件中包含启动命令,其主要执行流程如下:

Alt text

Xenon Dockerfile 解析

Xenon Dockerfile 比较简单,跟 MySQL Dockerfile 流程类似。

Xenon Dockerfile 命令示例如下:

Alt text

xenon-entry.sh 主要功能:

  1. 生成 Xenon 配置文件,在 Xenon 启动的时候调用
  2. ping host

name 生成及环境变量

name 生成

首先我们看下 chart 目录下功能文件列表,chart 下包含的文件如下图所示:

Alt text

其中,_helpers.tpl 常需引用 Chart.yamlvalues.yaml 中定义的变量,继而实现如下能力:

  • 生成 app 名字:helm install release <版本名,如 emo> <项目名,如radondb-mysql>
  • 生成 serviceAccountName 名字。
  • 生成 chart 名字和版本。

通过命令 helm get all demo,可查看 demo 中所有信息。查看 service 部分 name 示例如下:

104 # Source: radondb-mysql/templates/serviceaccount.yaml
105 apiVersion: v1
106 kind: ServiceAccount
107 metadata:
108   name: demo-radondb-mysql
109   labels:
110     app: demo-radondb-mysql
111     chart: radondb-mysql-1.0.0
112     release: "demo"
113     heritage: "Helm"

环境变量

环境变量 主要目的是保存密码和配置参数解耦。

  • secrets.yaml 功能

    • Opaque
    • base64 转码
    • 加密插件
  • configmap.yaml 功能

    • 将配置参数和 docker 镜像解耦
    • 保存一些配置参数和修改 lable 的脚本
Alt text

如何识别集群中 leader、follower 角色?

识别集群节点角色,需创建一个服务账号,并授予相应的权限。通过执行在 config 文件中保存的脚本,调用相应的 API 来修改对应角色的 lable。

Alt text

节点角色修改后,相应 lable 效果如下。此时,通过服务标签后缀,即可轻松辨别 Leader 和 Follower 角色的节点。


Alt text

在 KubeSphere[2] 管理控制台,可查看到角色修改后示例如下:

Alt text

如何实现读写分离?

RadonDB MySQL 读写分离,通过 Headless service for stable DNS [3] 来实现。

Alt text

分配一个集群内部可以访问的虚拟 IP (VIP),VIP 是固定的,而节点所绑定的 Pod 的 IP 是可以变化的,每个 Node 上分配一个端口作为外部访问入口。以此特点,可以设定一个读 IP 和一个写 IP,来达到读写分离的目的,而无需担心新绑定 Pod 致使 IP 发生变化。

以 Leader 节点为例,下图所示的 ClusterIP 对应写 IP(10.111.92.63), 其绑定当前的 Pod(主)IP 为 172.17.0.10

Alt text

邂逅 KubeShpere

RadonDB MySQL 已经登录 KubeSphere 应用商店(3.1.0 版本推出),可以通过 KubeSphere 来实现对集群的查看和管理。

1、通过终端查看集群正常时 gtid 和对应的状态

Alt text

2、模拟 Follower 节点挂掉场景

kill 掉名为 demo-radondb-mysql-2 的 follower:

Alt text

从另外一个节点登入终端再次查看集群状态,该 follower 节点 MySQL 和 IO/SQL 状态都不正常。

Alt text

从 KubeSphere 界面查看:

Alt text

挂掉的节点重新拉起,集群开始重新发起选举:

Alt text

3、Leader (demo-radondb-mysql-0) 节点挂掉场景

leader 降级为 follower,原来另外两个从节点进入候选者状态:

Alt text

从 KubeSphere 界面查看,这时已经查不到 leader pod:

Alt text

等待一段时间,集群选出新主(demo-radondb-mysql-2):

Alt text

从 KubeSphere 看到原来的主(demo-radondb-mysql-0)变为 follower:

Alt text

4、网络隔离

将新主(demo-radondb-mysql-2) 隔离。

Alt text

等待一段时间,可以看到新主(demo-radondb-mysql-0)重新被选出:

Alt text

[1]. RadonDB MySQL Kubernetes:https://github.com/radondb/radondb-mysql-kubernetes

[2]. KubeSphere:https://kubesphere.com.cn

[3]. Headless service:https://kubesphere.com.cnhttps://kubernetes.io/docs/concepts/services-networking/service/

关于 RadonDB

RadonDB 开源社区是一个面向云原生、容器化的数据库开源社区, 为数据库技术爱好者提供围绕主流开源数据库(MySQL、PostgreSQL、Redis、MongoDB、ClickHouse 等)的技术分享平台,并提供企业级 RadonDB 开源产品及服务。

目前 RadonDB 开源数据库系列产品已被 光大银行、浦发硅谷银行、哈密银行、泰康保险、太平保险、安盛保险、阳光保险、百年人寿、安吉物流、安畅物流、蓝月亮、天财商龙、罗克佳华、升哲科技、无锡汇跑体育、北京电信、江苏交通控股、四川航空、昆明航空、国控生物 等上千家企业及社区用户采用。

RadonDB 可基于云平台与 Kubernetes 容器平台交付,不仅提供覆盖多场景的数据库产品解决方案,而且提供专业的集群管理和自动化运维能力,主要功能特性包括:高可用主从切换、数据强一致性、读写分离、一键安装部署、多维指标监控&告警、弹性扩容&缩容、横向自由扩展、自动备份&恢复、同城多活、异地灾备 等。RadonDB 仅需企业及社区用户专注于业务层逻辑开发,无需关注集群高可用选型、管理和运维等复杂问题,帮助企业及社区用户大幅度提升业务开发与价值创新的效率!

GitHub:

https://github.com/radondb

最后编辑于
©著作权归作者所有,转载或内容合作请联系作者
  • 序言:七十年代末,一起剥皮案震惊了整个滨河市,随后出现的几起案子,更是在滨河造成了极大的恐慌,老刑警刘岩,带你破解...
    沈念sama阅读 203,362评论 5 477
  • 序言:滨河连续发生了三起死亡事件,死亡现场离奇诡异,居然都是意外死亡,警方通过查阅死者的电脑和手机,发现死者居然都...
    沈念sama阅读 85,330评论 2 381
  • 文/潘晓璐 我一进店门,熙熙楼的掌柜王于贵愁眉苦脸地迎上来,“玉大人,你说我怎么就摊上这事。” “怎么了?”我有些...
    开封第一讲书人阅读 150,247评论 0 337
  • 文/不坏的土叔 我叫张陵,是天一观的道长。 经常有香客问我,道长,这世上最难降的妖魔是什么? 我笑而不...
    开封第一讲书人阅读 54,560评论 1 273
  • 正文 为了忘掉前任,我火速办了婚礼,结果婚礼上,老公的妹妹穿的比我还像新娘。我一直安慰自己,他们只是感情好,可当我...
    茶点故事阅读 63,580评论 5 365
  • 文/花漫 我一把揭开白布。 她就那样静静地躺着,像睡着了一般。 火红的嫁衣衬着肌肤如雪。 梳的纹丝不乱的头发上,一...
    开封第一讲书人阅读 48,569评论 1 281
  • 那天,我揣着相机与录音,去河边找鬼。 笑死,一个胖子当着我的面吹牛,可吹牛的内容都是我干的。 我是一名探鬼主播,决...
    沈念sama阅读 37,929评论 3 395
  • 文/苍兰香墨 我猛地睁开眼,长吁一口气:“原来是场噩梦啊……” “哼!你这毒妇竟也来了?” 一声冷哼从身侧响起,我...
    开封第一讲书人阅读 36,587评论 0 258
  • 序言:老挝万荣一对情侣失踪,失踪者是张志新(化名)和其女友刘颖,没想到半个月后,有当地人在树林里发现了一具尸体,经...
    沈念sama阅读 40,840评论 1 297
  • 正文 独居荒郊野岭守林人离奇死亡,尸身上长有42处带血的脓包…… 初始之章·张勋 以下内容为张勋视角 年9月15日...
    茶点故事阅读 35,596评论 2 321
  • 正文 我和宋清朗相恋三年,在试婚纱的时候发现自己被绿了。 大学时的朋友给我发了我未婚夫和他白月光在一起吃饭的照片。...
    茶点故事阅读 37,678评论 1 329
  • 序言:一个原本活蹦乱跳的男人离奇死亡,死状恐怖,灵堂内的尸体忽然破棺而出,到底是诈尸还是另有隐情,我是刑警宁泽,带...
    沈念sama阅读 33,366评论 4 318
  • 正文 年R本政府宣布,位于F岛的核电站,受9级特大地震影响,放射性物质发生泄漏。R本人自食恶果不足惜,却给世界环境...
    茶点故事阅读 38,945评论 3 307
  • 文/蒙蒙 一、第九天 我趴在偏房一处隐蔽的房顶上张望。 院中可真热闹,春花似锦、人声如沸。这庄子的主人今日做“春日...
    开封第一讲书人阅读 29,929评论 0 19
  • 文/苍兰香墨 我抬头看了看天上的太阳。三九已至,却和暖如春,着一层夹袄步出监牢的瞬间,已是汗流浃背。 一阵脚步声响...
    开封第一讲书人阅读 31,165评论 1 259
  • 我被黑心中介骗来泰国打工, 没想到刚下飞机就差点儿被人妖公主榨干…… 1. 我叫王不留,地道东北人。 一个月前我还...
    沈念sama阅读 43,271评论 2 349
  • 正文 我出身青楼,却偏偏与公主长得像,于是被迫代替她去往敌国和亲。 传闻我的和亲对象是个残疾皇子,可洞房花烛夜当晚...
    茶点故事阅读 42,403评论 2 342

推荐阅读更多精彩内容