腾讯云架构师整理总结的MySQL性能优化和高可用架构实践文档

前言

作为最流行的开源数据库软件之一,MySQL数据库软件已经广为人知了。当前很火的Facebook、腾讯、淘宝等大型网站都在使用MySQL的数据库。

互联网行业的多数业务场景有非常明显的特点:用户量大、引发数据容量大、并发高、业务复杂度适中。MySQL数据库产品初期的定位就是Web应用的数据服务,故几乎所有互联网企业都使用MySQL数据库产品,有很多企业几乎全部使用MySQL提供的数据服务。

选择开源产品是国家和企业的主流选择,而开源MySQL数据库在国内外应用最广泛,从业的技术人员也最多,它成为“去IOE”分布式技术架构中最关键的关系型数据库产品。数据库系统作为IT业务系统的核心,其高可用性和容灾能力对整个业务系统的连续性和数据完整性起着至关重要的作用,是企业正常运营的基石。

互联网公司里面几乎很少有公司不用MySQL,国内互联网巨头都在大规模使用MySQL。如果把MySQL比喻成数据库界的一条巨龙,则性能优化和高可用架构设计实践就是点睛之笔。

本文将详细讲解MySQL 5.7高可用和性能优化技术,细致梳理思路,并与真实生产案例相结合,通过原理阐述到实战部署,帮助读者将所学知识点运用到实际工作中。
相关知识资料移步主页简介

image.png

本文适合有一定基础的MySQL数据库学习者、MySQL数据库开发人员和MySQL数据库管理人员阅读。

目录

image.png

主要内容

第1章MySQL架构介绍;MySQL作为目前互联网工作的主流数据库,有着不容撼动的地位。DB-Engines这个排名在业界引用得非常多,权威性也很高,排名前三依然是Oracle、MySQL、Microsoft SQL Server。MySQL是20世纪90年代出来的数据库,整个架构上吸取了其他数据库的一些优良特性,也去除了不好的地方,整个架构比较稳定、比较简洁。MySQL的架构可以在多种不同的场景中应用,Facebook、Twitter、Google、腾讯、阿里等都在大量使用MySQL存储海量数据。

image.png

第2章lnnoDB存储引擎体系结构;从MySQL 5.5版本开始,InnoDB是默认的表存储引擎,特点是支持事务、支持数据行锁、支持多版本并发MVCC、支持外键。

image.png

第3章MySQL事务和锁;锁在计算机中是协调多个进程或线程并发访问某一资源的一种机制。在数据库中,除了传统的计算资源(CPU、RAM、I/O等)争用之外,数据也是一种供许多用户共享访问的资源。数据库在进行并发访问的时候会自动对相应的对象进行加锁,以保证数据并发访问的一致性。InnoDB存储引擎既支持行级锁,也支持表级锁,但默认情况下采用行级锁。

image.png

第4章SQL语句性能优化;说起SQL语句性能优化,相信所有人都了解一些简单的技巧:不使用SELECT *、不使用NULL字段、合理地使用索引、为字段选择恰当的数据类型等。你是否真的理解这些优化技巧?是否理解其背后的工作原理?本章从理论和实战角度出发,讲解这些优化建议背后的原理。

image.png

第5章MySQL服务器全面优化;绝大多数使用Linux操作系统的大中型互联网网站都在使用MySQL作为后端的数据库服务,所以如何优化MySQL服务器是我们要研究的。现在MySQL 5.7版本对于多核CPU、固态硬盘、锁机制有着更好的优化。另外,MySQL 5.7版本对优化器提升了很多,比如MySQL 5.7的in语句子查询能够使用index range scan方式,Union all不再产生临时表,排序效率上也有所提升。我们从MySQL 5.7版本的存储引擎增强,硬件、操作系统、配置参数优化、设计规范优化几个层面来全面优化MySQL服务器。

image.png

第6章MySQL性能监控;MySQL被越来越多的企业接受。随着企业发展,MySQL存储数据日益膨胀,性能分析、监控预警显得非常重要。在某些场景下,通常会部署一套MySQL监控/图形工具,然后根据MySQL监控面板提供的信息来执行进一步的调优。

image.png

第7章MySQL主从复制详解;MySQL的主从复制功能是构建基于MySQL数据库的高可用、高性能的应用程序基础,既能用于分担主数据库的读负载,也为高可用HA等工作提供了更多的支持。主从复制是指数据可以从一个MySQL数据库服务器主节点复制到另外一个或多个MySQL数据库服务器从节点。主从复制可以用于数据实时备份、读写分离、高可用HA等企业场景中。

image.png

第8章PXC高可用解决方案;Percona公司的Percona XtraDB Cluster(简称PXC)是基于Galera协议 的 MySQL 高 可 用 性 集 群 架 构 , 集 成 了 Percona Server 和 PerconaXtraBackup,同时采用了Codership Galera库。Percona Xtradb Cluster在原MySQL代码上通过Galera包将不同的MySQL实例连接起来,实现了multi-master的集群架构。它可以实现多个MySQL节点间的数据同步复制以及读写,不但可以保障数据库的服务高可用,而且保证整个集群所有数据的强一致性,满足CAP理论中的一致性(Consistency)和可用性(Availability)。

image.png

第9章基于MHA实现的MySQL自动故障转移集群;MHA(Master High Avaliability)是由日本的一位工程师采用Perl语言编写的一个脚本管理工具,是一款开源的MySQL高可用解决方案软件,能在MySQL主从复制的基础上实现自动化主服务器故障转移,目前在MySQL高可用方面是一个相对成熟的解决方案。在MySQL故障切换过程中,MHA能做到在30秒之内自动完成数据库的故障切换操作,并且在进行故障切换的过程中能在最大程度上保证数据的一致性,以达到真正意义上的高可用。

image.png

第10章MySQL Group Replication;MySQL Group Replication(MGR)是MySQL官方于2016年12月推出的一个全新的高可用的解决方案。MGR被认为是继Oracle Database RAC之后又一个“真正”的集群,也是MySQL官方基于组复制概念并充分参考MariaDB Galera Cluster和Percona XtraDB Cluster结合而来的新的高可用集群架构。它是官方推出的一种基于Paxos协议的状态机复制,彻底解决了基于传统的异步复制和半同步复制中数据一致性问题无法保证的情况,让MySQL数据库打开互联网金融行业的大门。

image.png

第11章Keepalived+双主复制的高可用架构;双主复制配合Keepalived这种MySQL高可用架构设计也是基于MySQL的主从复制原理,而Keepalived使用VIP,并利用Keepalived自带的服务监控功能和自定义脚本来实现master主服务器故障自动切换。这套MySQL双主复制+Keepalived架构其实可以适用于各种业务,是一种简单、便捷的高可用方案。

image.png

第12章数据库分库分表与中间件介绍;大型网站用户数和数据库规模急剧上升,关系型数据库常见的性能瓶颈主要体现在两点:一是大量的并发读写操作,导致单库出现负载压力过大;二是单表存储数据量过大,导致查询效率低下。这时常见的做法便是对数据库实施分库分表即Sharding改造来应对海量数据和高并发对数据库的冲击,与此同时,支持分库分表并且对业务开发透明的数据库中间件也大行其道。

image.png

第13章Mycat中间件详解;由于真正的数据库需要存储引擎,而Mycat并没有存储引擎,因此它并不是完全意义上的分布式数据库系统,可以更贴切地说成是数据库的中间件,就是介于数据库与应用之间进行数据处理与交互的中间服务。传统的访问数据库是直接连接数据库,创建数据库实例,根据需求对数据库中的数据进行增删查改。但是,当我们使用Mycat后,其实直接连接的是Mycat,通过Mycat对真正的数据库进行操作,在Mycat上我们可以做一些分表分库等操作,达到我们对数据库的可扩展要求。

image.png

相关知识资料移步主页简介或者

加微:yxqbkd
©著作权归作者所有,转载或内容合作请联系作者
  • 序言:七十年代末,一起剥皮案震惊了整个滨河市,随后出现的几起案子,更是在滨河造成了极大的恐慌,老刑警刘岩,带你破解...
    沈念sama阅读 204,684评论 6 478
  • 序言:滨河连续发生了三起死亡事件,死亡现场离奇诡异,居然都是意外死亡,警方通过查阅死者的电脑和手机,发现死者居然都...
    沈念sama阅读 87,143评论 2 381
  • 文/潘晓璐 我一进店门,熙熙楼的掌柜王于贵愁眉苦脸地迎上来,“玉大人,你说我怎么就摊上这事。” “怎么了?”我有些...
    开封第一讲书人阅读 151,214评论 0 337
  • 文/不坏的土叔 我叫张陵,是天一观的道长。 经常有香客问我,道长,这世上最难降的妖魔是什么? 我笑而不...
    开封第一讲书人阅读 54,788评论 1 277
  • 正文 为了忘掉前任,我火速办了婚礼,结果婚礼上,老公的妹妹穿的比我还像新娘。我一直安慰自己,他们只是感情好,可当我...
    茶点故事阅读 63,796评论 5 368
  • 文/花漫 我一把揭开白布。 她就那样静静地躺着,像睡着了一般。 火红的嫁衣衬着肌肤如雪。 梳的纹丝不乱的头发上,一...
    开封第一讲书人阅读 48,665评论 1 281
  • 那天,我揣着相机与录音,去河边找鬼。 笑死,一个胖子当着我的面吹牛,可吹牛的内容都是我干的。 我是一名探鬼主播,决...
    沈念sama阅读 38,027评论 3 399
  • 文/苍兰香墨 我猛地睁开眼,长吁一口气:“原来是场噩梦啊……” “哼!你这毒妇竟也来了?” 一声冷哼从身侧响起,我...
    开封第一讲书人阅读 36,679评论 0 258
  • 序言:老挝万荣一对情侣失踪,失踪者是张志新(化名)和其女友刘颖,没想到半个月后,有当地人在树林里发现了一具尸体,经...
    沈念sama阅读 41,346评论 1 299
  • 正文 独居荒郊野岭守林人离奇死亡,尸身上长有42处带血的脓包…… 初始之章·张勋 以下内容为张勋视角 年9月15日...
    茶点故事阅读 35,664评论 2 321
  • 正文 我和宋清朗相恋三年,在试婚纱的时候发现自己被绿了。 大学时的朋友给我发了我未婚夫和他白月光在一起吃饭的照片。...
    茶点故事阅读 37,766评论 1 331
  • 序言:一个原本活蹦乱跳的男人离奇死亡,死状恐怖,灵堂内的尸体忽然破棺而出,到底是诈尸还是另有隐情,我是刑警宁泽,带...
    沈念sama阅读 33,412评论 4 321
  • 正文 年R本政府宣布,位于F岛的核电站,受9级特大地震影响,放射性物质发生泄漏。R本人自食恶果不足惜,却给世界环境...
    茶点故事阅读 39,015评论 3 307
  • 文/蒙蒙 一、第九天 我趴在偏房一处隐蔽的房顶上张望。 院中可真热闹,春花似锦、人声如沸。这庄子的主人今日做“春日...
    开封第一讲书人阅读 29,974评论 0 19
  • 文/苍兰香墨 我抬头看了看天上的太阳。三九已至,却和暖如春,着一层夹袄步出监牢的瞬间,已是汗流浃背。 一阵脚步声响...
    开封第一讲书人阅读 31,203评论 1 260
  • 我被黑心中介骗来泰国打工, 没想到刚下飞机就差点儿被人妖公主榨干…… 1. 我叫王不留,地道东北人。 一个月前我还...
    沈念sama阅读 45,073评论 2 350
  • 正文 我出身青楼,却偏偏与公主长得像,于是被迫代替她去往敌国和亲。 传闻我的和亲对象是个残疾皇子,可洞房花烛夜当晚...
    茶点故事阅读 42,501评论 2 343

推荐阅读更多精彩内容