mysql读写分离

前言

随着业务的不断扩展,数据量的不断增大,由单台Mysql作为独立的数据库是完全不能满足实际需求的。读和写又存在一定的差异例如:"库的引擎",Innodb支持更好的事物,但Myisam确有更高的性能。不同的业务应该有不同的库来支持,在安全性,高可用性以及高并发等各个方面进行考虑。
mysql的master/slave方案可以解决以上问题,通过主从复制的方式来同步数据,再通过读写分离来提升数据库的并发负载能力优点详情

  • 主从复制 参考

    image.png

    Mysql内建的复制功能是构建大型,高性能应用程序的基础。将Mysql的数据分布到多个系统上去,这种分布的机制在复制过程中一个服务器充当主服务器更新写入二进制日志文件,而一个或多个其它服务器充当从服务器。进行一主多从数据的同步

  • 读写分离 参考

    image.png

    读写分离,基本的实现是让主数据库处理事务性增、改、删操作,而从数据库处理查询操作。数据库复制被用来把事务性操作导致的变更(主库)同步到集群中的从数据库。
    读写分离实现大致有两种
    1)基于程序代码内部实现
    2)使用中间代理层 mycat, mysql_proxy 或 amoeba.它们是介于数据库与应用之间,进行数据处理与交互的中间服务。对数据进行分片处理之后,从原有的一个库,被切分为多个分片数据库,所有的分片数据库集群构成了整个完整的数据库存储。

主从配置

  • 配置主从参考
    已经安装至少两个数据库,也可多实例进行主从复制。分别在主库创建用户并授权 - 开启二进制文件 - 从库登陆主库,就可完成简单的主从同步。
#grant replication slave on . '用户名'@'%' inentified by '密码' 主库创建用户分配slave访问权限
image.png
#vi my.cnf 主库添加添加二进制日志文件,依靠此日志文件完成数据同步日志
image.png
#show master status; 查看主库的状态(需要重启服务)记住file,设置从库同步就是根据这个二进制文件
image.png
#vi my.cnf 修改从库的配置的文件后重启,添加日志
image.png

重启后登陆需要登陆从库写入如下,从库根据此MASTER_LOG_FILE指定的二进制文件进行同步
image.png
重启slave库
登录 , #start slave; 开启从库
#SHOW SLAVE STATUS\G 大写
image.png

测试

主库,建库,建表,添加数据
image.png

从库查询:
image.png

到此主从配置完成;

  • 读写分离的两种实现

1)基于代码实现需要先配置主从,利用spirng 的AbstractRoutingDataSource抽象类对数据源路由在通过aop标记然后动态切换数据源。缺点不能动态添加数据源。

定义代理类

public class DataSourceProxy {

    private static ThreadLocal<DataSourceEnum> dataSourceThreadLocal = new ThreadLocal<>();

    private ConnectionFactory connectionFactory;

    //主从库
    public enum DataSourceEnum{
        MASTER,
        SLAVE
    }

    //设置当前线程的数据库,如果不使用aop的话,可以在dao层进行手动指明主从库
    public static void setDataSource(DataSourceEnum dataSourceEnum){
        dataSourceThreadLocal.set(dataSourceEnum);
    }
    //获取线程当前的库
    public static DataSourceEnum getDataSource(){
        System.out.println("当前数据库为" +dataSourceThreadLocal.get());
        return dataSourceThreadLocal.get();
    }
    //设置为主库
    public static void setMaster(){
        setDataSource(DataSourceEnum.MASTER);
    }
    //获取从库
    public static void setSlave(){
        setDataSource(DataSourceEnum.SLAVE);
    }
}
路由

/**
 * Created by: jun on 2018/1/15.
 * description:数据源的路由,继承AbstractRoutingDataSource实现。将数据源写入到AbstractRoutingDataSource中的map中,
 * 根据aop的标记读取map中的key,从而实现数据源动态切换
 */
public class OptionalDataSource extends AbstractRoutingDataSource{

    //获取数据源路由的key
    private String masterDataSource = "masterDataSource";
    private String[] slaveDataSource = {"slaveDataSource1"};

    @Override
    //访问数据库时,都会调用此方法来获取数据源map中的key,从而得到对应的数据源。
    protected Object determineCurrentLookupKey() {

        DataSourceProxy.DataSourceEnum dataSourceEnum = DataSourceProxy.getDataSource();
        if (dataSourceEnum == DataSourceProxy.DataSourceEnum.SLAVE){
            double random = Math.random();
            int index = (int) (random * slaveDataSource.length);
            return slaveDataSource[index];
        }else{
            return masterDataSource;
        }
    }
}
切面,标记数据源

public class DataSourceAspect {

    public void before(JoinPoint joinPoint){
        //获取目标和方法
        Object target = joinPoint.getTarget();
        MethodSignature methodSignature = (MethodSignature) joinPoint.getSignature();

        String method = methodSignature.getName();
        //查询类做主库的标记
        if (isSalve(method)){
            DataSourceProxy.setSlave();
        }else DataSourceProxy.setMaster();
    }

    /**
     * 判断是否为读库 , 判断依据为方法开头例如select, query, get 查询就走从库。
    **/
    private Boolean isSalve(String methodName){
        String[] args = {"query","find","get"};
        return StringUtils.startsWithAny(methodName,args);
    }

}
db.properties

#从库
slave1.driver=com.mysql.jdbc.Driver
slave1.url=jdbc:mysql://192.168.1.200:3306/test_master
slave1.user=test200
slave1.pwd=1234qwer

slave2.driver=com.mysql.jdbc.Driver
slave2.url=jdbc:mysql://192.168.1.200:3307/test_master
slave2.user=test3307
slave2.pwd=1234qwer

数据源部分

    <!--jdbc-->
    <context:property-placeholder location="classpath:db.properties" />

    <!--配置mybatis-->
    <bean id="sqlSessionFactory" class="org.mybatis.spring.SqlSessionFactoryBean">
        <property name="dataSource" ref="dataSource"/>
        <property name="mapperLocations" value="classpath*:mapping/*.xml"/>   <!--如果有配置文件,指定扫描路径-->
        <property name="typeAliasesPackage" value="com.tianzhuan.web.entity"/></bean>

    <!--配置主库-->
    <bean id="master" class="com.alibaba.druid.pool.DruidDataSource" init-method="init" destroy-method="close">
        <property name="url" value="${slave1.url}"/>
        <property name="username" value="${slave1.user}"/>
        <property name="password" value="${slave1.pwd}"/>
    </bean>
    <!--配置从库-->
    <bean id="slave1" class="com.alibaba.druid.pool.DruidDataSource" init-method="init" destroy-method="close">
        <property name="url" value="${slave2.url}"/>
        <property name="username" value="${slave2.user}"/>
        <property name="password" value="${slave2.pwd}"/>
    </bean>
<!--路由-->
    <bean id="dataSource" class="com.tianzhuan.common.database.OptionalDataSource">
        <!--通过key-value的形式关联shujuyuan-->
        <property name="targetDataSources">
            <map>
                <entry key="masterDataSource" value-ref="master"/>
                <entry key="slaveDataSource1" value-ref="slave1"/>
            </map>
        </property>
        <property name="defaultTargetDataSource" ref="master"/>
    </bean>
aop部分

    <bean id="queryAspect" class="com.tianzhuan.common.database.DataSourceAspect"/>
    <aop:config>
        <aop:aspect id="master_slave" ref="queryAspect">
            <aop:pointcut id="cutMethod" expression="execution(* com.tianzhuan.web.*.*.*.*(..))"/>
            <aop:before method="before" pointcut-ref="cutMethod"/>
        </aop:aspect>
    </aop:config>

到此基于spring AbstractRoutingDataSource 分离完成。

2)使用中间件的代理mycat实现官方文档

image.png

如上图所表示,数据被分到多个分片数据库后,应用如果需要读取数据,就要需要处理多个数据源的数据。如果没有数据库中间件,那么应用将直接面对分片集群,数据源切换、事务处理、数据聚合都需要应用直接处理,原本该是专注于业务的应用,将会花大量的工作来处理分片后的问题,最重要的是每个应用处理将是完全的重复造轮子。 所以有了数据库中间件,应用只需要集中与业务处理,大量的通用的数据聚合,事务,数据源切换都由中间件来处理,中间件的性能与处理能力将直接决定应用的读写性能,所以一款好的数据库中间件至关重要。
安装服务

  • 解压到相关目录 #cd /mycat_home/conf

mycat主要配置 schema.xml ,rule.xml,server.xml 3 个文件就可实现简单的负载均衡,读写分离,分库分表

  • #vi schema.xml //添加配置如下
    image.png

schema.xml 主要有<schema>、<dataNode>、<dataHost>3个主要的节点

  1. <schema>定义mycat实例中的逻辑库(托管mysql程序连接的虚拟库)同mysql的database的概念,name属性就是jdbc连接mycat的库名 和<server>中定义的用户,一起构成了数据源的信息。
  2. <dataNode> 标签定义了 MyCat中的数据节点,也就是我们通常说所的数据分片。一个dataNode 标签就是
    一个独立的数据分片。 截图部分意为:使用名字为mater_slaver_1数据库实例上的test_master物理数据库(需要手动创建),这就组成一个数据分片,最后,我们使用名字dn1标识这个分片。
  3. <datahost> 直接定义了具体的数据库实例、读写分离配置和心跳语句。
    maxCOn/minCon属性定义初始化连接池的大小。
    balance属性 均衡类型,0为不开启读写分离,1为主从全部参与select的均衡,2所有的读操作在主从随机分发
    switchType属性主从的切换状态,-1为不切换,1为默认值自动切换,2为根据mysql的主从同步状态决定
    <heartbeat>show slave status<heartbeat>定义心跳。
  • #vi server.xml 添加用户
    image.png
  • #./bin/mycat startup_nowrap.sh 启动服务或者 mycat console|start来启动
  • 如出现以下错误检测账号授权,重启系统
    image.png
  • #./mysql -uroot -p1234qwer -h192.168.1.200 -P8806 //使用mysql客户端登陆mycat
    image.png

测试

  • vi /conf/log4j2.xml //修改日志记录级别为debug
    image.png
  • 连接mycat 后分别进行插入和查询。
    image.png
  • 查看日志文件
    image.png

    image.png
  • 使用工具进行登陆
    image.png
  • 使用jdbc连接
db.properties

#mycat
mycat.url=jdbc:mysql://192.168.1.200:8066/TESTDB  //schema的name
mycat.user=root
mycat.pwd=1234qwer
连接池

 <!--mycat-->
    <bean id="mycat" class="com.alibaba.druid.pool.DruidDataSource" init-method="init" destroy-method="close">
        <property name="url" value="${mycat.url}"/>
        <property name="username" value="${mycat.user}"/>
        <property name="password" value="${mycat.pwd}"/>
    </bean>
    <!--配置mybatis-->
    <bean id="sqlSessionFactory" class="org.mybatis.spring.SqlSessionFactoryBean">
        <property name="dataSource" ref="mycat"/>
        <property name="mapperLocations" value="classpath*:mapping/*.xml"/>   <!--如果有配置文件,指定扫描路径-->
        <property name="typeAliasesPackage" value="com.tianzhuan.web.entity"/></bean>
image.png

基于mycat简单的读写分离到此结束

©著作权归作者所有,转载或内容合作请联系作者
  • 序言:七十年代末,一起剥皮案震惊了整个滨河市,随后出现的几起案子,更是在滨河造成了极大的恐慌,老刑警刘岩,带你破解...
    沈念sama阅读 195,980评论 5 462
  • 序言:滨河连续发生了三起死亡事件,死亡现场离奇诡异,居然都是意外死亡,警方通过查阅死者的电脑和手机,发现死者居然都...
    沈念sama阅读 82,422评论 2 373
  • 文/潘晓璐 我一进店门,熙熙楼的掌柜王于贵愁眉苦脸地迎上来,“玉大人,你说我怎么就摊上这事。” “怎么了?”我有些...
    开封第一讲书人阅读 143,130评论 0 325
  • 文/不坏的土叔 我叫张陵,是天一观的道长。 经常有香客问我,道长,这世上最难降的妖魔是什么? 我笑而不...
    开封第一讲书人阅读 52,553评论 1 267
  • 正文 为了忘掉前任,我火速办了婚礼,结果婚礼上,老公的妹妹穿的比我还像新娘。我一直安慰自己,他们只是感情好,可当我...
    茶点故事阅读 61,408评论 5 358
  • 文/花漫 我一把揭开白布。 她就那样静静地躺着,像睡着了一般。 火红的嫁衣衬着肌肤如雪。 梳的纹丝不乱的头发上,一...
    开封第一讲书人阅读 46,326评论 1 273
  • 那天,我揣着相机与录音,去河边找鬼。 笑死,一个胖子当着我的面吹牛,可吹牛的内容都是我干的。 我是一名探鬼主播,决...
    沈念sama阅读 36,720评论 3 386
  • 文/苍兰香墨 我猛地睁开眼,长吁一口气:“原来是场噩梦啊……” “哼!你这毒妇竟也来了?” 一声冷哼从身侧响起,我...
    开封第一讲书人阅读 35,373评论 0 254
  • 序言:老挝万荣一对情侣失踪,失踪者是张志新(化名)和其女友刘颖,没想到半个月后,有当地人在树林里发现了一具尸体,经...
    沈念sama阅读 39,678评论 1 294
  • 正文 独居荒郊野岭守林人离奇死亡,尸身上长有42处带血的脓包…… 初始之章·张勋 以下内容为张勋视角 年9月15日...
    茶点故事阅读 34,722评论 2 312
  • 正文 我和宋清朗相恋三年,在试婚纱的时候发现自己被绿了。 大学时的朋友给我发了我未婚夫和他白月光在一起吃饭的照片。...
    茶点故事阅读 36,486评论 1 326
  • 序言:一个原本活蹦乱跳的男人离奇死亡,死状恐怖,灵堂内的尸体忽然破棺而出,到底是诈尸还是另有隐情,我是刑警宁泽,带...
    沈念sama阅读 32,335评论 3 313
  • 正文 年R本政府宣布,位于F岛的核电站,受9级特大地震影响,放射性物质发生泄漏。R本人自食恶果不足惜,却给世界环境...
    茶点故事阅读 37,738评论 3 299
  • 文/蒙蒙 一、第九天 我趴在偏房一处隐蔽的房顶上张望。 院中可真热闹,春花似锦、人声如沸。这庄子的主人今日做“春日...
    开封第一讲书人阅读 29,009评论 0 19
  • 文/苍兰香墨 我抬头看了看天上的太阳。三九已至,却和暖如春,着一层夹袄步出监牢的瞬间,已是汗流浃背。 一阵脚步声响...
    开封第一讲书人阅读 30,283评论 1 251
  • 我被黑心中介骗来泰国打工, 没想到刚下飞机就差点儿被人妖公主榨干…… 1. 我叫王不留,地道东北人。 一个月前我还...
    沈念sama阅读 41,692评论 2 342
  • 正文 我出身青楼,却偏偏与公主长得像,于是被迫代替她去往敌国和亲。 传闻我的和亲对象是个残疾皇子,可洞房花烛夜当晚...
    茶点故事阅读 40,893评论 2 335

推荐阅读更多精彩内容