Mongodb复制集

为什么需要使用复制集

如果系统只存在一个数据库,当这个数据库发生故障不可用,那整个系统将不可用。Mongodb复制集就可以提供数据的高可用。Mongodb复制集是一组mongod实例,每个实例称之为节点,它包含一个Primary节点和多个Secondary节点。Primary节点主要用来接收所有的数据库操作请求并处理,Secondary节点主要用来从Primary节点或者其他Secondary节点复制数据,达到和Primary节点数据保持一致。当Primary节点出现故障,Mongodb将自动选着一个Secondary节点来作为新的Primary节点处理数据库操作请求,这样就保证了数据的高可用性。

Mongodb复制集简单架构

屏幕快照 2019-07-21 下午1.21.14.png

这张图来自于MongoDB官方,可以看到图中有三个节点,一个Primary节点,两个Secondary节点,这也是最基础的复制集架构

复制集原理

Primary节点没处理一个更新操作时(create,update, delete),就会在系统数据库local下的oplog.rs表中加入一条记录,Secondary节点默认每隔一定时间就会去Primary节点或者其他
Secondary节点获取最新的oplog记录存放到自己的local.oplog.rs集合中,用来更新自己的文档。oplog遵循幂等性,即同一记录多次运行也是相同的结果。

oplog.rs集合结构

{
    "ts" : Timestamp(1569041259, 1), // 该操作执行的时间戳
    "t" : NumberLong(4),
    "h" : NumberLong(-1204866798396140415), // 此次操作的唯一标识
    "v" : 2, // oplog版本信息
    "op" : "d", // 操作类型
                    // i:插入操作
                    // u:更新操作
                    // d:删除操作
                    // c:执行命令(如createDatabase,dropDatabase)
                    //  n:空操作,特殊用途
    "ns" : "replSetTest.user", // 此次操作的集合名称
    "ui" : UUID("1ecb5f6e-a036-44cd-8ce5-a2fde44a772b"), // 此次操作的的会话id
    "wall" : ISODate("2019-09-21T04:47:39.174Z"),// 此次操作的UTC时间
    "o" : { // 此次操作的具体文档信息
        "_id" : ObjectId("5d85a436addfe88aea3b7c26")
    }
}

复制集节点

1.Primary

主节点,负责接收处理外部的操作请求,一个复制集只有一个主节点,只有主节点可以执行写操作,默认情况下也只有主节点可以执行读操作,也可以设置其他节点可处理读操作。

2.Secondary

从节点,负责从主节点的oplog.rs集合中获取操作记录到自身执行,以达到和主节点数据同步,所有的操作都是异步执行。一个复制集可以有一个或者多个从节点,当主节点不可用,会选举出来一个从节点作为新的主节点。

3. Arbiter

仲裁节点,仲裁节点也属于从节点, 但是它与普通从节点不同,仲裁节点不会去同步主节点的数据。其作用是在选举从节点作为主节点时充当投票的角色。
在从节点配置中加入

arbiterOnly: true

即可变为仲裁节点

4. Hidden

隐藏节点 可以使用隐藏节点作为数据的备份节点,其对mongodb driver不可见,不能进行主节点选举。在从节点配置中加入

hidden: true
priority: 0

即可变为隐藏节点

5. Delayed

延时节点 Delayed节点必须是Hidden节点,并且其数据落后与Primary一段时间(可配置,比如1个小时)。因Delayed节点的数据比Primary落后一段时间,当错误或者无效的数据写入Primary时,可通过Delayed节点的数据来恢复到之前的时间点。在从节点配置中加入

slaveDelay: 3600, // 设置延时时间 3600s
hidden: true,
priority: 0

即可变为延时节点

复制集配置主要属性

{
  hidden: true, // 设置该节点隐藏,用于配置隐藏节点
  priority: 0,// 设置节点的优先级,该值越大,越优先成为主节点,需要注意的是成为主节点同时 
              // 也与该节点的数据有关,数据越和主节点相似,越有可能被选举为主节点
  slaveDelay: 3600, // 设置该节点的复制数据延时时间,有来配置延时节点,
  vote: 0 // 0表示此节点不可参与选举投票, 1表示可以参与投票,每个复制集最多只能有7个可 
          //投票的节点,其它节点的vote属性必须设置为0
}

复制集内部维护机制

一个复制集内最多有50个节点,其中最多只能有7个可投票选举的节点。每个节点默认每隔2s向其它节点发送心跳,目的是为了确定其它节点是否可用,如果10s内未收到心跳回复,则判定为不可用。如果某一从节点10s内未收到主节点的回复,便判定主节点不可用,这个从节点便开始发起选举,参与选举的从节点会为oplog最新的从节点投票,谁的票数最多,谁就成为新的主节点。

复制集简单搭建

1.创建数据库文件夹
for i in 27000 27001 27002; do
    mkdir -p replSet/$i/conf
    mkdir -p replSet/$i/data
    mkdir -p replSet/$i/log
done
2.配置节点conf

这里以27000端口节点为例, 其它端口copy

cat >>replSet/27000/conf/mongod.conf<<'EOF'
systemLog:
  destination: file
  path: replSet/27000/log/mongodb.log
  logAppend: true
storage:
  journal:
    enabled: true
  dbPath: replSet/27000/data
  directoryPerDB: true
processManagement:
  fork: true
net:
  port: 27000
replication:
  oplogSizeMB: 2048
  replSetName: myReplSet
EOF
3.启动
for i in 27000 27001 27002
  do  
    mongod -f replSet/$i/conf/mongod.conf 
done
4.配置复制集
mongo --port 27000
> cfg = {
    _id: 'myReplSet',
    members: [{_id: 0, host: 'localhost:27000'}, {_id: 1, host: 'localhost:27001'}, {_id: 2, host: 'localhost:27002'}]
  }
> rs.initiate(cfg)
{
    "ok" : 1,
    "operationTime" : Timestamp(1569080041, 1),
    "$clusterTime" : {
        "clusterTime" : Timestamp(1569080041, 1),
        "signature" : {
            "hash" : BinData(0,"AAAAAAAAAAAAAAAAAAAAAAAAAAA="),
            "keyId" : NumberLong(0)
        }
    }
}
5.查看复制集状态
> rs.status()
{
    "set" : "myReplSet",
    "date" : ISODate("2019-09-21T15:37:03.764Z"),
    "myState" : 1,
    "term" : NumberLong(1),
    "syncingTo" : "",
    "syncSourceHost" : "",
    "syncSourceId" : -1,
    "heartbeatIntervalMillis" : NumberLong(2000),
    "optimes" : {
        "lastCommittedOpTime" : {
            "ts" : Timestamp(1569080213, 1),
            "t" : NumberLong(1)
        },
        "readConcernMajorityOpTime" : {
            "ts" : Timestamp(1569080213, 1),
            "t" : NumberLong(1)
        },
        "appliedOpTime" : {
            "ts" : Timestamp(1569080213, 1),
            "t" : NumberLong(1)
        },
        "durableOpTime" : {
            "ts" : Timestamp(1569080213, 1),
            "t" : NumberLong(1)
        }
    },
    "lastStableCheckpointTimestamp" : Timestamp(1569080170, 4),
    "members" : [
        {
            "_id" : 0,
            "name" : "localhost:27000",
            "health" : 1,
            "state" : 1,
            "stateStr" : "PRIMARY",
            "uptime" : 354,
            "optime" : {
                "ts" : Timestamp(1569080213, 1),
                "t" : NumberLong(1)
            },
            "optimeDate" : ISODate("2019-09-21T15:36:53Z"),
            "syncingTo" : "",
            "syncSourceHost" : "",
            "syncSourceId" : -1,
            "infoMessage" : "",
            "electionTime" : Timestamp(1569080052, 1),
            "electionDate" : ISODate("2019-09-21T15:34:12Z"),
            "configVersion" : 1,
            "self" : true,
            "lastHeartbeatMessage" : ""
        },
        {
            "_id" : 1,
            "name" : "localhost:27001",
            "health" : 1,
            "state" : 2,
            "stateStr" : "SECONDARY",
            "uptime" : 182,
            "optime" : {
                "ts" : Timestamp(1569080213, 1),
                "t" : NumberLong(1)
            },
            "optimeDurable" : {
                "ts" : Timestamp(1569080213, 1),
                "t" : NumberLong(1)
            },
            "optimeDate" : ISODate("2019-09-21T15:36:53Z"),
            "optimeDurableDate" : ISODate("2019-09-21T15:36:53Z"),
            "lastHeartbeat" : ISODate("2019-09-21T15:37:03.230Z"),
            "lastHeartbeatRecv" : ISODate("2019-09-21T15:37:02.821Z"),
            "pingMs" : NumberLong(0),
            "lastHeartbeatMessage" : "",
            "syncingTo" : "localhost:27000",
            "syncSourceHost" : "localhost:27000",
            "syncSourceId" : 0,
            "infoMessage" : "",
            "configVersion" : 1
        },
        {
            "_id" : 2,
            "name" : "localhost:27002",
            "health" : 1,
            "state" : 2,
            "stateStr" : "SECONDARY",
            "uptime" : 182,
            "optime" : {
                "ts" : Timestamp(1569080213, 1),
                "t" : NumberLong(1)
            },
            "optimeDurable" : {
                "ts" : Timestamp(1569080213, 1),
                "t" : NumberLong(1)
            },
            "optimeDate" : ISODate("2019-09-21T15:36:53Z"),
            "optimeDurableDate" : ISODate("2019-09-21T15:36:53Z"),
            "lastHeartbeat" : ISODate("2019-09-21T15:37:03.230Z"),
            "lastHeartbeatRecv" : ISODate("2019-09-21T15:37:02.853Z"),
            "pingMs" : NumberLong(0),
            "lastHeartbeatMessage" : "",
            "syncingTo" : "localhost:27000",
            "syncSourceHost" : "localhost:27000",
            "syncSourceId" : 0,
            "infoMessage" : "",
            "configVersion" : 1
        }
    ],
    "ok" : 1,
    "operationTime" : Timestamp(1569080213, 1),
    "$clusterTime" : {
        "clusterTime" : Timestamp(1569080213, 1),
        "signature" : {
            "hash" : BinData(0,"AAAAAAAAAAAAAAAAAAAAAAAAAAA="),
            "keyId" : NumberLong(0)
        }
    }
}

可以看出27000端口的节点为Primary节点

6.常用命定
rs.status();     // 查看整体复制集状态
rs.isMaster();   //  查看当前是否是主节点
rs.add(); // 添加一个节点
rs.addArb(); // 添加一个仲裁节点
rs.remove(); // 移除一个节点
©著作权归作者所有,转载或内容合作请联系作者
  • 序言:七十年代末,一起剥皮案震惊了整个滨河市,随后出现的几起案子,更是在滨河造成了极大的恐慌,老刑警刘岩,带你破解...
    沈念sama阅读 199,830评论 5 468
  • 序言:滨河连续发生了三起死亡事件,死亡现场离奇诡异,居然都是意外死亡,警方通过查阅死者的电脑和手机,发现死者居然都...
    沈念sama阅读 83,992评论 2 376
  • 文/潘晓璐 我一进店门,熙熙楼的掌柜王于贵愁眉苦脸地迎上来,“玉大人,你说我怎么就摊上这事。” “怎么了?”我有些...
    开封第一讲书人阅读 146,875评论 0 331
  • 文/不坏的土叔 我叫张陵,是天一观的道长。 经常有香客问我,道长,这世上最难降的妖魔是什么? 我笑而不...
    开封第一讲书人阅读 53,837评论 1 271
  • 正文 为了忘掉前任,我火速办了婚礼,结果婚礼上,老公的妹妹穿的比我还像新娘。我一直安慰自己,他们只是感情好,可当我...
    茶点故事阅读 62,734评论 5 360
  • 文/花漫 我一把揭开白布。 她就那样静静地躺着,像睡着了一般。 火红的嫁衣衬着肌肤如雪。 梳的纹丝不乱的头发上,一...
    开封第一讲书人阅读 48,091评论 1 277
  • 那天,我揣着相机与录音,去河边找鬼。 笑死,一个胖子当着我的面吹牛,可吹牛的内容都是我干的。 我是一名探鬼主播,决...
    沈念sama阅读 37,550评论 3 390
  • 文/苍兰香墨 我猛地睁开眼,长吁一口气:“原来是场噩梦啊……” “哼!你这毒妇竟也来了?” 一声冷哼从身侧响起,我...
    开封第一讲书人阅读 36,217评论 0 254
  • 序言:老挝万荣一对情侣失踪,失踪者是张志新(化名)和其女友刘颖,没想到半个月后,有当地人在树林里发现了一具尸体,经...
    沈念sama阅读 40,368评论 1 294
  • 正文 独居荒郊野岭守林人离奇死亡,尸身上长有42处带血的脓包…… 初始之章·张勋 以下内容为张勋视角 年9月15日...
    茶点故事阅读 35,298评论 2 317
  • 正文 我和宋清朗相恋三年,在试婚纱的时候发现自己被绿了。 大学时的朋友给我发了我未婚夫和他白月光在一起吃饭的照片。...
    茶点故事阅读 37,350评论 1 329
  • 序言:一个原本活蹦乱跳的男人离奇死亡,死状恐怖,灵堂内的尸体忽然破棺而出,到底是诈尸还是另有隐情,我是刑警宁泽,带...
    沈念sama阅读 33,027评论 3 315
  • 正文 年R本政府宣布,位于F岛的核电站,受9级特大地震影响,放射性物质发生泄漏。R本人自食恶果不足惜,却给世界环境...
    茶点故事阅读 38,623评论 3 303
  • 文/蒙蒙 一、第九天 我趴在偏房一处隐蔽的房顶上张望。 院中可真热闹,春花似锦、人声如沸。这庄子的主人今日做“春日...
    开封第一讲书人阅读 29,706评论 0 19
  • 文/苍兰香墨 我抬头看了看天上的太阳。三九已至,却和暖如春,着一层夹袄步出监牢的瞬间,已是汗流浃背。 一阵脚步声响...
    开封第一讲书人阅读 30,940评论 1 255
  • 我被黑心中介骗来泰国打工, 没想到刚下飞机就差点儿被人妖公主榨干…… 1. 我叫王不留,地道东北人。 一个月前我还...
    沈念sama阅读 42,349评论 2 346
  • 正文 我出身青楼,却偏偏与公主长得像,于是被迫代替她去往敌国和亲。 传闻我的和亲对象是个残疾皇子,可洞房花烛夜当晚...
    茶点故事阅读 41,936评论 2 341

推荐阅读更多精彩内容

  • 1、副本集/复制集: mongo副本集/复制集是mongo高可用性特征之一,是有自动故障恢复功能的主要集群。由一个...
    Zhang21阅读 1,395评论 0 3
  • 通常,为了防止单点故障应用程序需要做集群。然而在数据库中除了防止单点故障,还需要做到数据库备份,读写分离,故障转移...
    非典型程序员阅读 6,966评论 0 3
  • 前言 在平时的学习开发中,我们一般都是在单点模式下进行的,也就是使用单台服务器,一个mongod服务器进程。对于单...
    honehou阅读 962评论 0 0
  • 第三章 庙中相遇 谈小川从从来没有见过如此美丽的女子。 虽然家道一般,但也算是见过世面的人,但是以前见过...
    帅气的蜥蜴阅读 211评论 0 1
  • 好久不见啦,是有那么几天... ...十几天... ...没有更新啦,还不是因为天气太热... ...拼多多丢脸丢...
    阳光SEO阅读 598评论 1 0