Hbase学习(一)

一、Hbase是什么

1、Hbase是一个开源的非关系分布式数据库(NoSQL),它参考了谷歌的BigTable建模,实现的编程语言为Java

2、它是Apache软件基金会的Hadoop项目的一部分,运行于HDFS文件系统上,因此可以容错地存储海量稀疏的数据。

3、特性:

    -    高可靠

    -    高并发性

    -    面向列

    -    可伸缩

    -    易构建

    -    列存储

二、Hbase优缺点

1、优势

    海量数据存储

    快速随机访问

    大量写操作的应用

2、行存储和列存储比较

    行存储:

    -    优点:写入一次性完成,保持数据完整性

    -    缺点:数据读取过程中产生冗余数据,若有少量数据可忽略

    列存储:

    -    优点:读取过程,不会产生冗余数据,特别适合对数据完整性要求不高的大数据领域

    -    缺点:写入效率差,保证数据完整性方面差

三、Hbase应用场景

    -    互联网搜索引擎数据存储

    -    海量数据写入

    -    消息中心

    -    内容服务系统

    -    大表复杂&多维度索引

    -    大批量数据读取

四、Hbase模型

   1、数据模型

数据存储模型

    -    RowKey:是Byte array,是表中每条记录的“主键”,方便快速查找,RowKey的设计非常重要。

    -    Column Family:列族,拥有一个名称(String),包含一个或者多个相关列

    -    Column:属于某一个column family,familyName:columnName,每条记录可动态添加

    -    Version Number:类型为Long,默认是系统时间戳,可以由用户自定义

    -    Value(cell):Byte array


实际例子

    它是三维有序的,可通过RowKey、column family、column qualifier查询出指定的值,存储的时候以timestamp的时间戳顺序来存储的

        -    {rowkey => {family = > { qualifier => version => value} }}

        -    a:cf1:bar:1368394583:7

        -    a:cf1:foo:1368394583:hello

2、物理模型

存储结构

    -    Hbase一张表由一个或多个Hregion组成

    -    记录之间按照rowkey的字典序排列

Region分割方式

            Region按大小分割的,每个表一开始只有一个Region,随着数据的不断插入表,region不断增大,当增大到一个阈值的时候,Hregion就会等分为两个新的Hregion。当table中的行不断增多,就会有越来越多的Hregion。

存储方式

                -    表 - > HTable

                -    按Rowkey范围分的Region - > HRegion - > Region Servers

                -    HRegion按照列族(Column Family) - > 多个HStore

                -    HStore - > memstore + HFiles(均为有序的KV) 

                -    HFile - > HDFS

HBase表存储

         HRegion是Hbase中分布式存储和负载均衡的最小单元。最小单元就表示不同HRegion可以分布在不同的HRegion server上。但一个HRegion是不会拆分到多个server上的。

Region存储结构

    HRegion虽然是分布式存储的最小单元,但并不是存储的的最小单元。

Hbase存储结构图

五、系统架构

物理架构

    Client:访问Hbase的接口,并维护Cache加速Region Server的访问

    Master:负载均衡,分配Region到RegionServer

    Region Server:维护Region,负责Region的IO请求

    Zookeeper:保证集群中只有一个Master;存储所有Region的入口(ROOT)地址;实时监控Region Server的上下线信息,并通知Master

Hbase逻辑结构图

        HMaster:负载均衡,管理和分配HRegion,管理table的元数据,权限控制

        HRegionServer:存放和管理本地HRegion,读写HDFS来管理Table中的数据 一个HRegionServer可以存放1000个HRegion,尽可能保证HRegion的数据和DataNode在一起,目的为了实现本地化,如果发生HRegion的移动的时候,本地化不能够保证,如果进一步保证本地化的话,需要等待下次合并,才能继续回到本地化

六、Hbase容错

容错机制

        Zookeeper协调集群所有节点的共享信息,在HMaster和HRegionServer连接到Zookeeper后创建Ephemeral节点,并使用Heartbeat机制维持这个节点的存活状态,如果某个Ephemeral节点失效,则HMaster会收到通知,并做相应的处理。

        除了HDFS存储信息,HBase还在ZooKeeper中存储信息,其中的znode信息:

        -    /hbase/table/-ROOT-,根元数据信息

        -    /hbase/table/.META.,元数据信息

        -    /hbase/master,当选的Master

        -    /hbase/backup-masters,备选的Master

        -    /hbase/rs,Region Server的信息

        -    /hbase/unassigned,未分配的Region

        Master容错:ZooKeeper重新选一个新的Master。无Master过程中,数据读取仍照常进行;无Master过程中,region切分、负载均衡等无法进行。

        Region Server容错:定时向ZooKeeper汇报心跳,如果一旦时间内未出现心跳,Master将该RegionServer上的Region重新分配到其他的Region Server上,失效服务器上“预写”日志由主服务器进行分割并派送给新的RegionServer

ZooKeeper容错:ZooKeeper是一个可靠的服务,一般配置3或5个ZooKeeper实例

日志容错

        WAL(Write-Ahead-Log)预写日志,该机制避免数据丢失:

        它是HBase的RegionServer在处理数据插入和删除的过程中用来记录操作内容的一种日志;在每次PUT、DELETE等一条记录时,首先将其数据写入到RegionServer对应的HLog文件的过程。客户端往RegionServer端提交数据的时候,会写WAL日志,只有当WAL日志写成功后,客户端才会被告诉提交数据成功,如果写WAL失败,则会告知客户端提交失败。

        数据落地的过程:在一个RegionServer上所有Region共享的一个Hlog,一次数据提交先写log(WAL),然后再写memstore,每次写Log时候,首先通过HbaseClient去寻址,得到Regionserver->Region->检查数据是否存再Memstore里,如果存在直接退出,如果memstore里没有数据,写入Hlog,然后再写入Memstore,写成功返回。

七、HBase的操作

        基本的单行操作:PUT,GET,DELETE

©著作权归作者所有,转载或内容合作请联系作者
  • 序言:七十年代末,一起剥皮案震惊了整个滨河市,随后出现的几起案子,更是在滨河造成了极大的恐慌,老刑警刘岩,带你破解...
    沈念sama阅读 205,132评论 6 478
  • 序言:滨河连续发生了三起死亡事件,死亡现场离奇诡异,居然都是意外死亡,警方通过查阅死者的电脑和手机,发现死者居然都...
    沈念sama阅读 87,802评论 2 381
  • 文/潘晓璐 我一进店门,熙熙楼的掌柜王于贵愁眉苦脸地迎上来,“玉大人,你说我怎么就摊上这事。” “怎么了?”我有些...
    开封第一讲书人阅读 151,566评论 0 338
  • 文/不坏的土叔 我叫张陵,是天一观的道长。 经常有香客问我,道长,这世上最难降的妖魔是什么? 我笑而不...
    开封第一讲书人阅读 54,858评论 1 277
  • 正文 为了忘掉前任,我火速办了婚礼,结果婚礼上,老公的妹妹穿的比我还像新娘。我一直安慰自己,他们只是感情好,可当我...
    茶点故事阅读 63,867评论 5 368
  • 文/花漫 我一把揭开白布。 她就那样静静地躺着,像睡着了一般。 火红的嫁衣衬着肌肤如雪。 梳的纹丝不乱的头发上,一...
    开封第一讲书人阅读 48,695评论 1 282
  • 那天,我揣着相机与录音,去河边找鬼。 笑死,一个胖子当着我的面吹牛,可吹牛的内容都是我干的。 我是一名探鬼主播,决...
    沈念sama阅读 38,064评论 3 399
  • 文/苍兰香墨 我猛地睁开眼,长吁一口气:“原来是场噩梦啊……” “哼!你这毒妇竟也来了?” 一声冷哼从身侧响起,我...
    开封第一讲书人阅读 36,705评论 0 258
  • 序言:老挝万荣一对情侣失踪,失踪者是张志新(化名)和其女友刘颖,没想到半个月后,有当地人在树林里发现了一具尸体,经...
    沈念sama阅读 42,915评论 1 300
  • 正文 独居荒郊野岭守林人离奇死亡,尸身上长有42处带血的脓包…… 初始之章·张勋 以下内容为张勋视角 年9月15日...
    茶点故事阅读 35,677评论 2 323
  • 正文 我和宋清朗相恋三年,在试婚纱的时候发现自己被绿了。 大学时的朋友给我发了我未婚夫和他白月光在一起吃饭的照片。...
    茶点故事阅读 37,796评论 1 333
  • 序言:一个原本活蹦乱跳的男人离奇死亡,死状恐怖,灵堂内的尸体忽然破棺而出,到底是诈尸还是另有隐情,我是刑警宁泽,带...
    沈念sama阅读 33,432评论 4 322
  • 正文 年R本政府宣布,位于F岛的核电站,受9级特大地震影响,放射性物质发生泄漏。R本人自食恶果不足惜,却给世界环境...
    茶点故事阅读 39,041评论 3 307
  • 文/蒙蒙 一、第九天 我趴在偏房一处隐蔽的房顶上张望。 院中可真热闹,春花似锦、人声如沸。这庄子的主人今日做“春日...
    开封第一讲书人阅读 29,992评论 0 19
  • 文/苍兰香墨 我抬头看了看天上的太阳。三九已至,却和暖如春,着一层夹袄步出监牢的瞬间,已是汗流浃背。 一阵脚步声响...
    开封第一讲书人阅读 31,223评论 1 260
  • 我被黑心中介骗来泰国打工, 没想到刚下飞机就差点儿被人妖公主榨干…… 1. 我叫王不留,地道东北人。 一个月前我还...
    沈念sama阅读 45,185评论 2 352
  • 正文 我出身青楼,却偏偏与公主长得像,于是被迫代替她去往敌国和亲。 传闻我的和亲对象是个残疾皇子,可洞房花烛夜当晚...
    茶点故事阅读 42,535评论 2 343

推荐阅读更多精彩内容

  • 参考:https://www.jianshu.com/p/569106a3008f 最近在逐步跟进Hbase的相关...
    博弈史密斯阅读 846评论 1 1
  • 一、简介 Hbase:全名Hadoop DataBase,是一种开源的,可伸缩的,严格一致性(并非最终一致性)的分...
    菜鸟小玄阅读 2,364评论 0 12
  • 简介 HBase —— Hadoop Database的简称,Google BigTable的另一种开源实现方式,...
    编码前线阅读 276评论 0 0
  • 一、什么是HBase?特性 HBase是一个高可靠性、高性能、面向列、可伸缩的分布式存储系统,基于Hadoop,建...
    大数据阶梯之路阅读 2,033评论 0 2
  • HBase架构的组成 HBase大体上按照master-slave架构可以分解成三种类型的服务。Region se...
    期待现在阅读 1,036评论 0 4