kylin hbase迁移

一、背景

现kylin作为数据源提供报表支撑的场景持续增多,经常出现查询慢的问题,为提高hbase支撑的稳定性,同时可以应对读写组合的情况,考虑一种方案即kylin的读写分离。

二、方案介绍

kylin部署的几种方式

单实例部署方式

  • 即现阶段我们采用的部署方式,单节点kylin, 一般并发达到50时会出现瓶颈。

集群部署方式

  • kylin机器采用集群部署方式, 只需要增加kylin的节点数,每个节点共用一份medadata表, 并且集群中只有一个kylin实例运行任务引擎(kylin.server.mode=all 或 kylin.server.mode=job), 其他kylin实例都是查询引擎(kylin.server.mode=query).
  • 为了负载均衡, 将不同的用户请求访问通过nginx进行负载均衡分发到每个kylin节点。

读写分离方式

  • kylin的工作负载分为两类: 1. cube计算,需要密集的cpu和IO; 2. 在线的实时查询,要求快速想用。
  • 适用场景:cube的计算和kylin的查询可能出现时间上冲突的情况, cube计算时可能会影响kylin的读取速度。
    一般的安装步骤如下:
  1. 分别部署hadoop集群和hbase集群, 对我们来说可能是EMR集群和olap集群
  2. 准备安装kylin的服务器上,安装和配置hadoop和hbase等组件的客户端(这里的hbase客户端需要能访问hbase集群, 其他如hdfs,hive,mr等客户端需要能访问hadoop集群, 这一步我们可以直接在目标集群上拷贝响应的配置实现)
  3. hadoop集群与hbase集群需要能够网络间互通,且无需额外的验证(我们可以使用公共用户hdfs来解决cdh集群的验证问题)
  4. 确保在kylin服务器上可以通过hdfs命令行 + HBase集群namenode地址访问和操作hbase集群的hdfs: 如 hdfs dfs -ls hdfs://<hbase>:8020/
  5. 修改kylin.properties文件中的hbase集群配置: kylin.storage.hbase.cluster-fs=hdfs://<hbase>:8020 (其他配置同原kylin配置)
  6. 重启kylin服务实例

staging和production多环境的部署

  • 可以理解为是将测试和生产的kylin共用同一套hdfs集群,在测试上构建完kylin cube测试无问题后,使用kylin的迁移工具进行cube的迁移, 这里不再进一步说明。
./bin/kylin.sh org.apache.kylin.tool.CubeMigrationCLI <srcKylinConfigUri> <dstKylinConfigUri> <cubeName> <projectName> <copyAclOrNot> <purgeOrNot> <overwriteIfExists> <realExecute> <migrateSegmentOrNot>

kylin hbase迁移

  • 因为kylin提供的cube迁移工具并不支持不同hadoop集群间的cube迁移, 这里详细说明一下kylin在不同集群间的迁移方法。

0. 迁移说明

0.1 hbase迁移采用hbase提供的snapshot工具
0.2 正在迁移的cube在迁移完成之前,需要保证cube不进行合并操作,可以通过临时修改cube属性,将7天合并和28天合并删除,以免迁移途中发现源表没了。。。
0.3 每次迁移最少一个cube,如果cube中的表未迁移完整,将导致kylin协处理器更新失败; 迁移完一个project后再迁移另一个, 如果能一次全部迁移的话最好

1. 准备工作

1.1 保证集群间的网络可以互通
1.2 目标集群(hbase集群)的服务器hosts文件中需要添加原集群的域名映射,已解决hbase snapshot复制后unknown host的问题。

2. 迁移步骤

2.1 备份kylin元数据

./bin/metastore.sh backup  -- 该命令会在当前目录下生成一个带日期后缀的元数据备份文件夹

2.2 拷贝元数据
拷贝文件到新的kylin服务器,并新建meta_new文件夹,目录结构与元数据保持一致; 按project进行迁移, 将元数据中 cube/cube_desc/cube_statistics/dict/model_desc/project/table/table_exd 子目录下对应 该cube的数据拷贝到cube_new文件夹下对应的相同名称的文件夹下(在2.7步将会用到)。
2.3 迁移hbase表
按照kylin cube对应的hbase table 做hbase 快照, 进入hadoop集群的hbase shell下

 snapshot 'table_name','table_name_snapshot'
list_snapshots --该命令可以查看快照文件列表

2.4 导出到目标集群

su hdfs   -- 切换为hdfs用户,具有目标集群的读写权限

hbase org.apache.hadoop.hbase.snapshot.ExportSnapshot   -snapshot table_name_snapshot -copy-from hdfs://<计算>:8020/hbase    -copy-to hdfs://<hbase>:8020/hbase -mappers 5 -bandwidth  10  

此时目标集群hdfs:///hbase/.hbase-snapshot下会有对应的快照文件,当然也可以通过一下命令查看

list_snapshots
  • mappers 表示并行度, bandwidth表示带宽,不要太高以免影响集群正常功能。

2.5 目标集群修改权限

  • 因为以hdfs用户导出,所以目标集群的文件属于hdfs用户,而hbase默认使用hbase用户,权限不足
sudo -uhdfs hdfs dfs -chown -R hbase:hbase /hbase

2.6 在目标集群通过snapshot创建表
注意: 这里的表名要与源表保持一致

clone_snapshot 'table_name_snapshot','table_name'

2.7 导入元数据到新的kylin实例

./bin/metastore.sh restore meta_new

2.8 reload metadata

  • 在kylin页面上进行点击System模块,点击reload MetaData
    2.9 更新协处理器
./kylin.sh org.apache.kylin.storage.hbase.util.DeployCoprocessorCLI $KYLIN_HOME/lib/kylin-coprocessor-*.jar all

2.10 至此,登录新的kylin实例web界面,即可看到我们刚刚导入的cube,并可进行查询,因为是按project进行导入的,所以其他的project是看不到的。

3. 可能出现的问题

3.1 目标集群hbase执行命令 clone_snapshot 'table_name_snapshot','table_name'后,一直不响应;

  • 查看olap1 机器下 /var/log/hbase目录下的hbase-cmf-hbase-HBASERESTSERVER-olap1.log.out 及 hbase-cmf-hbase-MASTER-olap1.log.out
  • 可能的原因是hosts文件没有配置,导致snapshot复制过来的表中携带的原集群的元信息不能被正确识别: 修改hosts文件解决

3.2 通过hbase shell可以查看表数据(可能是乱码哈), 但是通过kylin查询会出错

  • 未更新协处理器: ./kylin.sh org.apache.kylin.storage.hbase.util.DeployCoprocessorCLI $KYLIN_HOME/lib/kylin-coprocessor-*.jar all

3.3 更新协处理器报错

  • 当前cube中包含的segment(表)未完全迁移,导致报错: 最小迁移单位为cube

3.4 Could not find or load main class org.apache.hadoop.hbase.util.GetJavaProperty

  • 在hbase脚本中添加依赖,CLASSPATH=${CLASSPATH}:$JAVA_HOME/lib/tools.jar:/opt/cloudera/parcels/CDH/lib/hbase/lib/*
参考:http://92072234.wiz03.com/share/s/2i1O8Q1L1k042IDoOy3h7BgH2K4G6J2SoQv42Xc4b01xpCrj

4. 当真的解决不了的时候

注意: 以下操作只能在新集群上操作!!!

4.1 暴力删除hbase

  • 4.1.1. 停止hbase服务
  • 4.1.2. 删除zookeeper 下hbase文件夹
  • 4.1.3. 删除hdfs /hbase目录

4.2 暴力删除kylin元数据

  • 4.2.1. ./kylin.sh stop
  • 4.2.2. 进入hbase shell, 删除kylin_metadata表
  • 4.2.3. ./kylin.sh start

三、对当前情况下的适用性

优点:

  1. 读写分离,可以应对更多样的环境
  2. hbase集群拆分,由kylin查询引起的hbase问题,仅作用到hbase集群, 不会牵连到sparkstreaming任务(offset提交等)
  3. hbase集群拆分,做配置方面的调整时,波及面小
  4. 可以释放部分emr集群资源
  5. 方便后续扩展

缺点:

  1. hbase集群拆分后,需要占用olap集群的内存资源,可能导致实时数仓的资源紧张

风险点:

  1. 方案最终需要单独的kylin服务器同时连两个集群,这个尚不具备环境实践测试,因为需要修改环境配置,可能导致原kylin不可用。
    • 解决方案: 另外单独申请机器, 与当前kylin机器隔离,带确认无误后切换kylin

适用性分析

  • 针对当前使用情况来看,很多集群不稳定的情况是由于hbase内存不足导致regionserver经常性重启有关系, 可以通过调整现有hbase集群内存资源改善查询慢的问题;
  • 与druid集群共用olap集群,同样需要较大量的内存,可能会影响实时数仓的服务稳定性,或者另加资源, 需要观察实时数仓的资源占用情况
  • 现有集群虽然组件较多,但是资源方面相对olap集群可用资源更多,可以先观察一段时间。

参考

©著作权归作者所有,转载或内容合作请联系作者
  • 序言:七十年代末,一起剥皮案震惊了整个滨河市,随后出现的几起案子,更是在滨河造成了极大的恐慌,老刑警刘岩,带你破解...
    沈念sama阅读 206,214评论 6 481
  • 序言:滨河连续发生了三起死亡事件,死亡现场离奇诡异,居然都是意外死亡,警方通过查阅死者的电脑和手机,发现死者居然都...
    沈念sama阅读 88,307评论 2 382
  • 文/潘晓璐 我一进店门,熙熙楼的掌柜王于贵愁眉苦脸地迎上来,“玉大人,你说我怎么就摊上这事。” “怎么了?”我有些...
    开封第一讲书人阅读 152,543评论 0 341
  • 文/不坏的土叔 我叫张陵,是天一观的道长。 经常有香客问我,道长,这世上最难降的妖魔是什么? 我笑而不...
    开封第一讲书人阅读 55,221评论 1 279
  • 正文 为了忘掉前任,我火速办了婚礼,结果婚礼上,老公的妹妹穿的比我还像新娘。我一直安慰自己,他们只是感情好,可当我...
    茶点故事阅读 64,224评论 5 371
  • 文/花漫 我一把揭开白布。 她就那样静静地躺着,像睡着了一般。 火红的嫁衣衬着肌肤如雪。 梳的纹丝不乱的头发上,一...
    开封第一讲书人阅读 49,007评论 1 284
  • 那天,我揣着相机与录音,去河边找鬼。 笑死,一个胖子当着我的面吹牛,可吹牛的内容都是我干的。 我是一名探鬼主播,决...
    沈念sama阅读 38,313评论 3 399
  • 文/苍兰香墨 我猛地睁开眼,长吁一口气:“原来是场噩梦啊……” “哼!你这毒妇竟也来了?” 一声冷哼从身侧响起,我...
    开封第一讲书人阅读 36,956评论 0 259
  • 序言:老挝万荣一对情侣失踪,失踪者是张志新(化名)和其女友刘颖,没想到半个月后,有当地人在树林里发现了一具尸体,经...
    沈念sama阅读 43,441评论 1 300
  • 正文 独居荒郊野岭守林人离奇死亡,尸身上长有42处带血的脓包…… 初始之章·张勋 以下内容为张勋视角 年9月15日...
    茶点故事阅读 35,925评论 2 323
  • 正文 我和宋清朗相恋三年,在试婚纱的时候发现自己被绿了。 大学时的朋友给我发了我未婚夫和他白月光在一起吃饭的照片。...
    茶点故事阅读 38,018评论 1 333
  • 序言:一个原本活蹦乱跳的男人离奇死亡,死状恐怖,灵堂内的尸体忽然破棺而出,到底是诈尸还是另有隐情,我是刑警宁泽,带...
    沈念sama阅读 33,685评论 4 322
  • 正文 年R本政府宣布,位于F岛的核电站,受9级特大地震影响,放射性物质发生泄漏。R本人自食恶果不足惜,却给世界环境...
    茶点故事阅读 39,234评论 3 307
  • 文/蒙蒙 一、第九天 我趴在偏房一处隐蔽的房顶上张望。 院中可真热闹,春花似锦、人声如沸。这庄子的主人今日做“春日...
    开封第一讲书人阅读 30,240评论 0 19
  • 文/苍兰香墨 我抬头看了看天上的太阳。三九已至,却和暖如春,着一层夹袄步出监牢的瞬间,已是汗流浃背。 一阵脚步声响...
    开封第一讲书人阅读 31,464评论 1 261
  • 我被黑心中介骗来泰国打工, 没想到刚下飞机就差点儿被人妖公主榨干…… 1. 我叫王不留,地道东北人。 一个月前我还...
    沈念sama阅读 45,467评论 2 352
  • 正文 我出身青楼,却偏偏与公主长得像,于是被迫代替她去往敌国和亲。 传闻我的和亲对象是个残疾皇子,可洞房花烛夜当晚...
    茶点故事阅读 42,762评论 2 345

推荐阅读更多精彩内容