黑猴子的家:Oozie CDH版本部署

oozie 的使用 最好使用cdh,各框架兼容性好的, 如果使用apache 版本, 需要逛逛apache社区,看看个框架的版本依赖,最好不要跨版本号依赖,解决兼容性问题是很头疼的问题

大数据框架中,oozie 是比较复杂的, 尤其是部署的时候
定时调度任务框架有
Azkaban Azkaban部署起来 非常简单, 是最简单的
crontab 滴滴公司就是用的crontab 轻量级
oozie 是最强大的 ,部署的时候, 细节很重要

1、解压Oozie

[victor@node1 software]$ tar -xzvf oozie-4.0.0-cdh5.3.6.tar.gz  -C /opt/module

2、修改Hadoop配置文件,添加Oozie相关配置

oozie是有用户的,默认用户就是oozie

core-site.xml

<!-- Oozie Server的Hostname -->
## 允许哪些框架被oozie 代理victor用户去操作hadoop,victor修改成自己的用户名
<property>
    <name>hadoop.proxyuser.victor.hosts</name>
    <value>*</value>
</property>

<!-- 允许被Oozie代理的用户组 -->
## 允许oozie 代理victor用户去操作hadoop,victor修改成自己的用户名
<property>
    <name>hadoop.proxyuser.victor.groups</name>
    <value>*</value>
</property>

mapred-site.xml

使用oozie框架,一定要配置jobhistory  server
<!-- 配置 MapReduce JobHistory Server 地址 ,默认端口10020 -->
<property>
    <name>mapreduce.jobhistory.address</name>
    <value>hadoop102:10020</value>
</property>

<!-- 配置 MapReduce JobHistory Server web ui 地址, 默认端口19888 -->
<property>
    <name>mapreduce.jobhistory.webapp.address</name>
    <value>hadoop102:19888</value>
</property>

yarn-site.xml

<!-- 任务历史服务 -->
<property> 
    <name>yarn.log.server.url</name> 
    <value>http://hadoop102:19888/jobhistory/logs/</value> 
</property>

完成后:记得scp同步到其他机器节点

3、启动Hadoop集群

[victor@node1 hadoop]$ sbin/start-dfs.sh
[victor@node1 hadoop]$ sbin/start-yarn.sh
[victor@node1 hadoop]$ sbin/mr-jobhistory-daemon.sh  start  historyserver

尖叫提示:需要开启JobHistoryServer, 最好执行一个MR任务进行测试。

4、在oozie根目录下,解压hadooplibs

[victor@node1 oozie]$ tar -xzvf oozie-hadooplibs-4.0.0-cdh5.3.6.tar.gz -C ../

完成后Oozie目录下会出现hadooplibs目录。目的是把解压后的hadooplibs文件夹,放到oozie目录下

5、在Oozie目录下创建libext目录

[victor@node1 oozie]$ mkdir libext/

6、拷贝一些依赖的Jar包

1) 将hadooplibs里面的jar包,拷贝到libext目录下

[victor@node1 oozie]$ cp -ra hadooplibs/hadooplib-2.5.0-cdh5.3.6.oozie-4.0.0-cdh5.3.6/* libext/

2) 拷贝Mysql驱动包到libext目录下
oozie 的 元数据保存在mysql 中 ,默认derby

[victor@node1 oozie]$ cp -a mysql-connector-java-5.1.27-bin.jar libext/

7、将ext-2.2.zip拷贝到自己创建的libext/目录下

ext是一个js框架,用于展示oozie前端页面

[victor@node1 oozie]$ cp -a ext-2.2.zip libext/

8、修改Oozie配置文件

oozie-site.xml

[victor@node1 oozie]$ vim conf/oozie-site.xml

    <property>
        <name>oozie.service.JPAService.jdbc.driver</name>
        <value>com.mysql.jdbc.Driver</value>
    </property>

    <property>
        <name>oozie.service.JPAService.jdbc.url</name>
        <value>jdbc:mysql://hadoop102:3306/oozie</value>
    </property>

    <property>
        <name>oozie.service.JPAService.jdbc.username</name>
        <value>root</value>
    </property>

    <property>
        <name>oozie.service.JPAService.jdbc.password</name>
        <value>000000</value>
    </property>

    <property>
        <name>oozie.service.HadoopAccessorService.hadoop.configurations</name>
        <value>*=/opt/module/cdh/hadoop-2.5.0-cdh5.3.6/etc/hadoop</value>
        <description>让Oozie引用Hadoop的配置文件“*=”不能删</description>
    </property>

9、在Mysql中创建Oozie的数据库

[victor@node1 oozie]$ mysql -uroot -p000000
mysql> create database oozie DEFAULT CHARSET utf8 COLLATE utf8_general_ci;

10、初始化Oozie

1)上传Oozie目录下的yarn.tar.gz文件到HDFS

[victor@node1 oozie]$ bin/oozie-setup.sh sharelib create -fs \
hdfs://hadoop102:9000 -locallib oozie-sharelib-4.0.0-cdh5.3.6-yarn.tar.gz

尖叫提示:yarn.tar.gz文件会自行解压
命令的意思是把这个oozie-sharelib-4.0.0-cdh5.3.6-yarn.tar.gz 包 解压出来,放到hdfs上面
以wordcount案例,oozie作为定时调度框架,必须先把w..t.jar上传到hdfs,oozie才有能力去 调度它,放到本地是不行的
执行成功之后,去50070检查对应目录有没有文件生成。
/user/victor/share/lib/lib_20180208085236

2) 创建oozie.sql文件

[victor@node1 oozie]$ bin/oozie-setup.sh db create -run -sqlfile oozie.sql

操作的时候, mysql一定要有oozie这个数据库
在oozie这个库里面,创建了一系列的表

3) 打包项目,生成war包

[victor@node1 oozie]$ bin/oozie-setup.sh prepare-war

11、启动Oozie服务

[victor@node1 oozie]$ bin/oozied.sh start

如需正常关闭Oozie服务,请使用
[victor@node1 oozie]$ bin/oozied.sh stop

12、访问Oozie的Web页面

看到的web页面, 依赖ext-2.2.zip这个js框架
http://linux01:11000/oozie

最后编辑于
©著作权归作者所有,转载或内容合作请联系作者
  • 序言:七十年代末,一起剥皮案震惊了整个滨河市,随后出现的几起案子,更是在滨河造成了极大的恐慌,老刑警刘岩,带你破解...
    沈念sama阅读 205,236评论 6 478
  • 序言:滨河连续发生了三起死亡事件,死亡现场离奇诡异,居然都是意外死亡,警方通过查阅死者的电脑和手机,发现死者居然都...
    沈念sama阅读 87,867评论 2 381
  • 文/潘晓璐 我一进店门,熙熙楼的掌柜王于贵愁眉苦脸地迎上来,“玉大人,你说我怎么就摊上这事。” “怎么了?”我有些...
    开封第一讲书人阅读 151,715评论 0 340
  • 文/不坏的土叔 我叫张陵,是天一观的道长。 经常有香客问我,道长,这世上最难降的妖魔是什么? 我笑而不...
    开封第一讲书人阅读 54,899评论 1 278
  • 正文 为了忘掉前任,我火速办了婚礼,结果婚礼上,老公的妹妹穿的比我还像新娘。我一直安慰自己,他们只是感情好,可当我...
    茶点故事阅读 63,895评论 5 368
  • 文/花漫 我一把揭开白布。 她就那样静静地躺着,像睡着了一般。 火红的嫁衣衬着肌肤如雪。 梳的纹丝不乱的头发上,一...
    开封第一讲书人阅读 48,733评论 1 283
  • 那天,我揣着相机与录音,去河边找鬼。 笑死,一个胖子当着我的面吹牛,可吹牛的内容都是我干的。 我是一名探鬼主播,决...
    沈念sama阅读 38,085评论 3 399
  • 文/苍兰香墨 我猛地睁开眼,长吁一口气:“原来是场噩梦啊……” “哼!你这毒妇竟也来了?” 一声冷哼从身侧响起,我...
    开封第一讲书人阅读 36,722评论 0 258
  • 序言:老挝万荣一对情侣失踪,失踪者是张志新(化名)和其女友刘颖,没想到半个月后,有当地人在树林里发现了一具尸体,经...
    沈念sama阅读 43,025评论 1 300
  • 正文 独居荒郊野岭守林人离奇死亡,尸身上长有42处带血的脓包…… 初始之章·张勋 以下内容为张勋视角 年9月15日...
    茶点故事阅读 35,696评论 2 323
  • 正文 我和宋清朗相恋三年,在试婚纱的时候发现自己被绿了。 大学时的朋友给我发了我未婚夫和他白月光在一起吃饭的照片。...
    茶点故事阅读 37,816评论 1 333
  • 序言:一个原本活蹦乱跳的男人离奇死亡,死状恐怖,灵堂内的尸体忽然破棺而出,到底是诈尸还是另有隐情,我是刑警宁泽,带...
    沈念sama阅读 33,447评论 4 322
  • 正文 年R本政府宣布,位于F岛的核电站,受9级特大地震影响,放射性物质发生泄漏。R本人自食恶果不足惜,却给世界环境...
    茶点故事阅读 39,057评论 3 307
  • 文/蒙蒙 一、第九天 我趴在偏房一处隐蔽的房顶上张望。 院中可真热闹,春花似锦、人声如沸。这庄子的主人今日做“春日...
    开封第一讲书人阅读 30,009评论 0 19
  • 文/苍兰香墨 我抬头看了看天上的太阳。三九已至,却和暖如春,着一层夹袄步出监牢的瞬间,已是汗流浃背。 一阵脚步声响...
    开封第一讲书人阅读 31,254评论 1 260
  • 我被黑心中介骗来泰国打工, 没想到刚下飞机就差点儿被人妖公主榨干…… 1. 我叫王不留,地道东北人。 一个月前我还...
    沈念sama阅读 45,204评论 2 352
  • 正文 我出身青楼,却偏偏与公主长得像,于是被迫代替她去往敌国和亲。 传闻我的和亲对象是个残疾皇子,可洞房花烛夜当晚...
    茶点故事阅读 42,561评论 2 343

推荐阅读更多精彩内容