本节介绍一个常用的Hadoop生态管理工具——HUE。
安装介质:hue-4.2.0.tgz 提取码:ep88
1.什么是HUE
HUE是一个开源的Apache Hadoop UI系统,最早由Cloudera Desktop演化而来,最后由Cloudera贡献给了开源社区,HUE是基于Python Web框架Django实现的。
通过使用HUE工具,可以使用浏览器控制台对Hadoop生态圈中的各个组件进行交互控制,例如操作HDFS上的数据、运行MapReduce任务、操作HBase、操作Hive等等。
更多详细内容请参考文章《大数据交互平台Hue的优势》。
2.安装依赖包
[root@bigdata ~]# yum -y install ant asciidoc cyrus-sasl-devel cyrus-sasl-gssapi gcc gcc-c++ \
krb5-devel libtidy libxml2-devel libxslt-devel openldap-devel python-devel \
sqlite-devel openssl-devel mysql-devel gmp-devel libffi-devel
3.安装HUE
3.1下载HUE安装包
[root@bigdata ~]# ls /root/tools/hue-4.2.0.tgz
/root/tools/hue-4.2.0.tgz
3.2解压HUE安装包
[root@bigdata ~]# cd /root/tools/
[root@bigdata tools]# tar -zxvf hue-4.2.0.tgz
3.3编译安装HUE
[root@bigdata tools]# cd hue-4.2.0/
[root@bigdata hue-4.2.0]# PREFIX=/root/trainings/ make install
[root@bigdata hue-4.2.0]# cd /root/trainings/hue/
[root@bigdata hue]# ls
app.reg build ext Makefile Makefile.sdk Makefile.vars.priv tools
apps desktop LICENSE.txt Makefile.buildvars Makefile.vars README VERSION
3.4添加环境变量PATH
[root@bigdata ~]# vim /root/.bash_profile
HUE_HOME=/root/trainings/hue
export HUE_HOME
PATH=$HUE_HOME/build/env/bin:$PATH
export PATH
[root@bigdata ~]# source /root/.bash_profile
3.5添加用户hue,指定家目录
[root@bigdata ~]# adduser hue
[root@bigdata ~]# chown -R hue.hue /root/trainings/hue/
3.6HUE与Hadoop集成
3.6.1修改Hadoop配置文件
(1)编辑hdfs-site.xml文件
#开启webhdfs功能
dfs.webhdfs.enabled=true
(2)编辑core-site.xml文件
#设置Hadoop集群的代理用户
hadoop.proxyuser.root.hosts=*
#设置Hadoop集群的代理用户组
hadoop.proxyuser.root.groups=*
3.6.2修改HUE配置文件hue.ini
[root@bigdata ~]# vim $HUE_HOME/desktop/conf/hue.ini
#hue主机地址
http_host=bigdata
#端口号
http_port=8888
#服务器用户
server_user=root
#服务器用户组
server_group=root
#默认用户
default_user=root
#默认HDFS超级用户
default_hdfs_superuser=root
#默认文件系统
fs_defaultfs=http://bigdata:9000
#web hdfs的路径
webhdfs_url=http://bigdata:50070/webhdfs/v1
#Hadoop配置文件目录
hadoop_conf_dir=$HADOOP_HOME/etc/hadoop
#YARN的主机地址
resourcemanager_host=bigdata
#YARN API的地址
resourcemanager_api_url=http://bigdata:8088
#代理API的地址
proxy_api_url=http://bigdata:8088
#历史服务器的API地址
history_server_api_url=http://bigdata:19888
3.7HUE与HBase集成
[root@bigdata ~]# vim $HUE_HOME/desktop/conf/hue.ini
#hbase集群信息
hbase_clusters=(Cluster|bigdata:9090)
#hbase配置文件目录
hbase_conf_dir=$HBASE_HOME/conf
3.8HUE与Hive集成
[root@bigdata ~]# vim $HUE_HOME/desktop/conf/hue.ini
#Hive主机地址
hive_server_host=bigdata
#Hive主机端口
hive_server_port=10000
#Hive配置文件目录
hive_conf_dir=$HIVE_HOME/conf
3.9启动HUE
(1)启动Hadoop
[root@bigdata ~]# start-all.sh
[root@bigdata ~]# jps
9910 NodeManager
9575 SecondaryNameNode
9368 DataNode
9259 NameNode
9739 ResourceManager
10158 Jps
(2)启动HBase
HUE使用Thrift方式来读取HBASE数据。默认HBase的thrift服务没有开启,需要手动开启thrift服务。thrift服务默认使用9090端口,开启前需要确定该端口没有被占用。
[root@bigdata ~]# netstat -nl | grep 9090
[root@bigdata ~]# start-hbase.sh
[root@bigdata ~]# hbase-daemon.sh start thrift
[root@bigdata ~]# jps
10480 HMaster
9910 NodeManager
9575 SecondaryNameNode
9368 DataNode
10409 HQuorumPeer
10617 HRegionServer
11002 ThriftServer
9259 NameNode
9739 ResourceManager
11086 Jps
(3)启动Hive
[root@bigdata ~]# hive --service metastore &
[1] 11113
[root@bigdata ~]# hive --service hiveserver2 &
[1] 11500
(4)启动HUE
[root@bigdata ~]# supervisor
starting server with options:
{'daemonize': False,
'host': 'bigdata',
'pidfile': None,
'port': 8888,
'server_group': 'root',
'server_name': 'localhost',
'server_user': 'root',
'ssl_certificate': None,
'ssl_certificate_chain': None,
'ssl_cipher_list': 'ECDHE-RSA-AES128-GCM-SHA256:ECDHE-ECDSA-AES128-GCM-SHA256:ECDHE-RSA-AES256-GCM-SHA384:
ECDHE-ECDSA-AES256-GCM-SHA384:DHE-RSA-AES128-GCM-SHA256:DHE-DSS-AES128-GCM-SHA256:kEDH+AESGCM:ECDHE-RSA-AES128-SHA256:
ECDHE-ECDSA-AES128-SHA256:ECDHE-RSA-AES128-SHA:ECDHE-ECDSA-AES128-SHA:ECDHE-RSA-AES256-SHA384:ECDHE-ECDSA-AES256-SHA384:
ECDHE-RSA-AES256-SHA:ECDHE-ECDSA-AES256-SHA:DHE-RSA-AES128-SHA256:DHE-RSA-AES128-SHA:DHE-DSS-AES128-SHA256:
DHE-RSA-AES256-SHA256:DHE-DSS-AES256-SHA:DHE-RSA-AES256-SHA:AES128-GCM-SHA256:AES256-GCM-SHA384:AES128-SHA256:
AES256-SHA256:AES128-SHA:AES256-SHA:AES:CAMELLIA:DES-CBC3-SHA:!aNULL:!eNULL:!EXPORT:!DES:!RC4:!MD5:!PSK:!aECDH:
!EDH-DSS-DES-CBC3-SHA:!EDH-RSA-DES-CBC3-SHA:!KRB5-DES-CBC3-SHA',
'ssl_private_key': None,
'threads': 50,
'workdir': None}</pre>
3.10登录HUE
浏览器输入:http::192.168.126.110:8888以登录HUE控制台。第一次登录时会创建用户和密码,请务必牢记第一次输入的用户名和密码。