目录##
Hadoop背景介绍
Hadoop生态圈以及各组成部分的简介
Hadoop案例感性认识
1、Hadoop 背景介绍###
Hadoop 是什么####
1、Hadoop是apache旗下的一套开源软件平台
2、Hadoop提供的功能：利用服务器集群，根据用户的自定义业务逻辑，对海量数据进行分布式处理
-
3、Hadoop的核心组件有
A.HDFS（分布式文件系统）
B.YARN（运算资源调度系统）
C.MAPREDUCE（分布式运算编程框架）
广义上来说，Hadoop通常是指一个更广泛的概念——HADOOP生态圈
Hadoop 产生背景####
1、HADOOP最早起源于Nutch。Nutch的设计目标是构建一个大型的全网搜索引擎，包括网页抓取、索引、查询等功能，但随着抓取网页数量的增加，遇到了严重的可扩展性问题——如何解决数十亿网页的存储和索引问题。
2、2003年、2004年谷歌发表的两篇论文为该问题提供了可行的解决方案。
分布式文件系统（GFS），可用于处理海量网页的存储
布式计算框架MAPREDUCE，可用于处理海量网页的索引计算问题。
3、Nutch的开发人员完成了相应的开源实现HDFS和MAPREDUCE，并从Nutch中剥离成为独立项目HADOOP，到2008年1月，HADOOP成为Apache顶级项目，迎来了它的快速发展期。
2、Hadoop 生态圈以及各组成部分的简介
重点组件
HDFS：分布式文件系统
MAPREDUCE：分布式运算程序开发框架
HIVE：基于大数据技术（文件系统+运算框架）的SQL数据仓库工具
HBASE：基于HADOOP的分布式海量数据库
ZOOKEEPER：分布式协调服务基础组件
Mahout：基于mapreduce/spark/flink等分布式运算框架的机器学习算法库
Oozie：工作流调度框架
Sqoop：数据导入导出工具
Flume：日志数据采集框架
3、Hadoop 案例感性认知
通过以下案例，感受以下Hadoop在数据分析系统的宏观概念及处理流程，初步理解hadoop等框架在其中的应用环节。
案例：离线数据分析
一个应用广泛的数据分析系统：“web日志数据挖掘”
3.1 需求分析
案例名称
“网站或APP点击流日志数据挖掘系统”
一般中型的网站(10W的PV以上)，每天会产生1G以上Web日志文件。大型或超大型的网站，可能每小时就会产生10G的数据量。
具体来说，比如某电子商务网站，在线团购业务。每日PV数100w，独立IP数5w。用户通常在工作日上午10:00-12:00和下午15:00-18:00访问量最大。日间主要是通过PC端浏览器访问，休息日及夜间通过移动设备访问较多。网站搜索浏量占整个网站的80%，PC用户不足1%的用户会消费，移动用户有5%会消费。
对于日志的这种规模的数据，用HADOOP进行日志分析，是最适合不过的了。
需求描述
Web点击流日志”包含着网站运营很重要的信息，通过日志分析，我们可以知道网站的访问量，哪个网页访问人数最多，哪个网页最有价值，广告转化率、访客的来源信息，访客的终端信息等。
数据来源
本案例的数据主要由用户的点击行为记录
获取方式：在页面预埋一段js程序，为页面上想要监听的标签绑定事件，只要用户点击或移动到标签，即可触发ajax请求到后台servlet程序，用log4j记录下事件信息，从而在web服务器（nginx、tomcat等）上形成不断增长的日志文件。
形如：
58.215.204.118 - - [18/Sep/2013:06:51:35 +0000] "GET /wp-includes/js/jquery/jquery.js?ver=1.10.2 HTTP/1.1" 304 0 "http://blog.fens.me/nodejs-socketio-chat/" "Mozilla/5.0 (Windows NT 5.1; rv:23.0) Gecko/20100101 Firefox/23.0"
3.2 数据处理流程
流程图解析
本案例跟典型的BI系统极其类似，整体流程如下：
但是，由于本案例的前提是处理海量数据，因而，流程中各环节所使用的技术则跟传统BI完全不同：
- 数据采集：定制开发采集程序，或使用开源框架FLUME
- 数据预处理：定制开发mapreduce程序运行于hadoop集群
- 数据仓库技术：基于hadoop之上的Hive
- 数据导出：基于hadoop的sqoop数据导入导出工具
- 数据可视化：定制开发web程序或使用kettle等产品
- 整个过程的流程调度：hadoop生态圈中的oozie工具或其他类似开源产品
项目技术架构图
这是对Hadoop的初步认识，了解Hadoop的一些应用场景。下一步就要对Hadoop集群进行搭建了。
