大数据学习经典线路图,大数据培训课程设置

大数据发展如火如荼,近年来,许多小伙伴都加入了大数据学习的大军,是自学还是参加专业的大数据培训,成了大家谈论的话题,但重点是,不管是自学大数据技术还是参加大数据培训,都要有一个好的学习方法和科学的大数据学习课程,我今天就把成都科多大数据公司的培训课程分享给大家,希望对学习大数据技术的小伙伴能有所帮助

大数据学习线路图

PS:第一阶段至第四阶段,是补充java基础,无java基础的小伙伴,可以按此学习路线学习,有java基础的小伙伴,可自行跳转到第五阶段开始

第一阶段:静态网页基础(HTML+CSS)

难易程度:一颗星

课时量(技术知识点+阶段项目任务+综合能力):48课时

主要技术包括:html常用标签、CSS常见布局、样式、定位等、静态页面的设计制作方式等

描述如下:

                              从技术层面来说,该阶段使用的技术代码很简单、易于学习、方便理解。从

后期课程层来说,因为我们重点是大数据,但前期需要锻炼编程技术与思维。经

过我们多年开发和授课的项目经理分析,满足这两点,目前市场上最好理解和掌

握的技术是J2EE,但J2EE又离不开页面技术。所以第一阶段我们的重点是页面

技术。采用市场上主流的HTMl+CSS。

第二阶段:JavaSE+JavaWeb

难易程度:两颗星

课时量(技术知识点+阶段项目任务+综合能力):264课时

主要技术包括:java基础语法、java面向对象(类、对象、封装、继承、多态、

抽象类、接口、常见类、内部类、常见修饰符等) 、异常、集合、文件、IO、

MYSQL(基本SQL语句操作、多表查询、子查询、存储过程、事务、分布式事务)

JDBC、线程、反射、Socket编程、枚举、泛型、设计模式

描述如下:

              称为Java基础,由浅入深的技术点、真实商业项目模块分析、多种存储方式的设计

与实现。该阶段是前四个阶段最最重要的阶段,因为后面所有阶段的都要基于此阶段,也是学习大数据紧密度最高的阶段。本阶段将第一次接触团队开发、产出具有前后台(第一阶段技术+第二阶段的技术综合应用)的真实项目。

第三阶段:前端框架

难易程序:两星

课时量(技术知识点+阶段项目任务+综合能力):64课时

主要技术包括:JavaScript、Jquery、注解反射一起使用,XML以及XML解析、解析dom4j、jxab、jdk8.0新特性、SVN、Maven、easyui

描述如下:

前两个阶段的基础上化静为动,可以实现让我们网页内容更加的丰富,当然如果从

市场人员层面来说,有专业的前端设计人员,我们设计本阶段的目标在于前端的技

术可以更直观的锻炼人的思维和设计能力。同时我们也将第二阶段的高级特性融入

到本阶段。使学习者更上一层楼。

第四阶段:企业级开发框架

难易程序:三颗星

课时量(技术知识点+阶段项目任务+综合能力):176课时

主要技术包括:Hibernate、Spring、SpringMVC、log4j slf4j 整合、myBatis、struts2、Shiro 、redis、流程引擎activity,爬虫技术nutch,lucene,webService CXF、Tomcat集群和热备 、MySQL读写分离

描述如下:

如果将整个JAVA课程比作一个糕点店,那前面三个阶段可以做出一个武大郎烧饼

(因为是纯手工-太麻烦),而学习框架是可以开一个星巴克(高科技设备-省时省力)。

                        从J2EE开发工程师的任职要求来说,该阶段所用到的技术是必须掌握,而我们所

授的课程是高于市场(市场上主流三大框架,我们进行七大框架技术传授)、而且

有真实的商业项目驱动。需求文档、概要设计、详细设计、源码测试、部署、安装

手册等都会进行讲解。

第五阶段: 初识大数据

难易程度:三颗星

课时量(技术知识点+阶段项目任务+综合能力):80课时

主要技术包括:大数据前篇(什么是大数据,应用场景,如何学习大数据库,虚拟机概念和安装等)、Linux常见命令(文件管理、系统管理、磁盘管理)、Linux Shell编程(SHELL变量、循环控制、应用)、Hadoop入门(Hadoop组成、单机版环境、目录结构、HDFS界面、MR界面、简单的SHELL、java访问hadoop)、HDFS(简介、SHELL、IDEA开发工具使用、全分布式集群搭建)、MapReduce应用(中间计算过程、Java操作MapReduce、程序运行、日志监控)、Hadoop高级应用(YARN框架介绍、配置项与优化、CDH简介、环境搭建)、扩展(MAP 端优化,COMBINER 使用方法见,TOP K,SQOOP导出,其它虚拟机VM的快照,权限管理命令,AWK 与 SED命令)

描述如下:

该阶段设计是为了让新人能够对大数据有一个相对的大概念怎么相对呢?在前

置课程JAVA的学习过后能够理解程序在单机的电脑上是如何运行的。现在,大

数据呢?大数据是将程序运行在大规模机器的集群中处理。大数据当然是要处理

数据,所以同样,数据的存储从单机存储变为多机器大规模的集群存储。

(你问我什么是集群?好,我有一大锅饭,我一个人可以吃完,但是要很久,现在我

叫大家一起吃。一个人的时候叫人,人多了呢? 是不是叫人群啊!)

       那么大数据可以初略的分为: 大数据存储和大数据处理

所以在这个阶段中呢,我们课程设计了大数据的标准:HADOOP

呐,大数据的运行呢并不是在咋们经常使用的WINDOWS 7或者W10上面,而是

现在使用最广泛的系统:LINUX。

第六阶段:大数据数据库

难易程度:四颗星

课时量(技术知识点+阶段项目任务+综合能力):88课时

主要技术包括:Hive入门(Hive简介、Hive使用场景、环境搭建、架构说明、工作机制)、Hive Shell编程(建表、查询语句、分区与分桶、索引管理和视图)、Hive高级应用(DISTINCT实现、groupby、join、sql转化原理、java编程、配置和优化)、hbase入门、Hbase

SHELL编程(DDL、DML、Java操作建表、查询、压缩、过滤器)、细说Hbase模块(REGION、HREGION

SERVER、HMASTER、ZOOKEEPER简介、ZOOKEEPER配置、Hbase与Zookeeper集成)、HBASE高级特性(读写流程、数据模型、模式设计读写热点、优化与配置)

描述如下:

该阶段设计是为了让大家在理解大数据如何处理大规模的数据的同时。简化咋们的

编写程序时间,同时提高读取速度。

怎么简化呢?在第一阶段中,如果需要进行复杂的业务关联与数据挖掘,自行编写

MR程序是非常繁杂的。所以在这一阶段中我们引入了HIVE,大数据中的数据仓

库。这里有一个关键字,数据仓库。我知道你要问我,所以我先说,数据仓库呢用

来做数据挖掘分析的,通常是一个超大的数据中心,存储这些数据的呢,一般为

ORACLE,DB2,等大型数据库,这些数据库通常用作实时的在线业务。

总之,要基于数据仓库分析数据呢速度是相对较慢的。但是方便在于只要熟悉SQL,

学习起来相对简单,而HIVE呢就是这样一种工具,基于大数据的SQL查询工具

呐,这一阶段呢还包括HBASE,它为大数据里面的数据库。

纳闷了,不是学了一种叫做HIVE的数据“仓库”了么?HIVE是基于MR的所以

查询起来相当慢,HBASE呢基于大数据可以做到实时的数据查询。一个主分析,

另一个主查询

第七阶段:实时数据采集

难易程序:四颗星

课时量(技术知识点+阶段项目任务+综合能力):96课时

主要技术包括:Flume日志采集,KAFKA入门(消息队列、应用场景、集群搭建)、KAFKA详解(分区、主题、接受者、发送者、与ZOOKEEPER集成、Shell开发、Shell调试)、KAFKA高级使用(java开发、主要配置、优化项目)、数据可视化(图形与图表介绍、CHARTS工具分类、柱状图与饼图、3D图与地图)、STORM入门(设计思想、应用场景、处理过程、集群安装)、STROM开发(STROM MVN开发、编写STORM本地程序)、STORM进阶(java开发、主要配置、优化项目)、KAFKA异步发送与批量发送时效,KAFKA全局消息有序,STORM多并发优化

描述如下:

前面的阶段数据来源是基于已经存在的大规模数据集来做的,数据处理与分析过后

的结果是存在一定延时的,通常处理的数据为前一天的数据。

举例场景:网站防盗链,客户账户异常,实时征信,遇到这些场景基于前一天的数

据分析出来过后呢?是否太晚了。所以在本阶段中我们引入了实时的数据采集与分

析。主要包括了:FLUME实时数据采集,采集的来源支持非常广泛,KAFKA数据

数据接收与发送,STORM实时数据处理,数据处理秒级别

第八阶段:SPARK数据分析

难易程序:五颗星

课时量(技术知识点+阶段项目任务+综合能力):88课时

主要技术包括:SCALA入门(数据类型、运算符、控制语句、基础函数)、SCALA进阶(数据结构、类、对象、特质、模式匹配、正则表达式)、SCALA高级使用(高阶函数、科里函数、偏函数、尾迭代、自带高阶函数等)、SPARK入门(环境搭建、基础结构、运行模式)、Spark数据集与编程模型、SPARK

SQL、SPARK 进阶(DATA FRAME、DATASET、SPARK STREAMING原理、SPARK STREAMING支持源、集成KAFKA与SOCKET、编程模型)、SPARK高级编程(Spark-GraphX、Spark-Mllib机器学习)、SPARK高级应用(系统架构、主要配置和性能优化、故障与阶段恢复)、SPARK  ML KMEANS算法,SCALA 隐式转化高级特性

描述如下:

同样先说前面的阶段,主要是第一阶段。HADOOP呢在分析速度上基于MR的大规模数据集相对来说还是挺慢的,包括机器学习,人工智能等。而且不适合做迭代计算。SPARK呢在分析上是作为MR的替代产品,怎么替代呢? 先说他们的运行机制,HADOOP基于磁盘存储分析,而SPARK基于内存分析。我这么说你可能不懂,再形象一点,就像你要坐火车从北京到上海,MR就是绿皮火车,而SPARK是高铁或者磁悬浮。而SPARK呢是基于SCALA语言开发的,当然对SCALA支持最好,所以课程中先学习SCALA开发语言。什么?又要学另外一种开发语言?不不不!!!我只说一句话:SCALA是基于JAVA做的。

总结:在课程的设计方面,市面上的职位要求技术,基本全覆盖。而且并不是单纯的为了覆盖职位要求,而是本身课程从前到后就是一个完整的大数据项目流程,一环扣一环。

比如从历史数据的存储,分析(HADOOP,HIVE,HBASE),到实时的数据存储(FLUME,KAFKA),分析(STORM,SPARK),这些在真实的项目中都是相互依赖存在的。

©著作权归作者所有,转载或内容合作请联系作者
  • 序言:七十年代末,一起剥皮案震惊了整个滨河市,随后出现的几起案子,更是在滨河造成了极大的恐慌,老刑警刘岩,带你破解...
    沈念sama阅读 203,772评论 6 477
  • 序言:滨河连续发生了三起死亡事件,死亡现场离奇诡异,居然都是意外死亡,警方通过查阅死者的电脑和手机,发现死者居然都...
    沈念sama阅读 85,458评论 2 381
  • 文/潘晓璐 我一进店门,熙熙楼的掌柜王于贵愁眉苦脸地迎上来,“玉大人,你说我怎么就摊上这事。” “怎么了?”我有些...
    开封第一讲书人阅读 150,610评论 0 337
  • 文/不坏的土叔 我叫张陵,是天一观的道长。 经常有香客问我,道长,这世上最难降的妖魔是什么? 我笑而不...
    开封第一讲书人阅读 54,640评论 1 276
  • 正文 为了忘掉前任,我火速办了婚礼,结果婚礼上,老公的妹妹穿的比我还像新娘。我一直安慰自己,他们只是感情好,可当我...
    茶点故事阅读 63,657评论 5 365
  • 文/花漫 我一把揭开白布。 她就那样静静地躺着,像睡着了一般。 火红的嫁衣衬着肌肤如雪。 梳的纹丝不乱的头发上,一...
    开封第一讲书人阅读 48,590评论 1 281
  • 那天,我揣着相机与录音,去河边找鬼。 笑死,一个胖子当着我的面吹牛,可吹牛的内容都是我干的。 我是一名探鬼主播,决...
    沈念sama阅读 37,962评论 3 395
  • 文/苍兰香墨 我猛地睁开眼,长吁一口气:“原来是场噩梦啊……” “哼!你这毒妇竟也来了?” 一声冷哼从身侧响起,我...
    开封第一讲书人阅读 36,631评论 0 258
  • 序言:老挝万荣一对情侣失踪,失踪者是张志新(化名)和其女友刘颖,没想到半个月后,有当地人在树林里发现了一具尸体,经...
    沈念sama阅读 40,870评论 1 297
  • 正文 独居荒郊野岭守林人离奇死亡,尸身上长有42处带血的脓包…… 初始之章·张勋 以下内容为张勋视角 年9月15日...
    茶点故事阅读 35,611评论 2 321
  • 正文 我和宋清朗相恋三年,在试婚纱的时候发现自己被绿了。 大学时的朋友给我发了我未婚夫和他白月光在一起吃饭的照片。...
    茶点故事阅读 37,704评论 1 329
  • 序言:一个原本活蹦乱跳的男人离奇死亡,死状恐怖,灵堂内的尸体忽然破棺而出,到底是诈尸还是另有隐情,我是刑警宁泽,带...
    沈念sama阅读 33,386评论 4 319
  • 正文 年R本政府宣布,位于F岛的核电站,受9级特大地震影响,放射性物质发生泄漏。R本人自食恶果不足惜,却给世界环境...
    茶点故事阅读 38,969评论 3 307
  • 文/蒙蒙 一、第九天 我趴在偏房一处隐蔽的房顶上张望。 院中可真热闹,春花似锦、人声如沸。这庄子的主人今日做“春日...
    开封第一讲书人阅读 29,944评论 0 19
  • 文/苍兰香墨 我抬头看了看天上的太阳。三九已至,却和暖如春,着一层夹袄步出监牢的瞬间,已是汗流浃背。 一阵脚步声响...
    开封第一讲书人阅读 31,179评论 1 260
  • 我被黑心中介骗来泰国打工, 没想到刚下飞机就差点儿被人妖公主榨干…… 1. 我叫王不留,地道东北人。 一个月前我还...
    沈念sama阅读 44,742评论 2 349
  • 正文 我出身青楼,却偏偏与公主长得像,于是被迫代替她去往敌国和亲。 传闻我的和亲对象是个残疾皇子,可洞房花烛夜当晚...
    茶点故事阅读 42,440评论 2 342

推荐阅读更多精彩内容