作为IT类职业中的“大熊猫”,大数据工程师这个职业在国内人才市场可谓是一颗闪耀的新星。由于刚刚出于萌芽阶段,这个领域出现很大的人才缺口。随着大数据的爆发,中国IT业内环境也将面临新一轮的洗牌,不仅是企业,更是从业人员转型可遇而不可求的机遇。如果将IT人士统一比作一条船上的海员,大数据就是最大的浪潮,借浪潮之势而为之,可成功从IT程序员转型成为大数据专家。
大数据之爱绝非偶然
1、技术日渐成熟,应用空间得以拓展
大数据技术,最早于1980年被首次提及,却在近几年才获得突飞猛进的发展。相较于几十年前神经网络算法捉襟见肘的计算能力,如今处理器对大规模数据的高速处理能力无疑发挥了关键性的作用。借助于处理器的高性能,使我们短时间内完成PB 级数据的机器学习和模型训练成为可能,由此为高度依赖深度学习的图像、语音识别产品的快速迭代奠定基础,大数据应用空间得以拓展,也由此催生了提供相关产品与服务的技术公司。
2、重视数据资产,数据挖掘已成必然
现代信息技术使每日产生的数据量呈指数级增长,企业发展再也无法回避对数据价值的挖掘与利用。电商平台利用画像做个性化推荐,互联网金融公司利用高危识别技术管控金融风险,滴滴出行利用交易数据通过实时定价优化利润……这些都是对大数据价值的发掘和利用。随着数据资产意识的加强,数据挖掘也将获得越来越多结合具体行业场景的重视。
3、技术催生业务新模式,蕴含创业新契机
大数据产业链,催生出针对不同版块提供产品和服务的业务组合新模式,无论是利用推荐算法做内容服务的今日头条,还是基于数据整合提供监测服务的 TalkingData,或者是提供底层架构支持的阿里云,无不是发觉了大数据产业链条所蕴含的创业先机。
大数据创业,时至今日热度不减,虽难出BAT那样巨头独大的局面,其提供的相对公平的竞争机会,依然在吸引着新的创业公司加入。
4、市场供不应求,岗位挑战空间大
翻看大数据相关招聘岗位,一方面是供不应求的招聘局面,另一方面是腾讯、华为等大牌互联网公司开出的诱惑薪资,都让普通岗位的程序员跃跃欲试。
再加上这些岗位相比于传统的软件工程,有更高的挑战空间和更大的难度,自然引得更多人才进入到这个领域。
大数据相关岗位有哪些
1、偏技术的“算法工程师”
利用算法手段,构建机器学习模型,解决诸如“人脸识别”、“支付风险管控”等高难度问题。它往往既需要工程师在具体问题上有足够的专注力,也需要对相关的算法有足够深度的了解。
2、偏业务的“数据挖掘工程师”
结合计算机知识,重点攻克复杂业务的算法化和模型化难题。与算法工程师的要求不同,它往往不需要工程师在算法上探索得足够深入,却对知识的广度和技能的交叉度有较高的要求,还需要工程师具备相当和快速的业务理解能力。当然了,对数据的高敏感性也必不可少。
技术Leader最想要什么样的人
1、最好,你是个独当一面的全才
基础条件:扎实的计算机基础、逻辑能力、英文等素质
保障条件:聪明、学习能力强
加分条件:大规模集群开发经验;上层数据应用优化经历;熟悉聚类、分类、推荐、
NLP、神经网络等常见算法;会数据处理,还熟悉聚类、分类、推荐、NLP、神经网络等各种常见算法……
2、退而求其次,有配合团队的长板优势
全才难得,退而求其次,针对不同岗位吸收具有不同特长的人才,以追求团队整体配合的平衡,也不失为一个策略。
计算机视觉领域的大数据公司,往往需要自己的团队中同时具备如下特长的成员。比如精通算法的人才:把图像识别相关算法模型调整到极致;工程实力型人才:高性能实现训练好的算法模型,或者帮团队搭建一整套视频图像数据采集、标注、机器学习、自动化测试、产品实现的平台。
即便同一算法工程团队内部,成员的技能侧重点也要合理搭配,以互为补充。比如,有人专注核心算法研究,就要有人擅长业务分析,专注业务算法模型的实现。
因此,对于想转型大数据的普通程序猿来说,梳理清楚自己现有技能对于新团队的价值非常重要,这是促使新团队决定吸收自己的关键。比如,发挥硬件和底层系统工作经历在算法高速实现上的优势,一旦通过自身擅长的技能切入新团队之后,就有了更多横向发展的机会,帮助自己在大数据相关领域建立更强竞争力。
3、请输入标题相较当前技能水平,扎实的基础和成长空间更被看重
当前技能水平好比是术,而扎实的计算机基础则处于道的层面,诸如Spark等工具性知识通过后期学习便能轻易掌握,而如果缺少了C++/Java基础想进步却绝非易事。比如,如果算法、数据结构比较强,编程语言上对 C++ 理解较深入,在应用层的学习上,就可能会比其他人快很多。
有人将程序猿能力抽象为一个金字塔模型,虽然对计算机语言的精通是每个工程师都注重的能力,但越基础的素养越蕴含了更多的发展潜力。相比单纯苛责当前技能,能利用基础素养胜任一部分基础工作,然后通过1-2年锻炼接受更复杂问题的程序猿,反而更受企业青睐。
TalkingData 大数据招聘负责人曾直言道,相比于对 Spark 了解更多的人,他们更愿意招收那些 Java 学得好的人。因为 Spark 的接口学习起来相对容易,但是要想精通 Java 是一件很难的事情。如果把 Java 或者 C++ 学透了,那么对计算机技术的认识将很不一样。
如何转型为大数据工程师?
那么,程序员如何转型成为优秀的大数据工程师呢?主要是从两者所要求的能力上来分析。
面对海量的非结构化数据,你要从中挖掘出有价值的东西,需要设计算法与编写程序去实现,而程序员最牛的能力就是编写简洁高效的代码,去实现人们许许多多美妙的梦想,编码能力越强的程序员越有可能成为优秀的大数据工程师。
其次,大数据工程师需要统计学与应用数学相关的能力背景,数据挖掘与分析是需要设计数据模型和算法的,应该说程序员是有这个基础的,我见过最牛逼的程序员一般都不是科班出来的,通常是数学专业,因此提高算法设计能力是程序员转型大数据工程师的关键因素。
第三,大数据工程师需要具备某一行业的业务知识,大数据的挖掘与分析最终都要服务于市场,并对产品的销售与企业的发展起到重大推动作用,那才是有价值的大数据分析,因此大数据是不能脱离市场的,它必须与某一行业的应用想结合起来才容易产生更大的价值,通常程序员都是在做某一行业的软件,经过多年的学习与磨练,对某一行业的业务知识是有积累的,因此从来这一点上来看,程序员是很容易过渡到大数据工程师的。
当然,以上都只是粗略的分析,真正要成为一名优秀的大数据工程师,程序员还需要更多的学习与努力。
DT时代来得太突然了,国内发展势头很猛,而大数据相关的人才却非常地有限,在未来若干年内都会是供不应求的状况,指望大学培养出合格的大数据人才有如天方夜谭,因此程序员们,你们的春天到了!