‘壹’ 要成为一名大数据开发工程师必备哪些技能
想要学习大数据开发,第一件事并不是要找书籍或者是找视频教程,而是要了解一下大数据行业前景,了解一下成为大数据工程师需要具备什么样的能力,掌握哪些技能我当初学习大数据之前也有过这样的问题,作为一个过来人,今天就跟大家聊下大数据人才应该具备的技能。
首先我们要知道对于大数据开发工程师需要具备的技能,下面我们分别来说明:
用人单位对于大数据开发人才的能力要求有
技能要求:
1.精通JAVA开发语言,同时熟悉Python、Scala开发语言者优先;
2.熟悉Spark或Hadoop生态圈技术,具有源码阅读及二次开发工作经验;精通Hadoop生态及高性能缓存相关的各种工具,有源码开发实战经验者优先;
3.熟练使用SQL,熟悉数据库原理,熟悉至少一种主流关系型数据库;熟悉Linux操作系统,熟练使用常用命令,熟练使用shell脚本;熟悉ETL开发,能熟练至少一种ETL(talend、kettle、ogg等)转化开源工具者优先;
4.具有清晰的系统思维逻辑,对解决行业实际问题有浓厚兴趣,具备良好的沟通协调能力及学习能力。
以上就是想要成为大数据人才需要具备的技能
那么如何具备这些能力,怎么学习了,对于大多数人来说,目前只有通过参加大数据的学习,才能够系统的掌握以上的大数据技能,从而胜任大数据工程师的工作。
‘贰’ 在公司里,数据分析师是如何帮助公司创收的
这两年数据分析、数据挖掘概念很流行,各路教育机构,开课的老师喜欢拿美国XX信用卡公司或者啤酒与尿布这种陈年老梗来论证数据分析有啥价值。可真正在圈子里干久了就知道,数据分析能帮助公司直接创收的途径只有一种:帮乙方公司创收!因为只有乙方公司才会把数据分析、数据挖掘、数据产品、数据咨询当作商品来卖。这样,做数据分析的就有三种方式可以帮公司创收:做产品。比如BI公司、大数据公司、舆情公司、征信公司,他们卖的是一整套数据产品。数据分析师在这些公司实际上扮演者产品生产者的角色,因此直接帮公司创收做服务。比如一些咨询公司、新媒体公司、大数据提供数据挖掘服务、提供数据采集、报告撰写服务。这些服务是针对甲方品牌、推广、营销等某个部门的需求,因此可以卖钱。在这里数据分析师实际上还是产品生产者,只是输出的不是一个具体的产品,而是由报告、excel、ppt、代码、会议等等组成的服务。做售前。相当多软件公司、咨询公司会拉一个数据分析师当售前,因为忽悠客户的时候,光空口白话说我这个方案怎么怎么好是没有竞争力的。需要一个懂数据会分析问题的人来做一个可量化的方案,让客户心服口服册悉。在这里数据分析师实际上扮演的是销售的角色,只是这个销售卖的是知识,打动客户靠的是专业性不是送回扣。所以你会发现,招数据分析高薪的基本都是乙方,或者甲方企业中的乙方部门(比如阿里数据银行、智能客服,虽然是阿里的项目但是还是此姿森作为乙方提供服务给其他公司的)因为在这里数据分析才是直接生产力。在甲方?在创收问题上,数据分析从来都是排在队尾。比如甲方爸爸要出一个新产品增加收入,那么他需要做什么呢?设计产品生产产品销售渠道品牌推广产品促销物流跟进数据分析看看效果怎样……是滴,大家会发现没有数据分析,其他六步照样可以做;只有数据分析没有前六步,数据分析就是一张废纸,这就是数据分析在甲方的尴尬之处。有些同学会说:那数据分析可以帮企业设计正确的产品哇!但实际上产品设计师不看数据照样可以设计产品,他们已经这样做了100多年了,也因此诞生了乔老爷那句经典的:我从来不看任何市场调查!这个尴尬之处是数据分析的工作方式本身固有的局限。数据分析需要有数据才能分析,这是一种相对后置的过程。而类似产品设计,核心是创意;产品销售,核心是业务队伍的能动力。这些人的能动性是前置的动作。企业的业绩是做出来的,不是算出来的,所以在创收上数据分析其实是很无力的。
只有一种场景数据分析可能对收入有用,就是:某个业务部门+B42实在做得太差,搞不掂了。这时候如果通过分析能提升一些效益,那他们简直happy的不能行。这也是为什么很多成熟的数据挖掘项目都是做给客服外呼、短信发送、EDM的。因为在这些地方自然转化率低的令人发指,而业务部门的文案、产品、广告又起不了太大作用。同时这些渠道又都是点对点推送的方式,数据积累和建模环境相对封闭。数据模型能把自然转化率从1%提升到2%,业务部门就已经谢天谢地了。
实际上,数据分析对企业有帮助,更多体现在后置性的,比如绩效评估,结果考核,成果优化上。有意思的是,很多从业者自己都没有想明白这一点,比如这个问题,帆软也有个答案,大家可以看看,里边举的例子全部是如何砍成本,而不是加收入。
然而,帆软的回答本身是很专业的。因为砍成本比增加收入,更容易体现数据分析的功劳。大家回顾上边新产品增加收入的过程,如果数据分析说这个业绩是我做出来的,至少有6个部门会和你抢功劳。但如果数据分析说这里有一个产品很垃圾可以砍掉,那么最多得罪一个部门(设计这个产品的部门)剩下5个部门还是支持你的(因为他们不需要浪费时间了)所以,聪明的数据分析总是从内控的角度入手证明价值,而不是从外部增收的角度入手。
然而,这样又出了第二个尴尬的地方,就是为毛线我要上个数据产品做这个呢?甚至为毛线我要雇个数据分析师做这个呢?因为进销存的数据ERP里也有,理论上我想知道哪个产品效益不好只要有一个会SQL的程序员从ERP里森亩跑个数就行了啊!所以如果只把数据分析的价值挂在内控上,那么数据分析的重要性和专业性就非常低了。各部门老板自己也会分析啊,你们跑sql的懂业务吗?不懂业务你内控个什么呢?
这时候就需要进一步的包装以体现数据分析的价值。最核心的就是上个产品!就像后宫嫔妃,年轻貌美的时候都会讨皇上一时欢心,但长久来看还是得生个孩子的。有个孩子自己的地位就稳固了。比如销售,完全可以用纸质账单,为什么要用pos系统?就是当pos系统上线,业务流跑起来以后,就没理由再让他停掉,孩子已经生出来了,就得养着。
数据分析的孩子常见的有这么几种:面向管理层的仪表盘,适用于信科学化管理这一套理论的老板面向业务部门的数据产品。可能是一个推荐系统,精准营销模型,也可以是一个业务助手,数据集市,总之是业务部门日常工作中必须用到的某个环节,把它打包,用数据包装起来,封装成一个产品面向一线的营销提醒工具,运营数据指南。让销售们每天都得看一眼,不看就不舒服。让运营们写文案前都得看看热度排行,不看心里没底。具体的就不展开了,如何引起老板关注,如何拉拢业务部门,如何让一线使用,写本书都够了。这么多年作咨询,见过大量甲乙方,凡是聪明的数据人,最终不约而同走了做内控→引起管理层重视→上产品→与业务部门合作→扩组织架构这一条路。而那些号称上个大数据系统能盈利XXX的,基本上都死无葬身之地。
这两年大数据、人工智能概念大火,数据分析岗位又像年轻貌美的嫔妃一样被各大企业老板们宠信,也有无数同学新涌进这个领域。所以特别诚恳的提醒大家:我们自己可以有很多方法、很多复杂的概念,然而最终企业是不是靠我们这个挣钱,才是我们长久安身立命的本钱。如果我们只是打辅助的,就尽早围绕一个具体业务场景,输出一个产品,和业务紧密结合起来,这样我们自己的地位才稳固。最后插一句,比如算法类岗位,大家要注意区分,因为算法即可以应用在生产系统(比如影相识别,物资调配,路线规划,过程控制),也可以应用在分析系统(比如推荐、预测、BI)如果是应用在生产系统,那地位相对稳固很多,因为生产线是不会彻底更替的,只会不断优化。但如果是应用在分析系统,那水分就大了去了,大家要认真看到底这个算法是干什么再做决断。早在2013年《大数据时代》流行的时候,就兴起了一波“大数据分析”的热潮。结果当时脑子一热向老板喊了:“我们可以利用大数据XXXX分析提升业绩的”现在估计坟头草都有我娃个子高了……作为一个前辈,有义务告诉大家这个行业的真相,数据的价值可以有很多种,不一定是直接增加收入。数据确实很有用,然而不代表老板们认可这个用处,不代表我们能从这里升官加薪。技术以外,如何创造价值,有可能需要代码和算法以外的其他东西辅助。与大家共勉。
‘叁’ 数据库开发工程师的职业发展
数据库开发工程师的人才来源可以分为2个方面:应届毕业生和社招。
1)应届毕业生:对于应届毕业生来说,要想成长为数据库开发工程师需要具备一些软件研发方面的技能,同时对数据库理论基础有一定了解,对于数据库管理系统有一些实践经验,再加上较好的主动性、工作认真细致、具有团队合作精神即可;
2)社招:社会招聘主要可以从软件研发和DBA两个方面来筛选人才。对于之前从事大型分布式软件系统研发的工程师,比较容易转型为数据库开发工程师,只需要熟悉一些数据库架构和理论基础即可。而对于DBA来说首信蔽,已经拥有大量的数据库运维经验,对于数据库研发工作非常有帮助,此时再需要掌握一定的代码编写能力和分布式计算的基础,即可转型成为数据库开发工程师。 数据库开发工程师的职业发展主要分为两条线:技术方向和管理方向。
1)技术方向:根据研究领域的不同,主要分为数据库架构师和数据库运维技术专家两个方向者州。 数据库架构师:熟练掌握各种数据库管理系统的架构和内部原理,能够根据实际业务需求,设计出不同的数据库应用系统架构,并在业务高速发展时,提供数据库模型设计的优化建议和解决方案 数据库运维技术专家:这个发展路线与高阶DBA的发展路线比较相似。当数据库开发工程师在跟进和解决数据库生产环境问题的过程中,积累了大量的运维经验,熟练掌握了大量先进的数据库运维技术,比如分布式部署、性能监控、弹性扩容等,可以成长为数据库运维技术专家,为各产品提供数据库架构设计和优化建议。 2)管理方向:从数据库开发工程师开始持续发展,积累了一定技术深度,并且通过与业务部门交互沟通锻炼坦段了较强的协调和推进能力,可以转型为管理岗位。管理岗位的常见发展路径包括经理、总监、CTO、CEO等,往往在小型创业公司管理岗位发展迅速,在中大型公司的发展速度相对较慢。 数据库开发工程师的常见职业发展路径如下图,供参考:
‘肆’ 数据开发好找工作吗
就目前市场大数据技术人才的就业情况来看,不是不好找工作,而是岗位需求多,大数据人才供不足,这就给不少企业带来了困难,因此也就出现了市场上高薪聘请大数据人才。这也让很多年轻人看到了未来大数据的就业前景,纷纷选择投入大数据的学习之中。因此“学了大数据好找工作吗?”这样的问题,就显得如此弱小了。
首先,据媒体统计,我国大数据人才极缺,空或指缺岗位大量存在,而缺口还将进一步扩大,大数据人才供给是大数据时代迫切需要解决的问题。这也就意味着,学好大数据技术,在大数据人才紧缺的现状下,找到一份好的工作,是很简单的事情。
其次,大数据职位薪酬可观。正因为人才的紧缺,大数据职位的薪酬会让很多人艳羡不已,上面已经提高了万达的年薪,而据权威机构统计,大数据相关或指职衫念配位比同等级的其他行业职位薪酬高20%。
再者,在互联网的技术行业,技术和项目经验应该是最为重要的高凯,想要得到高的薪资,高凯跟自身的努力是分割不开的。自身学艺不精的话,当然得不到企业的青睐,找到不工作也是正常的。大数据这个行业,经验技术是最为重要的,自己的技术过关才是硬道理。
由此看来,如果你想要找一份相对较好的大数据职位,就必须拥有过硬的技术。而市面上的大数据培训机构那么多,想要选择一家比较好的,则需要你看自身的需求,从同行业比较中,小编强烈推荐你选择千锋大数据培训。
就目前市场大数据技术人才的就业情况来看,不是不好找工作,而是岗位需求多,大数据人才供不足,这就给不少企业带来了困难,因此也就出现了市场上高薪聘请大数据人才。这也让很多年轻衫念配人看到了未来大数据的就业前景,纷纷选择投入大数据的学习之中。因此“学了大数据好找工作吗?”这样的问题,就显得如此弱小了。
‘伍’ 一个优秀的大数据开发工程师的日常是怎么样的
【导读】大数据相关工作岗位很多,有大数据分析师、大数据挖掘算法工程师、大数据研发工程师、数据产品经理、大数据可视化工程师、大数据爬虫工程师、大数据运营专员、大数据架构师、大数据专家、大数据总监、大数据研究员、大数据科学家等等。下面先主要总结归纳最常见、需求量最大、最普遍的4个岗位,其他的岗位以后逐步补充,也欢迎大家一起来补充和优化
‘陆’ 大数据工程师的职业发展前景如何
我们都知道,大数据现在是非常火热的,基本上是人尽皆知,很多人也都非常想加入这个行业,成为一名优秀合格的大数据工程师。从目前的情况来看,由于现今大市场环境下大数据人才匮乏,对于公司来说,很难招聘到合适的人才(既要有高学历,同时最好还有大规模数据处理经验),这也就为那些正在成为大数据工程师的朋友提供了一个很好的职业稀缺环境。那么大数据工程师的职业发展前景具体如何呢?
大数据工程师的前途还是很明朗的,成为大数据工程师如果有相关方面的经验的话还是比较简单的。目前长期从事数据库管理、挖掘、编程工作的人,包括传统的量化分析师方面的工程师,以及任何在工作中需要通过数据来进行判断决策的管理者,比如某些领域的运营经理等,都可以尝试该职位,而各个领域的达人只要学会运用数据,也可以成为大数据工程师。
大数据工程师在薪酬待遇也是很有优势的,可以说,大数据工程师在IT类职业中比较稀缺的,大数据工程师的收入待遇可以说达到了同类的顶级。根据颜莉萍的观察,国内IT、通讯、行业招聘中,有10%都是和大数据相关的,且比例还在上升。大数据时代的到来很突然,在国内发展势头激进,而人才却非常有限,现在完全是供不应求的状况。在美国,大数据工程师平均每年薪酬高达17.5万美元,而据了解,在国内顶尖互联网类公司,同一个级别大数据工程师的薪酬可能要比其他职位高很多。
在职业发展路径上,由于大数据人才数量较少,因此大多数公司的数据部门一般都是扁平化的层级模式,大致分为数据分析师、资深研究员、部门总监3个级别。大公司可能按照应用领域的维度来划分不同团队,而在小公司则需要身兼数职。这个职位的大部分人会往研究方向发展,成为重要数据战略人才。另一方面,大数据工程师对商业和产品的理解,并不亚于业务部门员工,因此也可转向产品部或市场部,乃至上升为公司的高级管理层。
关于大数据工程师的职业发展问题小编就为大家介绍这么多。可以看到,大数据工程师未来的发展前景还是非常美好的,并且薪资待遇也非常的好,这也是为什么这么多人争相加入到这一行业中的重要原因之一。如果大家心存志远的话,可以选择大数据工程师作为自己职业生涯的长远规划哦