导航菜单
首页 >  » 正文

自学大数据该怎么入手 学习大数据需要哪些基础

自学大数据该怎么入手?

想要自学大数据,知道如何下手的小伙伴有福利了,本文专门为你准备的学习计划,这些技术知识梳理、其中的定义、关系以及作用,对你以后的学习会有很大的帮助!

大数据本质也是数据,但是又有了新的特征,包括数据来源广、数据格式多样化(结构化数据、非结构化数据、Excel文件、文本文件等)、数据量大(最少也是TB级别的、甚至可能是PB级别)、数据增长速度快等。
针对大数据主要的4个特征我们需要考虑以下问题:
数据来源广,该如何采集汇总?,对应出现了Sqoop,Cammel,Datax等工具。
数据采集之后,该如何存储?,对应出现了GFS,HDFS,TFS等分布式文件存储系统。
由于数据增长速度快,数据存储就必须可以水平扩展。
数据存储之后,该如何通过运算快速转化成一致的格式,该如何快速运算出自己想要的结果?
对应的MapReduce这样的分布式运算框架解决了这个问题;但是写MapReduce需要Java代码量很大,所以出现了Hive,Pig等将SQL转化成MapReduce的解析引擎;
普通的MapReduce处理数据只能一批一批地处理,时间延迟太长,为了实现每输入一条数据就能得到结果,于是出现了Storm/JStorm这样的低时延的流式计算框架;
但是如果同时需要批处理和流处理,按照如上就得搭两个集群,Hadoop集群(包括HDFS MapReduce Yarn)和Storm集群,不易于管理,所以出现了Spark这样的一站式的计算框架,既可以进行批处理,又可以进行流处理(实质上是微批处理)。
而后Lambda架构,Kappa架构的出现,又提供了一种业务处理的通用架构。
为了提高工作效率,加快运速度,出现了一些辅助工具:
Ozzie,azkaban:定时任务调度的工具。
Hue,Zepplin:图形化任务执行管理,结果查看工具。
Scala语言:编写Spark程序的最佳语言,当然也可以选择用Python。
Python语言:编写一些脚本时会用到。
Allluxio,Kylin等:通过对存储的数据进行预处理,加快运算速度的工具。
以上大致就把整个大数据生态里面用到的工具所解决的问题列举了一遍,知道了他们为什么而出现或者说出现是为了解决什么问题,进行学习的时候就有的放矢了。

学习大数据需要哪些基础

一般需要了解一些算法基础,还需要有一定的语言基础,最好是JAVA语言的基础.

不过这些基础还是需要建立在你勤奋学习上的,不是有了这些基础你就能学好.

所以你想学一门东西的时候,持之以恒才是最重要的.

大数据分析应该掌握哪些基础知识?

随着互联网行业的不断发展。很多人想要从事互联网方面的工作,现在非常流行的就是大数据,你了解大数据是做什么的吗?学习大数据需要掌握哪些知识?大数据在未来有很大的发展机会,每个岗位需要具备的能力是不同的。下面小编为大家介绍学习大数据需要掌握的知识。

大数据业务流程有四个基本步骤,即业务理解,数据准备,数据挖掘和分析应用程序。该过程分为三个功能区:大数据系统开发,整个操作系统的构建和维护,数据准备,平台和工具开发。大数据挖掘,负责关键模型应用和研究工作。大数据分析应用程序:两者都是外部需求的访问者也是解决方案的输出,并且在许多情况下还将承担整体协调的作用。

大数据提取转换和加载过程(ETL)是大数据的重要处理环节。提取是从业务数据库中提取数据。转换是根据业务逻辑规则处理数据的过程。负载是将数据加载到数据仓库的过程中。

数据提取工具实现了db到hdfs的数据导入功能,并提供了高效的分布式并行处理能力。可以使用数据库分区,字段分区和基于分页的并行批处理将db数据提取到hdfs文件系统中,从而可以有效地按字段解析分区数据。

数据收集可以是历史数据采集或实时数据采集。它可以收集存储在数据库中的结构化数据,或收集非结构化数据,如文本,图片,图像,音频,视频等。结构变化较大的半结构化数据,可以在数据后直接存储在流量状态分析平台上收集完成。

0基础可以学大数据吗

0基础是可以学习大数据的,不过大数据学习有一定难度,要做好心理准备。
其次是学习大数据最好学历在大专及以上,不然学起来可能更困难,而且就算报班学习也需要半年左右的时间(我们是全日制安排上课,这样也需要半年),时间上相对其他类型的稍长,你要做好准备。
要学习大数据,你至少应该知道大数据是什么,大数据将被用在什么领域。通过对大数据的一般理解,你可以了解你是否对大数据感兴趣。如果你对大数据一无所知,你也可以学习,但学着学着你有可能不喜欢它了,这是浪费时间和精力,还可能是浪费金钱。所以,如果你想学习大数据,你需要对大数据有一个全面的了解。

相关推荐: