随着互联网的发展,大数据、云计算等名词也进入我们的生活的方方面面,那么什么是大数据?什么又是云计算?下面给大家讲解大数据是什么。以下是小编为你整理的怎样学习大数据
大数据是什么?
就字面意思理解就是大量的数据的意思;深入理解大数据是对信息资源和数据的集合,利用这些数据和信息资源分析出有用的资源,这就是大数据。
容量
大数据作为信息的集合,它包含了很多潜在的信息,以及各个不同行业的信息,这些信息就是大数据的容量和价值。
种类
大数据的种类有很多,因为它是一个信息的合集,因此它包含多种类别的分析。
可变性
大数据不是一成不变的,随着时间和空间的变化,大数据也会跟着变化。
复杂性
由于大数数量巨大,来源的渠道有很多,因此它表现出很强的复杂性。
价值
利用大数据可以分析和反映一个行业或者一个市场的一些规律,抓住这些规律,就可以产生价值。
大数据的用途
大数据可分成大数据技术、大数据工程、大数据科学和大数据应用等领域。目前人们谈论最多的是大数据技术和大数据应用。工程和科学问题尚未被重视。大数据工程指大数据的规划建设运营管理的系统工程;大数据科学关注大数据网络发展和运营过程中发现和验证大数据的规律及其与自然和社会活动之间的关系。
物联网、云计算、移动互联网、车联网、手机、平板电脑、PC以及遍布地球各个角落的各种各样的传感器,无一不是数据来源或者承载的方式。
有些例子包括网络日志,RFID,传感器网络,社会网络,社会数据(由于数据革命的社会),互联网文本和文件;互联网搜索索引;呼叫详细记录,天文学,大气科学,基因组学,生物地球化学,生物,和其他复杂和/或跨*的科研,军事侦察,医疗记录;摄影档案馆视频档案;和大规模的电子商务 。
Hadoop
这是现在流行的大数据处理平台几乎已经成为大数据的代名词,所以这个是必学的。Hadoop里面包括几个组件HDFS、MapReduce和YARN,HDFS是存储数据的地方就像我们电脑的硬盘一样文件都存储在这个上面,MapReduce是对数据进行处理计算的,它有个特点就是不管多大的数据只要给它时间它就能把数据跑完,但是时间可能不是很快所以它叫数据的批处理。
YARN是体现Hadoop平台概念的重要组件有了它大数据生态体系的其它软件就能在hadoop上运行了,这样就能更好的利用HDFS大存储的优势和节省更多的资源比如我们就不用再单独建一个spark的集群了,让它直接跑在现有的hadoop yarn上面就可以了。其实把Hadoop的这些组件学明白你就能做大数据的处理了,只不过你现在还可能对"大数据"到底有多大还没有个太清楚的概念,听我的别纠结这个。
等以后你工作了就会有很多场景遇到几十T/几百T大规模的数据,到时候你就不会觉得数据大真好,越大越有你头疼的。当然别怕处理这么大规模的数据,因为这是你的价值所在,让那些个搞Javaee的php的html5的和DBA的羡慕去吧。
学了大数据能做啥
故障率分析
服务器故障分析对服务器的各个部件的故障率都做了分析和监控,包括
生成月度故障率报表;
故障率异常的实时监控和自动告警;
分析外部条件与故障率的关系;
与OS的软件告警信息联动起来,及时发现服务器的亚健康状态。
服务器硬件最近几周的故障率统计信息。按部件给出各个机型的故障率情况,及时发现批次性故障并给出告警
环境监控
如果能把机房环境温度有效的监控起来,我们就能在发现异常时发出高温告警,提前采取措施。对服务器入风口温度进行采集和监控是一个较为有效的方案。
下图显示服务器入风口温度变化的异常情况,经过数据的规整和误差修正,产生了高温告警。通过自动化流程,及时知会到机房现场负责人。