当前位置:首页 > 数码 >

hadoop 能做什么(hadoop可以用来干嘛的)

来源:原点资讯(www.yd166.com)时间:2024-06-27 02:41:48作者:YD166手机阅读>>

一、 Hadoop的发展史

hadoop 能做什么,hadoop可以用来干嘛的(1)

说到Hadoop的起源,不得不说到一个传奇的IT公司—全球IT技术的引领者Google。Google(自称)为云计算概念的提出者,在自身多年的搜索引擎业务中构建了突破性的GFS(Google File System),从此文件系统进入分布式时代。除此之外,Google在GFS上如何快速分析和处理数据方面开创了MapReduce并行计算框架,让以往的高端服务器计算变为廉价的x86集群计算,也让许多互联网公司能够从IOE(IBM小型机、Oracle数据库以及EMC存储)中解脱出来,例如:淘宝早就开始了去IOE化的道路。然而,Google之所以伟大就在于独享技术不如共享技术,在2002-2004年间以三大论文的发布向世界推送了其云计算的核心组成部分GFS、MapReduce以及BigTable。Google虽然没有将其核心技术开源,但是这三篇论文已经向开源社区的大牛们指明了方向,一位大牛:Doug Cutting使用Java语言对Google的云计算核心技术(主要是GFS和MapReduce)做了开源的实现。后来,Apache基金会整合Doug Cutting以及其他IT公司(如Facebook等)的贡献成果,开发并推出了Hadoop生态系统。Hadoop是一个搭建在廉价PC上的分布式集群系统架构,它具有高可用性、高容错性和高可扩展性等优点。由于它提供了一个开放式的平台,用户可以在完全不了解底层实现细节的情形下,开发适合自身应用的分布式程序.

二、 hadoop的整体框架

Hadoop由HDFS、MapReduce、HBase、Hive和ZooKeeper等成员组成,其中最基础最重要的两种组成元素为底层用于存储集群中所有存储节点文件的文件系统HDFS(Hadoop Distributed File System)和上层用来执行MapReduce程序的MapReduce引擎。

hadoop 能做什么,hadoop可以用来干嘛的(2)

三、 •Pig是一个基于Hadoop的大规模数据分析平台,Pig为复杂的海量数据并行计算提供了一个简易的操作和编程接Hadoop的整体框架

Hadoop由HDFS、MapReduce、HBase、Hive和ZooKeeper等成员组成,其中最基础最重要的两种组成元素为底层用于存储集群中所有存储节点文件的文件系统HDFS(Hadoop Distributed File System)和上层用来执行MapReduce程序的MapReduce引擎。

Chukwa是基于Hadoop的集群监控系统,由yahoo贡献

hive是基于Hadoop的一个工具,提供完整的sql查询功能,可以将sql语句转换为MapReduce任务进行运行

ZooKeeper:高效的,可扩展的协调系统,存储和协调关键共享状态

HBase是一个开源的,基于列存储模型的分布式数据库

HDFS是一个分布式文件系统。有着高容错性的特点,并且设计用来部署在低廉的硬件上,适合那些有着超大数据集的应用程序

MapReduce是一种编程模型,用于大规模数据集(大于1TB)的并行运算

下图是一个典型的Hadoop试验集群的部署结构。

hadoop 能做什么,hadoop可以用来干嘛的(3)

Hadoop各组件之间是如何依赖共存的呢?下图为你展示:

hadoop 能做什么,hadoop可以用来干嘛的(4)

栏目热文

hadoop是用什么开发的(hadoop是开发什么需求的)

hadoop是用什么开发的(hadoop是开发什么需求的)

数据产品经理的工作描述中,“了解Hadoop”是一个高频出现的内容。大多数产品经理并没有直接与hadoop打交道的经验,...

2024-06-27 02:31:27查看全文 >>

hadoop开发主要做什么(hadoop主要在什么领域应用)

hadoop开发主要做什么(hadoop主要在什么领域应用)

Hadoop是一个由Apache软件基金会开发的开源分布式计算框架,主要用于处理和分析大数据。Hadoop的核心组件HD...

2024-06-27 02:43:20查看全文 >>

用hadoop做一个什么东西(hadoop具体会在哪些地方使用到)

用hadoop做一个什么东西(hadoop具体会在哪些地方使用到)

前言Hadoop在大数据技术体系中的地位至关重要,Hadoop是大数据技术的基础,对hadoop基础知识的掌握的扎实程度...

2024-06-27 02:13:55查看全文 >>

hadoop适合做什么(hadoop学了可以找什么工作)

hadoop适合做什么(hadoop学了可以找什么工作)

Hadoop核心介绍、集群结构、伪分布搭建方案 HDFS底层原理、分布式搭建实现方案 HDFS中datanode以及n...

2024-06-27 02:48:10查看全文 >>

什么牌子面膜好用补水美白效果好(什么品牌的面膜补水效果特别好)

什么牌子面膜好用补水美白效果好(什么品牌的面膜补水效果特别好)

要想美白补水快,毫无疑问就是用面膜,特别是贴片面膜效果会更好更快,因为贴片可以快速的让精华注入肌肤中,简直就和打美白针一...

2024-06-27 02:42:35查看全文 >>

经期可以吃什么东西最好呢(月经期多吃点儿什么东西好呢)

经期可以吃什么东西最好呢(月经期多吃点儿什么东西好呢)

“毒五月”到了,也就是农历的五月,民间也有:“五月到,五毒出;五毒醒,不安宁”的说法,五月在民间也被称为“毒五月”,五月...

2024-06-27 02:44:14查看全文 >>

经期来了适合吃什么水果(经期吃什么水果会好得快)

经期来了适合吃什么水果(经期吃什么水果会好得快)

广西美容养颜培训、美容护肤贴士分享:女生们总会有一个不离不弃的朋友,它每个月都会准时到来。都说好朋友总喜欢一起吃香喝辣的...

2024-06-27 02:20:33查看全文 >>

公司可以打开个人的档案吗(公司可以打开个人档案吗如何激活)

公司可以打开个人的档案吗(公司可以打开个人档案吗如何激活)

一些毕业生在入职的时候,遇到单位需要审核个人档案的事情,会有些担心。毕竟自己的档案里具体写了什么,自己并不是全部都知道。...

2024-06-27 02:33:21查看全文 >>

成人教育档案在自己手里怎么办(成人教育档案在自己手里十年了)

成人教育档案在自己手里怎么办(成人教育档案在自己手里十年了)

成人教育毕业后学校会把档案发给个人,让学生自己去存档。很多成教毕业生去人才中心存档,结果人才中心的工作人员不收。那么,遇...

2024-06-27 02:15:49查看全文 >>

个人档案自己能去存放么(个人档案一般不会存放在个人手中)

个人档案自己能去存放么(个人档案一般不会存放在个人手中)

我们国家对于存档是有严格的规定的,根据国家《档案法》的规定:档案是不可以个人保存的,档案是具有保密性质的,不允许私人或者...

2024-06-27 02:41:43查看全文 >>

文档排行