学习笔记 Hadoop是什么?

开发 架构 Hadoop
Hadoop是什么,对于这个问题答案或许有不少人不知道,这里就像大家介绍一下什么是Hadoop,希望通过本文的介绍大家对Hadoop有清晰的认识。

本节和大家一起学习一下Hadoop,主要介绍一下Hadoop的概念以及它的特点,欢迎大家一起来学习Hadoop的知识。

1.Hadoop是什么
Hadoop原来是ApacheLucene下的一个子项目,它最初是从Nutch项目中分离出来的专门负责分布式存储以及分布式运算的项目。简单地说来,Hadoop是一个可以更容易开发和运行处理大规模数据的软件平台。

2.下面列举hadoop主要的一些特点:

1扩容能力(Scalable):能可靠地(reliably)存储和处理千兆字节(PB)数据。

2成本低(Economical):可以通过普通机器组成的服务器群来分发以及处理数据。这些服务器群总计可达数千个节点。

3高效率(Efficient):通过分发数据,hadoop可以在数据所在的节点上并行地(parallel)处理它们,这使得处理非常的快速。

4可靠性(Reliable):hadoop能自动地维护数据的多份复制,并且在任务失败后能自动地重新部署(redeploy)计算任务。

3.Hadoop实现了一个分布式文件系统(HadoopDistributedFileSystem),简称HDFS。

HDFS有着高容错性(fault-tolerent)的特点,并且设计用来部署在低廉的(low-cost)硬件上。而且它提供高传输率(highthroughput)来访问应用程序的数据,适合那些有着超大数据集(largedataset)的应用程序。HDFS放宽了(relax)POSIX的要求(requirements)这样可以流的形式访问(streamingaccess)文件系统中的数据。

4.Hadoop还实现了MapReduce分布式计算模型。

MapReduce将应用程序的工作分解成很多小的工作小块(smallblocksofwork)。HDFS为了做到可靠性(reliability)创建了多份数据块(datablocks)的复制(replicas),并将它们放置在服务器群的计算节点中(computenodes),MapReduce就可以在它们所在的节点上处理这些数据了。

如下图所示:

5.HadoopAPI被分成(divideinto)如下几种主要的包(package)

org.apache.hadoop.conf定义了系统参数的配置文件处理API。

org.apache.hadoop.fs定义了抽象的文件系统API。

org.apache.hadoop.dfsHadoop分布式文件系统(HDFS)模块的实现。

org.apache.hadoop.io定义了通用的I/OAPI,用于针对网络,数据库,文件等数据对象做读写操作。

org.apache.hadoop.ipc用于网络服务端和客户端的工具,封装了网络异步I/O的基础模块。

org.apache.hadoop.mapredHadoop分布式计算系统(MapReduce)模块的实现,包括任务的分发调度等。

org.apache.hadoop.metrics定义了用于性能统计信息的API,主要用于mapred和dfs模块。

org.apache.hadoop.record定义了针对记录的I/OAPI类以及一个记录描述语言翻译器,用于简化将记录序列化成语言中性的格式(language-neutralmanner)。

org.apache.hadoop.tools定义了一些通用的工具。

org.apache.hadoop.util定义了一些公用的API。

【编辑推荐】

  1. Hadoop安装部署简明步骤详解
  2. Hadoop执行路径深入剖析
  3. Hadoop集群与Hadoop性能优化
  4. Hadoop 从Yahoo向Google的技术转折
  5. Hadoop入门专家引导

 

 

责任编辑:佚名 来源: csdn.net
相关推荐

2012-07-03 16:56:12

Hadoop

2011-08-30 16:26:34

Hadoop

2013-05-10 14:37:37

2010-06-03 11:12:55

Hadoop

2010-06-04 18:17:50

Hadoop集群

2019-08-09 16:01:18

Hadoop数据库

2015-08-03 10:20:39

大数据Hadoop

2015-08-03 15:48:42

Hadoop大数据

2018-08-02 15:24:05

RPCJava微服务

2009-06-15 09:00:39

2010-06-07 16:34:07

Hadoop0.20.

2021-08-12 10:35:15

模型优化路线

2015-08-19 14:43:19

pighadoop

2017-03-21 23:29:44

DevOps运维开发

2021-02-17 00:30:41

机器学习深度学习人工智能

2018-09-30 15:55:56

2019-10-15 10:01:43

机器学习正则化人工智能

2017-03-01 21:15:44

AI机器学习深度学习

2022-03-28 13:14:19

机器学习深度学习

2021-09-09 15:09:56

HadoopSparkHive
点赞
收藏

51CTO技术栈公众号