Hadoop 学习总结 :HDFS概念及其用法

开发 架构 Hadoop
Hadoop相信大家应该有所了解,这里向大家介绍一下Hadoop 学习总结之一:HDFS方面的知识,希望通过本节的介绍大家对HDFS有初步的了解。

本节向大家描述一下Hadoop 学习总结中HDFS的内容,主要有HDFS概念和数据流两部分内容,欢迎大家一起来学习,相信通过本节的介绍大家对HDFS方面的知识有一定的认识。

Hadoop 学习总结之一:HDFS简介

一、HDFS的基本概念

1.1、数据块(block)
Hadoop 学习总结中HDFS(Hadoop Distributed File System)默认的最基本的存储单位是64M的数据块。
和普通文件系统相同的是,HDFS中的文件是被分成64M一块的数据块存储的。
不同于普通文件系统的是,HDFS中,如果一个文件小于一个数据块的大小,并不占用整个数据块存储空间。

1.2、元数据节点(Namenode)和数据节点(datanode)
元数据节点用来管理文件系统的命名空间
其将所有的文件和文件夹的元数据保存在一个文件系统树中。
这些信息也会在硬盘上保存成以下文件:命名空间镜像(namespace image)及修改日志(edit log)
其还保存了一个文件包括哪些数据块,分布在哪些数据节点上。然而这些信息并不存储在硬盘上,而是在系统启动的时候从数据节点收集而成的。
数据节点是文件系统中真正存储数据的地方。

客户端(client)或者元数据信息(namenode)可以向数据节点请求写入或者读出数据块。
其周期性的向元数据节点回报其存储的数据块信息。
从元数据节点(secondary namenode)
从元数据节点并不是元数据节点出现问题时候的备用节点,它和元数据节点负责不同的事情。
其主要功能就是周期性将元数据节点的命名空间镜像文件和修改日志合并,以防日志文件过大。这点在下面会相信叙述。
合并过后的命名空间镜像文件也在从元数据节点保存了一份,以防元数据节点失败的时候,可以恢复。

二、数据流(data flow)

2.1、读文件的过程

首先看一下Hadoop 学习总结中关于数据流读取文件过程介绍。客户端(client)用FileSystem的open()函数打开文件
DistributedFileSystem用RPC调用元数据节点,得到文件的数据块信息。
对于每一个数据块,元数据节点返回保存数据块的数据节点的地址。
DistributedFileSystem返回FSDataInputStream给客户端,用来读取数据。

客户端调用stream的read()函数开始读取数据。
DFSInputStream连接保存此文件第一个数据块的最近的数据节点。
Data从数据节点读到客户端(client)
当此数据块读取完毕时,DFSInputStream关闭和此数据节点的连接,然后连接此文件下一个数据块的最近的数据节点。
当客户端读取完毕数据的时候,调用FSDataInputStream的close函数。
在读取数据的过程中,如果客户端在与数据节点通信出现错误,则尝试连接包含此数据块的下一个数据节点。
失败的数据节点将被记录,以后不再连接。

2.2、写文件的过程

再来看一下Hadoop 学习总结中关于数据流写文件的过程。客户端调用create()来创建文件
istributedFileSystem用RPC调用元数据节点,在文件系统的命名空间中创建一个新的文件。
元数据节点首先确定文件原来不存在,并且客户端有创建文件的权限,然后创建新文件。
DistributedFileSystem返回DFSOutputStream,客户端用于写数据。

客户端开始写入数据,DFSOutputStream将数据分成块,写入data queue。
Data queue由Data Streamer读取,并通知元数据节点分配数据节点,用来存储数据块(每块默认复制3块)。分配的数据节点放在一个pipeline里。
Data Streamer将数据块写入pipeline中的第一个数据节点。第一个数据节点将数据块发送给第二个数据节点。第二个数据节点将数据发送给第三个数据节点。
DFSOutputStream为发出去的数据块保存了ack queue,等待pipeline中的数据节点告知数据已经写入成功。

如果数据节点在写入的过程中失败:
关闭pipeline,将ack queue中的数据块放入data queue的开始。
当前的数据块在已经写入的数据节点中被元数据节点赋予新的标示,则错误节点重启后能够察觉其数据块是过时的,会被删除。
失败的数据节点从pipeline中移除,另外的数据块则写入pipeline中的另外两个数据节点。
元数据节点则被通知此数据块是复制块数不足,将来会再创建第三份备份。
当客户端结束写入数据,则调用stream的close函数。此操作将所有的数据块写入pipeline中的数据节点,并等待ack queue返回成功。最后通知元数据节点写入完毕。本节关于Hadoop 学习总结中HDFS概念介绍完毕。
 

【编辑推荐】

  1. 实例讲解Hadoop用法
  2. 技术分享 Hadoop集群搭建方法
  3. Hadoop文件系统如何快速安装?
  4. Hadoop集群搭建过程中相关环境配置详解
  5. Hadoop完全分布模式安装实现详解

 

 

责任编辑:佚名 来源: fengfly.com
相关推荐

2010-06-03 18:32:51

Hadoop

2010-08-24 09:52:55

DIV标签

2017-06-15 13:15:39

Python协程

2010-10-08 14:54:22

JavaScript特

2010-08-23 16:23:53

CSS+DIV

2010-09-14 09:41:56

DIV技术DIV标签

2009-10-22 17:15:51

linux gcc

2010-07-09 15:13:42

UML对象图

2009-07-31 09:32:04

ASP.NET缓存概念ASP.NET缓存应用

2010-08-27 13:46:58

DIV+CSS

2010-06-02 20:07:39

SVN管理系统

2009-08-28 16:48:50

C#多态性

2022-05-18 23:42:08

网络安全安全分析工具

2010-07-09 15:53:36

UML类图

2021-03-08 08:54:12

驱动模型DTODO

2020-06-03 15:35:10

数据挖掘算法大数据

2015-05-25 19:13:13

KPI开发者

2021-12-07 08:00:00

安全零点击攻击漏洞

2010-08-30 14:27:06

CSS样式表

2009-08-25 18:16:02

.NET Framew.NET Framew
点赞
收藏

51CTO技术栈公众号