HDFS中的Namenode和Datanode

大数据
大数据中,HDFS集群以Master-Slave模式运行,主要有两类节点:一个Namenode(即Master)和多个Datanode(即Slave)。Namenode管理者文件系统的Namespace。它维护着文件系统树(filesystem tree)以及文件树中所有的文件和文件夹的元数据(metadata)。

HDFS Architecture:

Namenode

Namenode 管理者文件系统的Namespace。它维护着文件系统树(filesystem tree)以及文件树中所有的文件和文件夹的元数据(metadata)。管理这些信息的文件有两个,分别是Namespace 镜像文件(Namespace image)和操作日志文件(edit log),这些信息被Cache在RAM中,当然,这两个文件也会被持久化存储在本地硬盘。Namenode记录着每个文件中各个块所在的数据节点的位置信息,但是他并不持久化存储这些信息,因为这些信息会在系统启动时从数据节点重建。

Namenode结构图课抽象为如图:

客户端(client)代表用户与namenode和datanode交互来访问整个文件系统。客户端提供了一些列的文件系统接口,因此我们在编程时,几乎无须知道datanode和namenode,即可完成我们所需要的功能。

Datanode

Datanode是文件系统的工作节点,他们根据客户端或者是namenode的调度存储和检索数据,并且定期向namenode发送他们所存储的块(block)的列表。

Namenode容错机制

没有Namenode,HDFS就不能工作。事实上,如果运行namenode的机器坏掉的话,系统中的文件将会完全丢失,因为没有其他方法能够将位于不同datanode上的文件块(blocks)重建文件。因此,namenode的容错机制非常重要,Hadoop提供了两种机制。

***种方式是将持久化存储在本地硬盘的文件系统元数据备份。Hadoop可以通过配置来让Namenode将他的持久化状态文件写到不同的文件系统中。这种写操作是同步并且是原子化的。比较常见的配置是在将持久化状态写到本地硬盘的同时,也写入到一个远程挂载的网络文件系统。

第二种方式是运行一个辅助的Namenode(Secondary Namenode)。 事实上Secondary Namenode并不能被用作Namenode它的主要作用是定期的将Namespace镜像与操作日志文件(edit log)合并,以防止操作日志文件(edit log)变得过大。通常,Secondary Namenode 运行在一个单独的物理机上,因为合并操作需要占用大量的CPU时间以及和Namenode相当的内存。辅助Namenode保存着合并后的Namespace镜像的一个备份,万一哪天Namenode宕机了,这个备份就可以用上了。

但是辅助Namenode总是落后于主Namenode,所以在Namenode宕机时,数据丢失是不可避免的。在这种情况下,一般的,要结合***种方式中提到的远程挂载的网络文件系统(NFS)中的Namenode的元数据文件来使用,把NFS中的Namenode元数据文件,拷贝到辅助Namenode,并把辅助Namenode作为主Namenode来运行。

原文链接:http://shitouer.cn/2012/12/hdfs-namenode-datanode/

 

【编辑推荐】

 

责任编辑:彭凡 来源: 石头儿
相关推荐

2020-10-29 18:53:38

HDFSNameNodeDataNode

2012-07-11 17:21:23

HadoopHDFS

2021-03-15 22:42:25

NameNodeDataNode分布式

2014-07-15 11:15:44

hadoop分布式部署

2021-03-28 22:46:52

NameNodeHDFS大数据

2021-04-14 08:51:55

HDFSJavaPython

2019-09-24 13:41:22

Hadoop面试分布式

2013-05-28 09:12:59

Hadoop 2.0

2016-12-30 11:10:32

Hadoop开发JVM

2010-06-07 13:35:16

Hadoop简介

2017-06-22 08:58:51

Hadoopssh+IPssh+

2020-01-09 10:47:15

HDFS数据文件

2015-07-08 15:14:15

云存储HDFS副本放置策略

2012-05-31 02:54:07

HadoopJava

2019-09-27 08:31:55

HDFS集群Hadoop

2018-04-18 08:24:24

磁盘管理解密

2012-02-01 09:21:23

Hadoop分布式文件系统OpenStack

2013-04-23 10:58:28

HBase

2015-04-16 14:24:56

Hadoop云计算HDFS

2019-04-18 11:37:49

NameNodeHDFS架构
点赞
收藏

51CTO技术栈公众号