实现Hadoop集群性能优化,Hadoop机架感知如何配置?

开发 架构 Hadoop
Hadoop相信大家应该有所了解,那么Hadoop集群你是否熟悉,在这里向大家简单介绍一下,希望通过本文的介绍大家对Hadoop集群有一定的了解。

本节和大家一起学习一下Hadoop集群方面的内容,主要介绍一下Hadoop集群网络性能优化的背景,及Hadoop配置等,欢迎大家一起来学习有关Hadoop集群方面的知识。

Hadoop集群网络性能优化:Hadoop机架感知实现及配置

背景

分布式的集群通常包含非常多的机器,由于受到机架槽位和交换机网口的限制,通常大型的分布式集群都会跨好几个机架,由多个机架上的机器共同组成一个分布式集群。机架内的机器之间的网络速度通常都会高于跨机架机器之间的网络速度,并且机架之间机器的网络通信通常受到上层交换机间网络带宽的限制。
具体到Hadoop集群,由于Hadoop的HDFS对数据文件的分布式存放是按照分块block存储,每个block会有多个副本(默认为3),并且为了数据的安全和高效,所以Hadoop默认对3个副本的存放策略为:

在本地机器的hdfs目录下存储一个block
在另外一个rack的某个datanode上存储一个block
在该机器的同一个rack下的某台机器上存储***一个block
这样的策略可以保证对该block所属文件的访问能够优先在本rack下找到,如果整个rack发生了异常,也可以在另外的rack上找到该block的副本。这样足够的高效,并且同时做到了数据的容错。
但是,Hadoop对机架的感知并非是自适应的,亦即,Hadoop集群分辨某台slave机器是属于哪个rack并非是只能的感知的,而是需要Hadoop的管理者人为的告知Hadoop哪台机器属于哪个rack,这样在Hadoop的namenode启动初始化时,会将这些机器与rack的对应信息保存在内存中,用来作为对接下来所有的HDFS的写块操作分配datanode列表时(比如3个block对应三台datanode)的选择datanode策略,做到Hadoopallocateblock的策略:尽量将三个副本分布到不同的rack。
接下来的问题就是:通过什么方式能够告知Hadoopnamenode哪些slaves机器属于哪个rack?以下是配置步骤。


配置

默认情况下,Hadoop的机架感知是没有被启用的。所以,在通常情况下,Hadoop集群的HDFS在选机器的时候,是随机选择的,也就是说,很有可能在写数据时,Hadoop将***块数据block1写到了rack1上,然后随机的选择下将block2写入到了rack2下,此时两个rack之间产生了数据传输的流量,再接下来,在随机的情况下,又将block3重新又写回了rack1,此时,两个rack之间又产生了一次数据流量。在job处理的数据量非常的大,或者往Hadoop推送的数据量非常大的时候,这种情况会造成rack之间的网络流量成倍的上升,成为性能的瓶颈,进而影响作业的性能以至于整个集群的服务。
要将Hadoop机架感知的功能启用,配置非常简单,在namenode所在机器的Hadoop-site.xml配置文件中配置一个选项:
 

  1. <property> 
  2. <name>topology.script.file.name</name> 
  3. <value>/path/to/script</value> 
  4. </property> 

 

这个配置选项的value指定为一个可执行程序,通常为一个脚本,该脚本接受一个参数,输出一个值。接受的参数通常为某台datanode机器的ip地址,而输出的值通常为该ip地址对应的datanode所在的rack,例如”/rack1”。Namenode启动时,会判断该配置选项是否为空,如果非空,则表示已经用机架感知的配置,此时namenode会根据配置寻找该脚本,并在接收到每一个datanode的heartbeat时,将该datanode的ip地址作为参数传给该脚本运行,并将得到的输出作为该datanode所属的机架,保存到内存的一个map中。
至于脚本的编写,就需要将真实的网络拓朴和机架信息了解清楚后,通过该脚本能够将机器的ip地址正确的映射到相应的机架上去。一个简单的实现如下:
 

  1. #!/usr/bin/perl-w  
  2. usestrict;  
  3. my$ip=$ARGV[0];  
  4. my$rack_num=3;  
  5. my@ip_items=split/\./,$ip;  
  6. my$ip_count=0;  
  7. foreachmy$i(@ip_items){  
  8. $ip_count+=$i;  
  9. }  
  10. my$rack="/rack".($ip_count%$rack_num);  
  11. print"$rack"; 

请期待下节Hadoop集群网络性能优化。
 

【编辑推荐】

  1. 专家指导 如何实现Hadoop集群搭建
  2. Hadoop集群搭建过程中相关环境配置详解
  3. Hadoop文件系统如何快速安装?
  4. Hadoop集群搭建过程中相关环境配置详解
  5. Hadoop完全分布模式安装实现详解

 

 

责任编辑:佚名 来源: csdn.net
相关推荐

2010-06-07 09:26:32

Hadoop集群

2010-06-04 10:48:15

Hadoop性能

2010-05-24 14:59:29

Hadoop集群

2013-06-26 16:12:21

MySQL集群性能优化

2010-06-03 19:16:23

Hadoop

2010-06-04 18:06:22

Hadoop集群搭建

2012-06-25 10:30:06

Hadoop集群

2010-06-04 11:00:27

hadoop性能优化

2019-08-02 11:28:45

HadoopYARN调度系统

2010-06-03 15:13:34

Hadoop Hdfs

2010-06-04 18:17:50

Hadoop集群

2010-06-04 10:35:14

2016-10-27 09:37:10

Hadoop集群配置

2011-12-07 16:11:50

Hadoop集群搭建

2011-04-21 10:05:35

Hadoop集群lzo

2010-06-03 14:42:47

Hadoop分布式集群

2012-09-18 09:55:44

Hadoop 2.0

2017-03-13 09:50:00

HadoopHive

2012-09-10 15:18:11

云梯淘宝大数据

2013-05-27 14:13:51

Hadoop 2.0.
点赞
收藏

51CTO技术栈公众号