Hadoop配置注意事项及命令使用经验总结

开发 架构 Hadoop
Hadoop的安装步骤相信大家应该有所了解,这里向大家介绍一下Hadoop配置时应该注意的一些问题,欢迎大家一起来学习,希望本文介绍对你有所帮助。

本节和大家一起学习一下Hadoop配置过程中应该注意的一些问题,同时和大家分享一下使用Hadoop命令过程中的一些感受,欢迎大家一起来学习,以便在以后的学习过程中避免犯错误,希望通过本节的介绍大家对Hadoop配置和Hadoop命令有更加深刻的认识。

Hadoop配置注意事项:

  Master和Slave上的几个conf配置文件不需要全部同步,如果确定都是通过Master去启动和关闭,那么Slave机器上的配置不需要去维护。但如果希望在任意一台机器都可以启动和关闭Hadoop,那么就需要全部保持一致了。

  Master和Slave机器上的/etc/hosts中必须把集群中机器都配置上去,就算在各个配置文件中使用的是IP。这个吃过不少苦头,原来以为如果配成IP就不需要去配置Host,结果发现在执行Reduce的时候总是卡住,在拷贝的时候就无法继续下去,不断重试。另外如果集群中如果有两台机器的机器名如果重复也会出现问题。

  如果在新增了节点或者删除节点的时候出现了问题,首先就去删除Slave的hadoop.tmp.dir,然后重新启动试试看,如果还是不行那就干脆把Master的hadoop.tmp.dir删除(意味着dfs上的数据也会丢失),如果删除了Master的hadoop.tmp.dir,那么就需要重新namenode–format。Map任务个数以及Reduce任务个数配置。前面分布式文件系统设计提到一个文件被放入到分布式文件系统中,会被分割成多个block放置到每一个的DataNode上,默认dfs.block.size应该是64M,也就是说

如果你放置到HDFS上的数据小于64,那么将只有一个Block,此时会被放置到某一个DataNode中,这个可以通过使用命令:hadoopdfsadmin–report就可以看到各个节点存储的情况。也可以直接去某一个DataNode查看目录:hadoop.tmp.dir/dfs/data/current就可以看到那些block了。Block的数量将会直接影响到Map的个数。当然可以通过配置来设定Map和Reduce的任务个数。Map的个数通常默认和HDFS需要处理的blocks相同。也可以通过Hadoop配置Map的数量或者配置minimumsplitsize来设定,实际的个数为:max(min(block_size,data/#maps),min_split_size)。Reduce可以通过这个公式计算:0.95*num_nodes*mapred.tasktracker.tasks.maximum。

  总的来说出了问题或者启动的时候最好去看看日志,这样心里有底。

  Hadoop中的命令(Command)总结


  这部分内容其实可以通过命令的Help以及介绍了解,我主要侧重于介绍一下我用的比较多的几个命令。Hadoopdfs这个命令后面加参数就是对于HDFS的操作,和Linux操作系统的命令很类似,例如:
  Hadoopdfs–ls就是查看/usr/root目录下的内容,默认如果不填路径这就是当前用户路径;
  Hadoopdfs–rmrxxx就是删除目录,还有很多命令看看就很容易上手;
  Hadoopdfsadmin–report这个命令可以全局的查看DataNode的情况;
  Hadoopjob后面增加参数是对于当前运行的Job的操作,例如list,kill等;
  Hadoopbalancer就是前面提到的均衡磁盘负载的命令。
  其他就不详细介绍了。本节关于Hadoop配置及命令方面的内容介绍完毕。

【编辑推荐】

  1. Hadoop配置指导手册
  2. Hadoop配置和启动Hadoop方法详解
  3. 专家讲解 Hadoop:HBASE松散数据存储设计
  4. 两种模式运行Hadoop分布式并行程序
  5. Hadoop概念及其用法专家讲解

 

责任编辑:佚名 来源: asdn.net
相关推荐

2011-04-14 11:28:07

光纤

2010-03-02 18:12:39

WCF单调服务

2009-09-25 17:26:55

使用Hibernate

2009-09-08 16:02:47

Linq使用Group

2009-06-10 16:48:54

NetBeans SV攻略

2010-06-07 15:48:40

Hadoop0.20.

2013-01-18 10:10:30

项目项目经理

2009-06-12 09:46:40

Java String

2010-04-21 14:53:46

Oracle游标

2011-08-03 11:40:49

布线系统

2009-10-15 09:27:00

2011-07-12 20:43:16

传真机维修技巧

2009-11-09 11:01:01

ibmdwPMP

2011-07-19 10:16:58

喷墨打印机注意事项

2010-01-18 14:25:19

使用C++Builde

2011-03-22 08:56:30

2010-01-07 19:47:48

debug命令

2017-04-06 09:49:55

Hive注意事项优化

2011-06-23 11:15:25

SEO网站优化

2010-09-13 10:52:37

CSS定位
点赞
收藏

51CTO技术栈公众号