04.hadoop-2.7.2官网文档翻译-Hadoop命令指南

作者: 疯狂小兵 | 2016-07-05 | 阅读
「编辑」 「本文源码」

概要

所有的Hadoop命令都会调用bin/hadoop脚本,运行该脚本不带任何参数,将会显示所有命令的描述。

用法:hadoop [–config confdir] [–loglevel loglevel] [COMMAND] [GENERIC_OPTIONS] [COMMAND_OPTIONS]


区域 描述
–config confdir 覆盖掉默认的配置文件目录。默认是${HADOOP_HOME}/conf
–loglevel loglevel 覆盖日志显示水平,合法日志水平为FATAL,ERROR,WARN,INFO,DEBUG,TRACE,默认为INFO
GENERIC_OPTIONS 多个命令支持的常用选项集。
COMMAND_OPTIONS 在该文档中描述的Hadoop common子项目的操作的多样命令。HDFS和YARN在其他文档中。

通用操作

许多子命令提供了通用的配置参数集合来改变他们的行为


通用操作 描述
-archives 执行计算机上用逗号分隔的文档列表,仅适用于job
-conf 指定应用的配置文件
-D = 使用给定属性的设置值
-files 指定要被复制到MapReduce集群的文档列表(由逗号分隔),仅适用于job
-jt or 指定ResourceManager,仅适用于job
-libjars 指定添加进classpath的jar文件集合(由逗号分隔),仅适用于job

Hadoop通用命令

所有这些命令从hadoopshell中执行。已经被分解为普通用户命令和管理员命令

普通用户命令

该命令集合对Hadoop集群的用户很有用

  • archive

    创建一个Hadoop archive,更多信息可以查看Hadoop文档指南

  • checknative

用法:hadoop checknative [-a] [-h]


命令操作 描述
-a 检查所有的库都可用,默认只检查Hadoop的库(window上还检查winutils.exe)
-h 显示该帮助信息

该命令会检查Hadoop的原生代码。查看NativeLibraries.html获取更多信息。

  • classpath
用法:hadoop classpath [–glob –jar -h –help]

命令操作 描述
–glob 通配符
–jar path path处写类路径
-h, –help 显示该帮助信息

显示class path需要获取到Hadoop的jar和需要的库。如果无参调用,会打印命令脚本设置的classpath,可能会在classpath条目中包含通配符。附加选项打印classpath后通配符扩展或将classpath写入一个jar文件的manifest中。 后者在不能用通配符和扩展路径超过命令行最大长度限制的环境中是很有用的。

  • credential

用法:hadoop credential [options]


命令操作 描述
create alias [-provider provider-path] 提示用户要将凭据存储为给定的别名。在指明-provider情况下,core-site.xml文件中的hadoop.security.credential.provider.path将会被用到
delete alias [-provider provider-path] [-f] 用所提供的别名删除凭据。在指明-provider情况下,core-site.xml文件中的hadoop.security.credential.provider.path将会被用到。不使用-f,将会显示确认信息。
list [-provider provider-path] 所有凭证别名的列表。在指明-provider情况下,core-site.xml文件中的hadoop.security.credential.provider.path将会被用到

管理凭证提供者的凭证,密码和秘钥的命令。

该凭证提供者的API接口在Hadoop中允许应用分离和他们怎样存储他们需要的密码和秘钥。为了表明特定的提供者类型和位置,用户必须在core-site.xml中提供hadoop.security.credential.provider.path配置元素或者在每次执行命令时使用命令参数选项 -provider。 此提供程序路径是一个逗号分隔的目录列表,该列表指示应该被咨询的供应商列表的类型和位置。 比如下面路径示例:

user:///,jceks://file/tmp/test.jceks,jceks://hdfs@nn1.example.com/my/path/test.jceks

指明当前用户的凭证文件应该经由用户提供者咨询,其存在于/tmp/test.jceks的本地文件是java的秘钥库提供者。该文件在HDFS中在nn1.example.com/my/path/test.jceks,也是java的秘钥库提供者的存储地。

当使用凭据命令时,他往往是为一个特定的凭据存储提供商提供一个密码或秘钥。为了明确指明那个提供商存储将被使用,需要用-provider选项。否则给定一个多提供商的路径,第一个非瞬态提供商将会被使用。这也可能是或可能不是你想要的。

举例:hadoop credential list -provider jceks://file/tmp/test.jceks

distcp

递归复制文件或目录。更多信息请看Hadoop DistCp 指南

fs

该命令记录在文件系统shell指南。 在HDFS使用时,这是一个hdfs dfs的同义词。

jar

用法:hadoop jar <jar> [mainClass] args...

运行一个jar文件

使用yarn jar来启动YARN的应用程序。

key

通过key提供商管理key

trace

查看和修改Hadoop追踪设置。请看追踪指南

version

用法:hadoop version

打印Hadoop的版本信息

CLASSNAME

用法:hadoop CLASSNAME

运行名称为CLASSNAME的类

管理员命令

该命令集合对Hadoop集群的管理员非常有用

daemonlog

在守护进程中为合法的类名设置或打印日志等级。

用法:

hadoop daemonlog -getlevel <host:httpport> <classname>
hadoop daemonlog -setlevel <host:httpport> <classname> <level>

   
-getlevel host:httpport classname 从运行在host:port上的守护进程中打印合格的类名标识的日志等级。此命令内部连接到http://<host:httpport>/logLevel?log=<classname>
-setlevel host:httpport classname level 从运行在host:port上的守护进程中设置合格的类名标识的日志等级。此命令内部连接到http://<host:httpport>/logLevel?log=<classname>&level=<level>

举例:$ bin/hadoop daemonlog -setlevel 127.0.0.1:50070 org.apache.hadoop.hdfs.server.namenode.NameNode DEBUG


版权声明:本文由 在 2016年07月05日发表。本文采用CC BY-NC-SA 4.0许可协议,非商业转载请注明出处,不得用于商业目的。
文章题目及链接:《04.hadoop-2.7.2官网文档翻译-Hadoop命令指南》




  相关文章:

「游客及非Github用户留言」:

「Github登录用户留言」:

TOP