【Hadoop报错】The directory item limit of /tmp/hadoop-yarn/staging/history/doneintermediate/hdfs is exceeded: limit=1048576 items=1048576

技术【Hadoop报错】The directory item limit of /tmp/hadoop-yarn/staging/history/doneintermediate/hdfs is exceeded: li

【Hadoop报错】/tmp/Hadoop-纱线/分段/历史/完成_中间/HDFS的目录项限制超出d:限制=1048576项=1048576

问题描述:调度系统执行储备任务失败,一直执行失败,报错如下:Java。io。ioexception : Java。净。连接器异常:从#主机名/#IP到#主机名:10020的调用因连接异常而失败: Java。净。连接器异常:拒绝连接;详情请见: http://wiki.apache.org/hadoop/ConnectionRefused

由: Java。净。除:之外的连接引起从#主机名/#IP到#主机名:10020的调用因连接异常而失败: Java。净。除:之外的连接拒绝连接;详情请见: http://wiki.apache.org/hadoop/ConnectionRefused

控制台#结束作业=作业_ 1638255473937 _ 0568出现异常“Java。io。ioexception(Java。净。除:之外的连接从#主机名/#IP到#主机名:10020的调用因连接异常而失败3360 Java。净。除:之外的连接拒绝连接;更多详情请参见: http://wiki.apache.org/hadoop/ConnectionRefused)

控制台#故障:执行错误,从组织。阿帕奇。Hadoop。蜂巢。QL。执行董事。mapredtask先生。Java。净。connectexcept :从#主机名/#IP到#主机名:10020的调用因连接异常而失败: Java。净。connectexcept :拒绝连接;详情请见: http://wiki.apache.org/hadoop/ConnectionRefused

这个信息还看不出具体的问题所在,查看服务器上所有的日志,也没有看出问题,最后查看故事的日志,看出问题所在。

根据调度系统,获取到应用程序id:application _ 1638255473937 _ 0568,然后从hdfs上查看对应的日志信息。

关键报错信息:组织。阿帕奇。Hadoop。IPC。远程异常(组织。阿帕奇。Hadoop。HDFS。协议。fslimitexception $ maxdirectoryitemsexedeception):/tmp/Hadoop-yarn/staging/history/done _ intermediate/HDFS的目录项限制超出:限制=1048576项=1048576

内容来源网络,如有侵权,联系删除,本文地址:https://www.230890.com/zhan/128325.html

(0)

相关推荐

  • 2021.50 Quarkus

    技术2021.50 Quarkus 2021.50 Quarkus2018年的一次内部会议上,红帽中间件副总裁Mark Little说,他最担心的是一种新的编程语言(如go)能给用户提供更快的运行速度及

    礼包 2021年12月20日
  • 2.3.1测试----objdump学习

    技术2.3.1测试----objdump学习 2.3.1测试----objdump学习2.3.1测试
    20191331 lyx
    测试要求
    0 推荐在OpenEuler系统中实现
    1 编辑并运行2.3.1

    礼包 2021年11月1日
  • AppBuilder的优势有哪些

    技术AppBuilder的优势有哪些这期内容当中小编将会给大家带来有关AppBuilder的优势有哪些,文章内容丰富且以专业的角度为大家分析和叙述,阅读完这篇文章希望大家可以有所收获。没有多余的代码不必担心Openbiz

    攻略 2021年11月26日
  • 扩域并查集

    技术扩域并查集 扩域并查集1 #include iostream2 #include cstdio3 using namespace std;4 5 const int MAXN=50010;6 int

    礼包 2021年10月28日
  • 喜欢的英语单词,大家最喜欢嘚英语单词是什么啊

    技术喜欢的英语单词,大家最喜欢嘚英语单词是什么啊最喜欢的英文单词是:favouritefavourite 英[ˈfeɪvərɪt] 美[fevərɪt] adj. 特别受喜爱的; n.

    生活 2021年10月26日
  • 如何分析Tomcat9.0.37的基础及在IDEA中的配置

    技术如何分析Tomcat9.0.37的基础及在IDEA中的配置今天就跟大家聊聊有关如何分析Tomcat9.0.37的基础及在IDEA中的配置,可能很多人都不太了解,为了让大家更加了解,小编给大家总结了以下内容,希望大家根

    攻略 2021年12月8日