【Hadoop报错】The directory item limit of /tmp/hadoop-yarn/staging/history/doneintermediate/hdfs is exceeded: limit=1048576 items=1048576

技术【Hadoop报错】The directory item limit of /tmp/hadoop-yarn/staging/history/doneintermediate/hdfs is exceeded: li

【Hadoop报错】/tmp/Hadoop-纱线/分段/历史/完成_中间/HDFS的目录项限制超出d:限制=1048576项=1048576

问题描述:调度系统执行储备任务失败,一直执行失败,报错如下:Java。io。ioexception : Java。净。连接器异常:从#主机名/#IP到#主机名:10020的调用因连接异常而失败: Java。净。连接器异常:拒绝连接;详情请见: http://wiki.apache.org/hadoop/ConnectionRefused

由: Java。净。除:之外的连接引起从#主机名/#IP到#主机名:10020的调用因连接异常而失败: Java。净。除:之外的连接拒绝连接;详情请见: http://wiki.apache.org/hadoop/ConnectionRefused

控制台#结束作业=作业_ 1638255473937 _ 0568出现异常“Java。io。ioexception(Java。净。除:之外的连接从#主机名/#IP到#主机名:10020的调用因连接异常而失败3360 Java。净。除:之外的连接拒绝连接;更多详情请参见: http://wiki.apache.org/hadoop/ConnectionRefused)

控制台#故障:执行错误,从组织。阿帕奇。Hadoop。蜂巢。QL。执行董事。mapredtask先生。Java。净。connectexcept :从#主机名/#IP到#主机名:10020的调用因连接异常而失败: Java。净。connectexcept :拒绝连接;详情请见: http://wiki.apache.org/hadoop/ConnectionRefused

这个信息还看不出具体的问题所在,查看服务器上所有的日志,也没有看出问题,最后查看故事的日志,看出问题所在。

根据调度系统,获取到应用程序id:application _ 1638255473937 _ 0568,然后从hdfs上查看对应的日志信息。

关键报错信息:组织。阿帕奇。Hadoop。IPC。远程异常(组织。阿帕奇。Hadoop。HDFS。协议。fslimitexception $ maxdirectoryitemsexedeception):/tmp/Hadoop-yarn/staging/history/done _ intermediate/HDFS的目录项限制超出:限制=1048576项=1048576

内容来源网络,如有侵权,联系删除,本文地址:https://www.230890.com/zhan/128325.html

(0)

相关推荐

  • 从MySQL到ORACLE程序迁移的注意事项有哪些

    技术从MySQL到ORACLE程序迁移的注意事项有哪些本篇文章给大家分享的是有关从MySQL到ORACLE程序迁移的注意事项有哪些,小编觉得挺实用的,因此分享给大家学习,希望大家阅读完这篇文章后可以有所收获,话不多说,跟

    攻略 2021年11月16日
  • Maven依赖

    技术Maven依赖 Maven依赖!--Servlet依赖--
    dependencygroupIdjavax.servlet/groupIdartifactIdservlet-api/artifactI

    礼包 2021年12月24日
  • 实现XML和Web服务时要避免的常见错误有哪些

    技术实现XML和Web服务时要避免的常见错误有哪些这篇文章将为大家详细讲解有关实现XML和Web服务时要避免的常见错误有哪些,小编觉得挺实用的,因此分享给大家做个参考,希望大家阅读完这篇文章后可以有所收获。Kyle指出,

    攻略 2021年11月6日
  • Oracle RAC环境下定位并杀掉最终阻塞的会话方法是什么

    技术Oracle RAC环境下定位并杀掉最终阻塞的会话方法是什么本篇内容介绍了“Oracle RAC环境下定位并杀掉最终阻塞的会话方法是什么”的有关知识,在实际案例的操作过程中,不少人都会遇到这样的困境,接下来就让小编带

    攻略 2021年11月4日
  • leetcode滑动窗口(leetcode滑动窗口万能公式)

    技术LeetCode怎样找出滑动窗口的最大值小编给大家分享一下LeetCode怎样找出滑动窗口的最大值,相信大部分人都还不怎么了解,因此分享这篇文章给大家参考一下,希望大家阅读完这篇文章后大有收获,下面让我们一起去了解一

    攻略 2021年12月15日
  • Redis中主从同步机制的示例分析

    技术Redis中主从同步机制的示例分析小编给大家分享一下Redis中主从同步机制的示例分析,相信大部分人都还不怎么了解,因此分享这篇文章给大家参考一下,希望大家阅读完这篇文章后大有收获,下面让我们一起去了解一下吧!之前的

    攻略 2021年11月17日