【Hadoop报错】The directory item limit of /tmp/hadoop-yarn/staging/history/doneintermediate/hdfs is exceeded: limit=1048576 items=1048576

技术【Hadoop报错】The directory item limit of /tmp/hadoop-yarn/staging/history/doneintermediate/hdfs is exceeded: li

【Hadoop报错】/tmp/Hadoop-纱线/分段/历史/完成_中间/HDFS的目录项限制超出d:限制=1048576项=1048576

问题描述:调度系统执行储备任务失败,一直执行失败,报错如下:Java。io。ioexception : Java。净。连接器异常:从#主机名/#IP到#主机名:10020的调用因连接异常而失败: Java。净。连接器异常:拒绝连接;详情请见: http://wiki.apache.org/hadoop/ConnectionRefused

由: Java。净。除:之外的连接引起从#主机名/#IP到#主机名:10020的调用因连接异常而失败: Java。净。除:之外的连接拒绝连接;详情请见: http://wiki.apache.org/hadoop/ConnectionRefused

控制台#结束作业=作业_ 1638255473937 _ 0568出现异常“Java。io。ioexception(Java。净。除:之外的连接从#主机名/#IP到#主机名:10020的调用因连接异常而失败3360 Java。净。除:之外的连接拒绝连接;更多详情请参见: http://wiki.apache.org/hadoop/ConnectionRefused)

控制台#故障:执行错误,从组织。阿帕奇。Hadoop。蜂巢。QL。执行董事。mapredtask先生。Java。净。connectexcept :从#主机名/#IP到#主机名:10020的调用因连接异常而失败: Java。净。connectexcept :拒绝连接;详情请见: http://wiki.apache.org/hadoop/ConnectionRefused

这个信息还看不出具体的问题所在,查看服务器上所有的日志,也没有看出问题,最后查看故事的日志,看出问题所在。

根据调度系统,获取到应用程序id:application _ 1638255473937 _ 0568,然后从hdfs上查看对应的日志信息。

关键报错信息:组织。阿帕奇。Hadoop。IPC。远程异常(组织。阿帕奇。Hadoop。HDFS。协议。fslimitexception $ maxdirectoryitemsexedeception):/tmp/Hadoop-yarn/staging/history/done _ intermediate/HDFS的目录项限制超出:限制=1048576项=1048576

内容来源网络,如有侵权,联系删除,本文地址:https://www.230890.com/zhan/128325.html

(0)

相关推荐

  • 关于stm2cumx生成的串口通信USART的使用,2)

    技术关于stm2cumx生成的串口通信USART的使用,2) 关于stm2cumx生成的串口通信USART的使用(2)上面一篇文章讲到在stm32cumx开启串口中断后,系统每接收一个字符就会进入中断一

    礼包 2021年11月29日
  • MySQL数据库升级的坑有哪些

    技术MySQL数据库升级的坑有哪些这篇文章主要介绍“MySQL数据库升级的坑有哪些”,在日常操作中,相信很多人在MySQL数据库升级的坑有哪些问题上存在疑惑,小编查阅了各式资料,整理出简单好用的操作方法,希望对大家解答”

    攻略 2021年10月28日
  • sin105度等于多少,sin105度等于多少

    技术sin105度等于多少,sin105度等于多少sin105度等于√2/4+√6/4sin105度等于多少。计算过程如下:根据三角函数两角和公式sin105°=sin(60°+45°) =sin60°*cos45°+s

    生活 2021年10月30日
  • Bytom如何使用PAT树

    技术Bytom如何用PAT树本篇内容介绍了“Bytom如何用PAT树”的有关知识,在实际案例的操作过程中,不少人都会遇到这样的困境,接下来就让小编带领大家学习一下如何处理这些情况吧!希望大家仔细阅读,能够学有所成!为什么

    攻略 2021年12月20日
  • Modern Batch和计算密集型的编程模型是如何批量处理

    技术Modern Batch和计算密集型的编程模型是如何批量处理本篇内容主要讲解“Modern Batch和计算密集型的编程模型是如何批量处理”,感兴趣的朋友不妨来看看。本文介绍的方法操作简单快捷,实用性强。下面就让小编

    攻略 2021年11月2日
  • 台湾服务器租用:如何为您的电商网站租用服务器

    技术台湾服务器租用:如何为您的电商网站租用服务器随着香港服务器的租用价格上涨,对于跨境电商用户而言,将网站迁移至台湾服务器已经成为一种更为廉价的解决方案,那么如何为您的电商平台选择合适的服务器进行部署呢,下面就来简单介绍

    2021年10月26日