V2EX = way to explore
V2EX 是一个关于分享和探索的地方
现在注册
已注册用户请  登录
zdkk
V2EX  ›  Hadoop

求助: hadoop 的 wordcount 一直是挂起状态 ACCEPTED: waiting for AM container to be allocated, launched and register with RM.

  •  
  •   zdkk · 2020-03-21 18:40:12 +08:00 · 3658 次点击
    这是一个创建于 1468 天前的主题,其中的信息可能已经有所发展或是发生改变。

    搭建单节点伪分布式系统时,配置运行方式为 yarn (改成 local 时运行 wordcount 正常)时,一直无响应,被挂起。 看了很多帖子,已检查 hosts 正常。配置文件等都正常

    但是程序依旧不能正常运行。

    问题详细: https://bbs.csdn.net/topics/396194270?page=1#post-411038079

    7 条回复    2020-03-23 09:29:38 +08:00
    14night
        1
    14night  
       2020-03-21 19:18:24 +08:00
    jps 查看是否启动了 Yarn,ResourceManager 和 NodeManager 都要启动。
    zdkk
        2
    zdkk  
    OP
       2020-03-21 21:20:54 +08:00
    @14night 这些都启动了
    [hadoopuser@hadoop101 hadoop-2.7.2]$ jps
    1767 NameNode
    16984 ResourceManager
    17642 DataNode
    17726 RunJar
    19534 NodeManager
    19631 Jps

    刚才尝试关闭 NodeManager,运行 wordcount,结果发现也不报任何错日志也正常,问题描述的现象一模一样
    14night
        3
    14night  
       2020-03-22 07:58:43 +08:00
    @zdkk logs/下的 yarn-${username}-resourcemanager-${hostname}.log 和
    yarn-${username}-nodemanager-${hostname}.log 也不报错吗?
    zdkk
        4
    zdkk  
    OP
       2020-03-22 10:54:36 +08:00
    zdkk
        5
    zdkk  
    OP
       2020-03-22 12:53:58 +08:00
    找到问题了,搞了半天不是 因为配置等原因,因为 linux 硬盘容量使用比达到 98%,而 hadoop 的阈值是 90%。这个问题太隐晦了
    @14night
    14night
        6
    14night  
       2020-03-22 17:51:59 +08:00
    @zdkk 看来搞了很久,不过这样一弄就记住了, 我也是刚学习不久 hadoop,没能给很好的建议。
    zdkk
        7
    zdkk  
    OP
       2020-03-23 09:29:38 +08:00
    @14night 我才初学,hadoop 的坑必须都踩一遍。
    关于   ·   帮助文档   ·   博客   ·   API   ·   FAQ   ·   我们的愿景   ·   实用小工具   ·   4637 人在线   最高记录 6543   ·     Select Language
    创意工作者们的社区
    World is powered by solitude
    VERSION: 3.9.8.5 · 32ms · UTC 09:50 · PVG 17:50 · LAX 02:50 · JFK 05:50
    Developed with CodeLauncher
    ♥ Do have faith in what you're doing.