签到成功

知道了

CNDBA社区CNDBA社区

CDH 5.16 HDFS 启动进入安全模式 解决方法

2019-05-06 14:10 5524 0 原创 Hadoop
作者: dave

  新搭建的CDH 环境,修改HDFS 数据存储位置后,直接将原来的硬盘删除了。 导致HDFS 启动后直接安全模式。
https://www.cndba.cn/dave/article/3381

https://www.cndba.cn/dave/article/3381

  安全模式是Hadoop的一种保护机制,用于保证集群中的数据块的安全性。当集群启动的时候,会首先进入安全模式。当系统处于安全模式时会检查数据块的完整性。此时不允许客户端进行任何修改文件的操作,包括上传文件,删除文件,重命名,创建文件夹等操作。正常情况下,安全模式会运行一段时间自动退出的,只需要我们稍等一会就行了。 如果因为丢失的数据块超过了配置文件hdfs-default.xml中定义了一个最小的副本率,那么就无法退出安全模式,从而影响CDH 集群的使用。

https://www.cndba.cn/dave/article/3381
https://www.cndba.cn/dave/article/3381https://www.cndba.cn/dave/article/3381

因为我们这里是测试环境,所以损坏的数据不影响我们使用,直接将这些数据删除即可,步骤如下:

1.执行命令退出安全模式:
  hadoop dfsadmin -safemode leave
2.执行健康检查,删除损坏掉的block:
  hdfs fsck / -delete

https://www.cndba.cn/dave/article/3381

关于Hadoop的常用命令,可以参考我的博客:https://www.cndba.cn/dave/article/3381https://www.cndba.cn/dave/article/3381

Hadoop HDFS 常用命令 汇总
https://www.cndba.cn/dave/article/3258https://www.cndba.cn/dave/article/3381

https://www.cndba.cn/dave/article/3381

[dave@www.cndba.cn ~]# su - hdfs
[hdfs@www.cndba.cn ~]$  hdfs fsck  /  -delete
Connecting to namenode via http://hadoop-master1:50070/fsck?ugi=hdfs&delete=1&path=%2F
FSCK started by hdfs (auth:SIMPLE) from /192.168.20.182 for path / at Fri Nov 03 15:15:33 CST 2028
..
/hbase/WALs/hadoop-work1,60020,1556601293711/hadoop-work1%2C60020%2C1556601293711.null0.1856337590820: CORRUPT blockpool BP-1460675470-192.168.20.181-1556601229475 block blk_1073742706
……
/user/oozie/share/lib/lib_20190430135116/sqoop/xz-1.0.jar: MISSING 1 blocks of total size 94672 B.Status: CORRUPT
 Total size:    611884642 B
 Total dirs:    207
 Total files:    764
 Total symlinks:        0
 Total blocks (validated):    761 (avg. block size 804053 B)
  ********************************
  UNDER MIN REPL'D BLOCKS:    761 (100.0 %)
  dfs.namenode.replication.min:    1
  CORRUPT FILES:    761
  MISSING BLOCKS:    761
  MISSING SIZE:        611884642 B
  CORRUPT BLOCKS:     761
  ********************************
 Minimally replicated blocks:    0 (0.0 %)
 Over-replicated blocks:    0 (0.0 %)
 Under-replicated blocks:    0 (0.0 %)
 Mis-replicated blocks:        0 (0.0 %)
 Default replication factor:    3
 Average block replication:    0.0
 Corrupt blocks:        761
 Missing replicas:        0
 Number of data-nodes:        3
 Number of racks:        1
FSCK ended at Fri Nov 03 15:16:10 CST 2028 in 99 milliseconds


The filesystem under path '/' is CORRUPT
[hdfs@www.cndba.cn ~]$

[hdfs@www.cndba.cn ~]$ hdfs  fsck / -files -blocks
Connecting to namenode via http://hadoop-master1:50070/fsck?ugi=hdfs&files=1&blocks=1&path=%2F
FSCK started by hdfs (auth:SIMPLE) from /192.168.20.182 for path / at Fri Nov 03 15:20:13 CST 2028
/ <dir>
/hbase <dir>
/hbase/.tmp <dir>
/hbase/.tmp/data <dir>
/hbase/.tmp/data/hbase <dir>
/hbase/MasterProcWALs <dir>
/hbase/MasterProcWALs/state-00000000000000000003.log 0 bytes, 0 block(s):  OK
……
Status: HEALTHY
 Total size:    0 B
 Total dirs:    213
 Total files:    3
 Total symlinks:        0
 Total blocks (validated):    0
 Minimally replicated blocks:    0
 Over-replicated blocks:    0
 Under-replicated blocks:    0
 Mis-replicated blocks:        0
 Default replication factor:    3
 Average block replication:    0.0
 Corrupt blocks:        0
 Missing replicas:        0
 Number of data-nodes:        3
 Number of racks:        1
FSCK ended at Fri Nov 03 15:20:13 CST 2028 in 12 milliseconds


The filesystem under path '/' is HEALTHY
[hdfs@www.cndba.cn ~]$

版权声明:本文为博主原创文章,未经博主允许不得转载。

用户评论
* 以下用户言论只代表其个人观点,不代表CNDBA社区的观点或立场
dave

dave

关注

人的一生应该是这样度过的:当他回首往事的时候,他不会因为虚度年华而悔恨,也不会因为碌碌无为而羞耻;这样,在临死的时候,他就能够说:“我的整个生命和全部精力,都已经献给世界上最壮丽的事业....."

  • 2258
    原创
  • 3
    翻译
  • 578
    转载
  • 191
    评论
  • 访问:7944842次
  • 积分:4337
  • 等级:核心会员
  • 排名:第1名
精华文章
    最新问题
    查看更多+
    热门文章
      热门用户
      推荐用户
        Copyright © 2016 All Rights Reserved. Powered by CNDBA · 皖ICP备2022006297号-1·

        QQ交流群

        注册联系QQ