0%

HBase hbck 运维指南

HBaseFsck(hbck)是一个用于检查区域一致性和表完整性问题并修复损坏的 HBase 的工具


前言

HBaseFsck(hbck)是一个用于检查区域一致性和表完整性问题并修复损坏的HBase的工具。
它工作在两种基本模式 - 只读不一致识别模式和多阶段读写修复模式。

HBCK 现在有两个版本。HBCK2 是 HBase 2.x 系列的。

HBCK1 不适用 HBase2.x 的

HBCK1官方文档

HBCK2官方文档

因公司 HBase 集群为 1.2.0 版本的。所以这里以 hbck1 为主讲。hbck2 可以看看这个HBase指南 HBase 2.0之修复工具HBCK2运维指南

检查方面

  1. HBase Region一致性

    • 集群中所有 region 都 被 assign,而且 deploy 到唯一一台RegionServer上
    • 该 region 的状态在内存中、hbase:meta 表中以及 zookeeper 这三个地方需要保持一致
  2. HBase 表完整性

    • 对于集群中任意一张表,每个rowkey都仅能存在于一个region区间

常用检查命令

1
2
3
4
5
6
7
8
9
10
11
12
13
14
# hbck 帮助文档
./bin/hbase hbck -help

# 检查 HBase 集群是否损坏
./bin/hbase hbck

# 只检测元数据表的状态
./bin/hbase hbck -metaonly

# 使用该 -details 选项将报告更多细节,包括所有表格中所有分割的代表性列表
./bin/hbase hbck –details

# 以下命令只会尝试检查表 TableFoo 和 TableBar
./bin/hbase hbck TableFoo TableBar

在命令输出结束时,它会打印 OK 或告诉存在的 INCONSISTENCIES 数量。

Status: OK,表示没有发现不一致问题。

Status: INCONSISTENT,表示有不一致问题。

可能还想运行 hbck 几次,因为一些不一致可能是暂时的。(例如,群集正在启动或区域正在分裂)

用法整理

这里把 HBCK1 帮助文档的整理出来。整理来源作者白42的hbase hbck用法

hbase hbck [opts] {only tables}

opts通用可选项
-help 展示help信息;

-detail 展示所有Region的详情;

-timelag <秒级时间>  处理在过去的指定时间内没有发生过元数据更新的region;

-sleepBeforeRerun <秒级时间>  在执行-fix指令后时睡眠指定的时间后再检查fix是否生效;

-summary 只打印表和状态的概要信息;

-metaonly 只检查hbase:meta表的状态;

-sidelineDir <hdfs://> 备份当前的元数据到HDFS上;

-boundaries  校验META表和StoreFiles的Region边界是否一致;

元数据修复选项
在不确定的情况下,慎用以下指令。

-fix 尝试修复Region的分配,通常用于向后兼容;

-fixAssignments 尝试修复Region的分配,用来替换-fix指令;

-fixMeta  尝试修复元数据问题;这里假设HDFS上的region信息是正确的;

-noHdfsChecking  不从HDFS加载/检查Region信息;这里假设hbase:meta表中的Region信息是正确的,不会在检查或修复任何HDFS相关的问题,如黑洞(hole)、孤岛(orphan)或是重叠(overlap);

-fixHdfsHoles  尝试修复HDFS中的Region黑洞;

-fixHdfsOrphans  尝试修复hdfs中没有.regioninfo文件的region目录;

-fixTableOrphans  尝试修复hdfs中没有.tableinfo文件的table目录(只支持在线模式);

-fixHdfsOverlaps  尝试修复hdfs中region重叠的现象;

-fixVersionFile  尝试修复hdfs中hbase.version文件缺失的问题;

-maxMerge <n>  在修复region重叠的现时,允许merge最多<n>个region(默认n等于5);

-sidelineBigOverlaps  在修复region重叠问题时,允许暂时搁置重叠量较大的部分;

-maxOverlapsToSideline <n>  在修复region重叠问题时,允许一组里暂时搁置最多n个region不处理(默认n等于2);

-fixSplitParents 尝试强制将下线的split parents上线;

-ignorePreCheckPermission  在执行检查时忽略文件系统权限;

-fixReferencesFiles 尝试下线引用断开(lingering reference)的StoreFile;

-fixEmptyMetaCells  尝试修复hbase:meta表中没有引用到任何region的entry(REGIONINFO_QUALIFIER为空的行)。

Datafile修复选项
专业命令,慎用。

-checkCorruptHFiles  检查所有HFile —— 通过逐一打开所有的HFile来确定其是否可用;

-sidelineCorruptHFiles  隔离损坏的HFile。该指令中包含-checkCorruptHFiles操作。

Meta修复快捷指令
-repair  是以下指令的简写:-fixAssignments -fixMeta -fixHdfsHoles -fixHdfsOrphans -fixHdfsOverlaps -fixVersionFile -sidelineBigOverlaps -fixReferenceFiles -fixTableLocks -fixOrphanedTableZnodes;

-repairHoles  是以下指令的简写:-fixAssignments -fixMeta -fixHdfsHoles。

Table lock选项
-fixTableLocks 删除已持有超过很长时间的table lock((hbase.table.lock.expire.ms配置项,默认值为10分钟)。

Table Znode选项
-fixOrphanedTableZnodes  如果表不存在,则将其在zookeeper中ZNode状态设置为disabled。

修复

1. 局部低危修复

-fixAssignments :修复没有assign、assign不正确或者同时assign到多台RegionServer的问题region。

-fixMeta :主要修复.regioninfo文件和hbase:meta元数据表的不一致。修复的原则是以HDFS文件为准:如果region在HDFS上存在,但在hbase.meta表中不存在,就会在hbase:meta表中添加一条记录。反之如果在HDFS上不存在,而在hbase:meta表中存在,就会将hbase:meta表中对应的记录删除。

2. 高危修复

region区间overlap相关问题的修复属于高危修复操作,因为这类修复通常需要修改HDFS上的文件,有时甚至需要人工介入。

对于这类高危修复操作,建议先执行hbck -details详细了解更多的问题细节,再执行相应的修复命令

-repair|-fix 命令强烈不建议生产线使用

HBase排查 小心hbck的-repair参数

-fix 用来修复 region 级别的不一致性。

其内部的操作顺序如下:

  1. 先查是否存在不一致的。
  2. 如有表级别的不一致性,则先修复表的不一致问题。
  3. 如有region级别的不一致性,则修复该级别的问题。在修复期间region是关闭状态

案例

hbck 可以修复各种错误 https://blog.csdn.net/liliwei0213/article/details/53639275

网上很多案例。这里就不写了,以后遇到处理的。我在补回记录


参考链接