HBase 的存储模型是其高性能和可扩展性的核心。与传统的行式数据库不同，HBase 采用面向列族的存储，并具有多层次的分布式存储架构。下面详细解析其存储模型。

一、核心存储架构概览

HBase 存储模型从逻辑到物理的层次结构：

Table (逻辑表)
    ↓
Regions (表的水平分区，按行键范围划分)
    ↓
RegionServer (物理服务器，托管多个Region)
    ↓
Store (每个Region中对应一个列族)
    ↓
MemStore (内存写缓冲区)
    ↓
HFile (磁盘上的实际数据文件，存储在HDFS上)

二、各层次详解

1. 表与Region分区

核心机制：

• 表在物理上被水平分割为多个Region
• 每个Region包含表中一段连续的行键范围
• Region是HBase中负载均衡和分布式处理的基本单元

Region分割过程：

初始状态：
Table → 单个空Region (范围: 无界)

随着数据增长：
Table → [Region1 (-∞, "mid_key")] [Region2 ("mid_key", +∞)]

继续增长：
Table → [Region1] [Region2] [Region3] ...

Region特性：

• 每个Region被一个且仅一个RegionServer管理
• Region大小可配置（默认10GB），达到阈值时自动分裂
• Region的元信息存储在ZooKeeper中

2. Region内部结构

一个Region的内部存储结构：

Region (负责一段连续的行键范围)
├── Store 1 (对应列族CF1)
│   ├── MemStore (写缓存，内存)
│   └── HFiles (实际数据文件，HDFS)
├── Store 2 (对应列族CF2)
│   ├── MemStore
│   └── HFiles
└── WAL (Write-Ahead Log，预写日志)

重大特点：

• 一个列族对应一个Store：这是"面向列族存储"的关键
• 每个Store包含一个MemStore和多个HFile
• WAL是Region级别的，用于数据恢复

3. 写路径流程

Client写入请求
    ↓
1. 写入WAL (Write-Ahead Log)  ← 保证持久性
    ↓
2. 写入MemStore (内存缓冲区)  ← 快速响应
    ↓
3. MemStore达到阈值时触发Flush
    ↓
4. 内存数据写入新的HFile (HDFS)

写路径关键点：

• WAL优先：先写日志，再写内存，确保数据不丢失
• 批量刷写：MemStore积累到必定大小再刷写到磁盘
• 顺序写入：HDFS优化了顺序写入性能

4. MemStore机制

MemStore的作用：

• 内存中的写缓冲区
• 按照行键排序存储数据
• 在内存中对数据进行归并排序

MemStore刷写条件：

1. 内存使用达到阈值（默认128MB）
2. 整个RegionServer的MemStore总和达到阈值
3. 定期自动刷写（时间间隔配置）
4. WAL文件数量达到阈值
5. 手动触发刷写

刷写过程：

MemStore (内存中的有序数据)
    ↓ 刷写
新的HFile (磁盘上的有序文件)
    ↓
旧MemStore清空，新的写入继续

5. HFile结构

HFile是HBase实际存储数据的文件格式，存储在HDFS上。

HFile 3.0结构：

Data Blocks (多个数据块)
    ↓
Leaf Index Block (叶索引块)
    ↓
Intermediate Index Blocks (中间索引块，可选)
    ↓
Root Index Block (根索引块)
    ↓
Meta Blocks (元数据块，可选)
    ↓
Trailer (文件尾信息)
    ↓
Bloom Filter (布隆过滤器，可选)
    ↓
Data Block Index (数据块索引)

数据块结构：

KeyValue1 → KeyValue2 → ... → KeyValueN

KeyValue格式：

[Key Length] [Value Length] [Row Key] [Column Family] 
[Column Qualifier] [Timestamp] [Key Type] [Value]

示例：{rowkey: "user001", cf: "info", cq: "name", ts: 1641024000, value: "Alice"}

在磁盘存储为：

0x00 0x00 0x00 0x06 0x00 0x00 0x00 0x05  // KeyLen=6, ValueLen=5
0x75 0x73 0x65 0x72 0x30 0x30 0x31        // "user001"
0x69 0x6E 0x66 0x6F                       // "info"
0x6E 0x61 0x6D 0x65                       // "name"
0x61 0xCC 0x5B 0x00                       // Timestamp
0x04                                      // KeyType=Put
0x41 0x6C 0x69 0x63 0x65                  // "Alice"

6. 读路径流程

Client读取请求
    ↓
1. 定位RegionServer (通过.META.表)
    ↓
2. 访问BlockCache (内存缓存)
    ↓
3. 检查MemStore (内存中的未刷写数据)
    ↓
4. 如果需要，扫描HFiles
    │   ↓
    │   4.1 使用Bloom Filter快速判断是否存在
    │   ↓
    │   4.2 通过索引定位数据块
    │   ↓
    │   4.3 从HDFS读取数据块
    ↓
5. 合并MemStore和HFile中的结果
    ↓
6. 返回客户端

读优化技术：

• BlockCache：缓存热点数据块
• Bloom Filter：快速判断行键是否不存在
• 多级索引：快速定位数据块位置

7. Compaction机制

随着写入，会产生大量小HFile，Compaction是合并优化过程。

Minor Compaction (小合并)：

• 合并相邻的小HFile
• 不会删除已标记删除的数据
• 频率较高，影响较小

Major Compaction (大合并)：

• 合并Region中一个列族的所有HFile
• 删除已标记删除的数据和过期的多版本
• 频率较低，消耗较大
• 可手动触发或自动调度

Compaction过程：

多个小HFile (可能包含重复、过期数据)
    ↓ Compaction
单个大HFile (已排序、去重、清理)

三、物理存储结构示例

实际存储目录结构：

/hbase
├── data
│   ├── default                 # namespace
│   │   ├── user_table          # 表
│   │   │   ├── 0123456789abc   # Region
│   │   │   │   ├── .regioninfo
│   │   │   │   ├── .tmp
│   │   │   │   ├── info        # 列族Store目录
│   │   │   │   │   ├── 9876543210.hfile   # HFile
│   │   │   │   │   ├── 8765432109.hfile
│   │   │   │   │   └── .regioninfo
│   │   │   │   ├── contact     # 另一个列族Store
│   │   │   │   │   ├── 7654321098.hfile
│   │   │   │   │   └── .regioninfo
│   │   │   │   └── recovered.edits
│   │   │   └── abcdef012345    # 另一个Region
│   │   └── order_table
│   ├── hbase:meta             # 元数据表
│   └── hbase:namespace
├── WALs                       # 预写日志目录
│   ├── server1,16020,1234567890
│   └── server2,16020,1234567891
└── oldWALs                   # 旧的WAL文件

元数据管理

两级元数据表结构：

1. hbase:meta 表
2. 存储所有用户表的Region信息
3. 行键格式：表名,起始行键,RegionID
4. 包含：RegionServer位置、Region范围等
5. -ROOT- 表（HBase 2.x以前）
6. 指向hbase:meta表的位置
7. HBase 2.x后已移除

元数据查找流程：

Client → ZooKeeper → hbase:meta表位置 → 查找目标Region位置 → 访问RegionServer

四、关键存储特性

1. 面向列族存储的优势

• 高效的列查询：只需读取相关列族的数据
• 更好的压缩：同类型数据在一起，压缩效率高
• 灵活的列管理：可动态添加列限定符

2. 数据局部性

• 同一行数据在同一RegionServer
• 同一列族数据物理存储在一起
• Region分裂时保持数据局部性

3. 数据一致性保证

• WAL机制：确保数据不丢失
• 行级原子性：单行操作原子性保证
• Region重分配：通过WAL恢复数据

4. 数据分布策略

• 自动分区：Region按行键范围自动分裂
• 负载均衡：RegionServer间自动迁移Region
• 故障转移：RegionServer故障时Region自动重新分配

五、存储优化策略

1. 行键设计优化

// 不良设计：顺序递增，导致热点
rowkey = System.currentTimeMillis();

// 优化设计1：加盐/哈希前缀
rowkey = MD5(userId).substring(0, 4) + "_" + userId + "_" + timestamp;

// 优化设计2：时间反转
rowkey = Long.MAX_VALUE - timestamp + "_" + userId;

// 优化设计3：组合键
rowkey = regionCode + "_" + userId + "_" + reversedTimestamp;

2. 列族配置优化

<!-- hbase-site.xml 配置示例 -->
<property>
  <name>hbase.hregion.max.filesize</name>
  <value>10737418240</value>  <!-- Region最大10GB -->
</property>
<property>
  <name>hbase.hstore.blockingStoreFiles</name>
  <value>10</value>  <!-- Store中最大HFile数 -->
</property>
<property>
  <name>hbase.hstore.compactionThreshold</name>
  <value>3</value>  <!-- 触发Compaction的最小文件数 -->
</property>

3. 压缩与编码

-- 建表时指定压缩
CREATE 'user_table', 
  {NAME => 'info', COMPRESSION => 'SNAPPY', BLOOMFILTER => 'ROW'},
  {NAME => 'contact', COMPRESSION => 'GZ', DATA_BLOCK_ENCODING => 'FAST_DIFF'}

六、存储流程总结

写入数据流：

Client → RegionServer → WAL → MemStore → Flush → HFile (HDFS)

读取数据流：

Client → RegionServer → BlockCache → MemStore → HFile → Client

数据合并流：

多个小HFile → Minor Compaction → 较大HFile → Major Compaction → 优化后HFile

七、故障恢复机制

1. WAL恢复

RegionServer故障
    ↓
ZooKeeper检测
    ↓
HMaster重新分配Region
    ↓
新区RegionServer重放WAL
    ↓
恢复MemStore状态

2. 数据完整性

• HDFS副本机制：默认3副本
• Checksum验证：数据完整性检查
• Fsck工具：HBase文件系统检查

八、与HDFS的关系

HBase 存储依赖 HDFS：

HBase (计算层)
    ↓
RegionServer (内存处理、缓存、服务)
    ↓
HDFS (存储层)
    ├── 数据持久化 (HFile)
    ├── 高可用 (多副本)
    ├── 扩展性 (分布式存储)
    └── WAL存储

HBase在HDFS上的存储：

• HFile存储在 /hbase/data目录
• WAL存储在 /hbase/WALs目录
• 利用HDFS的副本机制保证数据可靠性

总结

HBase 存储模型的核心特点：

1. 层次化存储：Table → Region → Store → HFile
2. 内存+磁盘结合：MemStore + HFile 提供高性能读写
3. WAL保证：先写日志，保证数据不丢失
4. 列族分离：不同列族物理存储分离，优化查询
5. 自动分片：Region自动分裂，支持水平扩展
6. 数据合并：Compaction机制优化存储

这种存储设计使得HBase能够：

• 支持海量数据存储（PB级别）
• 提供高性能随机读写
• 实现线性水平扩展
• 保证高可用性和数据可靠性
• 适应灵活的数据模式变化