知识卡片
HBase的WAL+MemStore写路径:把随机写转化为顺序写
HBase要支持随机插入删除,但底层HDFS本身更适合顺序追加而非随机写(磁盘顺序写和随机写有数量级性能差异,参见[[顺序写与zero-copy:两个磁盘/网络IO层面的优化]]中Kafka面对的同一个约束),HBase的解法是把”随机写”这个逻辑需求拆成两段物理上都是顺序写的操作:RegionServer收到一条写请求后,先把它以追加方式写入HDFS上的WAL(Write Ahead Log)——这一步只是顺序追加日志,用来保证RegionServer万一突然宕机时这条修改不会丢失;随后把数据写入内存中的MemStore(一个按key排好序的内存结构),写入MemStore后向客户端确认;此时WAL已先追加到HDFS,但MemStore尚未刷新为HFile。故障恢复依赖已写入的WAL,而非尚在内存中的数据。当MemStore积累到一定阈值后,才把里面已经排好序的数据一次性顺序刷新到HDFS,生成一个新的HFile。读取时因为最新写入的数据可能还只在内存里、旧数据在磁盘的多个HFile里,需要同时查BlockCache(读缓存)、MemStore(写缓存)和磁盘上的HFile,把结果合并后返回给用户。可迁移启发:当一个系统的语义要求”随机写”,但底层存储介质只擅长顺序写时,一个通用套路是引入”先顺序写日志保证不丢数据+内存缓冲攒批+达到阈值后一次性顺序刷盘”这三段式设计,把逻辑上的随机写在物理层面全部转换成顺序写,代价是读路径要多查几个数据源再做合并。
结构图:
flowchart LR
W["写请求"] --> WAL["1.顺序追加写WAL(HDFS)<br/>防止宕机丢数据"]
WAL --> MS["2.写入MemStore(内存,有序)<br/>WAL已写,尚未刷成HFile"]
MS -->|"达到阈值"| HF["3.整体顺序刷盘生成HFile"]
R["读请求"] --> BC["查BlockCache"]
R --> MS2["查MemStore"]
R --> HF2["查磁盘HFile(可能多个)"]
BC --> M["合并结果返回"]
MS2 --> M
HF2 --> M
这张卡片看不懂?
这张卡片的反馈已满 10 条,暂时无法继续提交。
已有反馈 · 0 / 10 条
还没有人提交反馈。
原书出处
参考来源
- 位置:《大数据技术体系详解:原理、架构与实践》第7章《分布式结构化存储系统》之"7.3 HBase基本架构"(源文件:_epub-src/OEBPS/text00051.html)
- 结论依据:原文说明"为了提到HBase写效率,避免随机写性能低下,RegionServer将所有收到的写请求暂时写入内存,之后再顺序刷新到磁盘上,进而将随机写转化成顺序写以提升性能……RegionServer收到写请求后,将写入的数据以追加的方式写入HDFS上的日志文件,该日志被称为'Write Ahead Log'……RegionServer将数据写入内存数据结构MemStore中,之后通知客户端数据写入成功……当MemStore所占内存达到一定阈值后,RegionServer会将数据顺序刷新到HDFS中",直接支撑本卡的写路径结构图与结论。
- 原始内容:由于写流程可能使得数据位于内存中或者磁盘上,因此读取数据时,需要从多个数据存放位置中寻找数据,包括读缓存BlockCache、写缓存MemStore,以及磁盘上的HFile文件(可能有多个),并将读到的数据合并在一起返回给用户。