知识卡片

普通读书笔记卡 · 1718.b.1

故障按管道阶段恢复

理解等级:中级

HDFS管道恢复由客户端处理,但处理取决于失败阶段。新块建管道失败可以放弃该块并重新分配;追加已有块时需申请新代戳后重新建立;传输阶段需要剔除失败节点、协调剩余副本并继续。DataNode重启后把未完成写入副本标为等待恢复,并按校验结果截断异常尾部。恢复要保留已有有效数据,不能把所有错误都等价成“重新上传整个文件”。

这张卡片看不懂?

已有反馈 · 0 / 10 条

    还没有人提交反馈。

    在整书笔记中的位置

    原书出处 · 1 处

    • 开源的文件系统HDFS · 查看原书依据

      pipeline在不同阶段的错误,客户端要进行不同的处理。比如在建立pipeline阶段: ● 如果create block出错,则客户端会放弃这个block,要求NN再分配一个block。

    参考来源

    - 位置:《分布式系统与一致性》第3章《开源的文件系统HDFS》(来源项目:book-sources;源文件:extracted/分布式系统与一致性/_epub-src/OEBPS/Text/chapter7.xhtml) - 结论依据:原文的组件职责、状态变化或故障分支支撑本卡所述机制与边界;历史产品行为仅按本章语境解释。 - 原始内容:pipeline在不同阶段的错误,客户端要进行不同的处理。比如在建立pipeline阶段: ● 如果create block出错,则客户端会放弃这个block,要求NN再分配一个block。