知识卡片

普通读书笔记卡 · 5304.a.1.b

全局引用保障流水线续跑

理解等级:高级

Workflow 的做法:主任务把日志存在全球一致的 Spanner 上,用 Chubby 选出可写的主任务;实际工作由多个数据中心的本地 Workflow 完成,工作单元进入时在全球 Workflow 插入任务引用、结束时删除,删不掉就暂停本地处理以保证正确;各地助手程序更新心跳任务,心跳过期由远端接管。发散:全局只记谁在做什么。参见[[Workflow的MVC分工]]。

这张卡片看不懂?

已有反馈 · 0 / 10 条

    还没有人提交反馈。

    在整书笔记中的位置

    原书出处 · 1 处

    • 第25章 数据处理流水线 · 查看原书依据

      因为Spanner并不是一个高吞吐量的文件系统,全球分布的Workflow系统使用一种“任务引用”和两个或多个本地运行在不同数据中心的Workflow系统来运行任务。随着任务单元经过流水线时,相对应的任务引用会被插入到全球Workflow系统中,带有标记“stage 1”,如图25-6所示。随着任务结束,任务引用将会从全球Workflow系统中删除,如图25-6中的“stage n”。如果无法从全局Workflow系统中删除任务引用,本地Workflow系统将会暂时停止,直到全球Workflow系统再次可用,以保障交易的正确性。

    参考来源

    - 位置:《SRE:Google运维解密》第25章《数据处理流水线》(源文件:`_epub-src/OEBPS/Text/0009_0016.xhtml`) - 结论依据:原文说明 Workflow 如何借 Spanner 与 Chubby、任务引用和心跳接管实现跨数据中心的业务持续性。 - 原始内容:如果无法从全局Workflow系统中删除任务引用,本地Workflow系统将会暂时停止,直到全球Workflow系统再次可用,以保障交易的正确性。