知识卡片
全局引用保障流水线续跑
Workflow 的做法:主任务把日志存在全球一致的 Spanner 上,用 Chubby 选出可写的主任务;实际工作由多个数据中心的本地 Workflow 完成,工作单元进入时在全球 Workflow 插入任务引用、结束时删除,删不掉就暂停本地处理以保证正确;各地助手程序更新心跳任务,心跳过期由远端接管。发散:全局只记谁在做什么。参见[[Workflow的MVC分工]]。
这张卡片看不懂?
这张卡片的反馈已满 10 条,暂时无法继续提交。
已有反馈 · 0 / 10 条
还没有人提交反馈。
在整书笔记中的位置
原书出处 · 1 处
- 第25章 数据处理流水线 · 查看原书依据
因为Spanner并不是一个高吞吐量的文件系统,全球分布的Workflow系统使用一种“任务引用”和两个或多个本地运行在不同数据中心的Workflow系统来运行任务。随着任务单元经过流水线时,相对应的任务引用会被插入到全球Workflow系统中,带有标记“stage 1”,如图25-6所示。随着任务结束,任务引用将会从全球Workflow系统中删除,如图25-6中的“stage n”。如果无法从全局Workflow系统中删除任务引用,本地Workflow系统将会暂时停止,直到全球Workflow系统再次可用,以保障交易的正确性。
参考来源
- 位置:《SRE:Google运维解密》第25章《数据处理流水线》(源文件:`_epub-src/OEBPS/Text/0009_0016.xhtml`)
- 结论依据:原文说明 Workflow 如何借 Spanner 与 Chubby、任务引用和心跳接管实现跨数据中心的业务持续性。
- 原始内容:如果无法从全局Workflow系统中删除任务引用,本地Workflow系统将会暂时停止,直到全球Workflow系统再次可用,以保障交易的正确性。