知识卡片
Dryad用任务图连接计算
Dryad把工作流表示为有向无环图:顶点执行程序,边指定文件、管道或网络等数据通道。Job Manager管理任务依赖与调度,使多阶段程序不必反复套成Map、Reduce两步。与多个批作业逐次写分布式文件系统相比,灵活通道可减少中间落盘。失败重启仍须配合有效输出边界,不能把所有通道都理解成只在任务结束后才流数据。
可联系[[洗牌把相同键送往同组]]理解条件与边界。
这张卡片看不懂?
这张卡片已通过人工审查,不再接受失败反馈。
已有反馈 · 0 条
还没有人提交反馈。
在整书笔记中的位置
原书出处 · 1 处
- · 查看原书依据
每个Dryad工作流被表示为一个有向无环图。图中的每个节点表示一个要执行的程序,节点之间的边表示数据通道中数据的传输方式,其可能是文件、管道、共享内存、网络RPC等。
参考来源
- 位置:《大规模分布式存储系统:原理解析与架构实战》第13章《大数据》(来源项目book-sources;extracted/大规模分布式存储系统:原理解析与架构实战/_epub-src/OEBPS/Text/Section0001_split_003.xhtml;src-075)。
- 结论依据:原文的对应定义、执行流程或比较支撑“Dryad把工作流表示为有向无环图:顶点执行程序,边指定文件、管道或网络等数据通道。”;额外边界是基于该机制的解释,不将历史实现推广为当前产品保证。
- 原始内容:每个Dryad工作流被表示为一个有向无环图。图中的每个节点表示一个要执行的程序,节点之间的边表示数据通道中数据的传输方式,其可能是文件、管道、共享内存、网络RPC等。