← 返回起始笔记位置

知识卡片

普通读书笔记卡 · 4545.i.1.b.1.a.2.a.1.a

备份任务缩短拖尾等待

理解等级:中级

一个作业需要等待最慢的任务,少数慢节点会延长整体时间。为长时间未完成的任务启动另一份执行,可以让较快副本先交付结果,代价是重复计算。它处理的是任务拖尾,仍需要框架选择有效输出;不能据此推断外部副作用也只会发生一次。

可联系[[洗牌把相同键送往同组]]理解条件与边界。

这张卡片看不懂?

已有反馈 · 0 条

    还没有人提交反馈。

    在整书笔记中的位置

    原书出处 · 1 处

    • · 查看原书依据

      备份任务:如果某个Map或者Reduce任务执行的时间较长,主控进程会生成一个该任务的备份并分配给另外一个空闲的Map或者Reduce进程。

    参考来源

    - 位置:《大规模分布式存储系统:原理解析与架构实战》第13章《大数据》(来源项目book-sources;extracted/大规模分布式存储系统:原理解析与架构实战/_epub-src/OEBPS/Text/Section0001_split_003.xhtml;src-074)。 - 结论依据:原文的对应定义、执行流程或比较支撑“一个作业需要等待最慢的任务,少数慢节点会延长整体时间。”;额外边界是基于该机制的解释,不将历史实现推广为当前产品保证。 - 原始内容:备份任务:如果某个Map或者Reduce任务执行的时间较长,主控进程会生成一个该任务的备份并分配给另外一个空闲的Map或者Reduce进程。