知识卡片

普通读书笔记卡 · 2577.h

推测执行:用"赛马"机制对冲慢任务拖后腿的风险

理解等级:未标注

分布式集群里,同一个作业的多个任务运行速度出现明显差异是常态(可能是程序bug、某台机器负载偏高、资源分布不均等原因),一旦某个任务明显掉队(比如其他任务都跑完了,它还卡在50%),整个作业的完成时间就会被这一个任务拖累——即使其余99%的任务早就结束,作业整体也必须等这最后一个任务跑完。MapReduce应对这个问题的手段是推测执行:调度器按一定规则识别出”疑似拖后腿”的任务后,不是等待或干预原任务,而是为它启动一个完全独立的备份任务,让两个任务的同一份数据同时跑,谁先跑完就用谁的结果,另一个直接被丢弃。这个机制没有去诊断或修复”为什么这个任务慢”(可能是暂时的资源争抢,也可能是永久的坏节点),而是干脆放弃诊断、直接用”再赛一次”的方式对冲这个不确定性——用一份额外的计算资源换取整体作业完成时间的确定性提升。可迁移启发:当分布式系统里某个执行单元的延迟原因难以事先诊断、且诊断成本本身可能比直接重跑一份更高时,”为疑似掉队的任务并行启动一个备份、取最先完成者的结果”这种”以计算资源换时间确定性”的策略,比试图精确判断”到底是哪里慢”更实用,代价是会浪费一部分冗余计算资源,因此通常只对少数明显异常的任务触发,而非普遍启用。

这张卡片看不懂?

已有反馈 · 0 / 10 条

    还没有人提交反馈。

    原书出处

    参考来源

    - 位置:《大数据技术体系详解:原理、架构与实践》第10章《批处理引擎MapReduce》之"10.4.3 MapReduce关键技术"(源文件:_epub-src/OEBPS/text00082.html) - 结论依据:原文说明"在分布式集群环境下,因为程序Bug、负载不均衡或者资源分布不均等原因,会造成同一个作业的多个任务之间运行速度不一致……则这些任务会拖慢作业的整体执行进度。为了避免这种情况发生,MapReduce采用了推测执行机制,它根据一定的法则推测出'拖后腿'的任务,并为这样的任务启动一个备份任务,让该任务与原始任务同时运行,最终选用最先成功运行完成任务的计算结果作为最终结果", 直接支撑本卡关于推测执行机制的结论。 - 原始内容:有些任务的运行速度可能明显慢于其他任务(比如一个作业的某个任务进度只有50%,而其他所有任务已经运行完毕),则这些任务会拖慢作业的整体执行进度。