知识卡片
推测执行处理少量拖尾任务
少数子任务异常缓慢会延长整个查询,Dremel监测执行分布,对落后任务另行调度,以更早完成的结果推进。它会增加冗余计算,需与资源竞争及重复结果处理协调。只有可安全重复的计算才适合这样执行,不能直接套到有外部副作用的写操作。
这张卡片看不懂?
这张卡片的反馈已满 10 条,暂时无法继续提交。
已有反馈 · 0 / 10 条
还没有人提交反馈。
在整书笔记中的位置
原书出处 · 1 处
- 交互式数据分析 · 查看原书依据
为了能够解决这个问题,Dremel的“查询分发器”(Query Dispatcher)负责维护子表执行时间的统计直方图数据,当发现某个线程执行时间超出平均时间较多,则将其调度到另一台机器上执行。
参考来源
- 位置:《大数据日知录:架构与算法》第13章《交互式数据分析》(来源项目:book-sources;源文件:extracted/大数据日知录_架构与算法/_epub-src/OEBPS/text00018.html)
- 结论依据:原文在本章对推测执行处理少量拖尾任务给出的定义、机制或示例支持本卡;技术产品描述限于2014年书中版本,示例与实测区分。
- 原始内容:为了能够解决这个问题,Dremel的“查询分发器”(Query Dispatcher)负责维护子表执行时间的统计直方图数据,当发现某个线程执行时间超出平均时间较多,则将其调度到另一台机器上执行。