知识卡片
动态计划利用运行统计
Shark的PDE由Worker收集分片大小、热点和直方图,在Master汇总后调整后续算子类型或并发。它可在掌握中间结果后选择连接方式,区别于仅依固定规则的静态计划;统计有收集成本,计划也只能在允许重规划的边界改变。
这张卡片看不懂?
这张卡片的反馈已满 10 条,暂时无法继续提交。
已有反馈 · 0 / 10 条
还没有人提交反馈。
在整书笔记中的位置
原书出处 · 1 处
- 交互式数据分析 · 查看原书依据
PDE动态收集数据表或者中间数据的统计信息,包括数据表及数据分片的大小、热点数据以及数据分片的统计直方图等信息。
参考来源
- 位置:《大数据日知录:架构与算法》第13章《交互式数据分析》(来源项目:book-sources;源文件:extracted/大数据日知录_架构与算法/_epub-src/OEBPS/text00018.html)
- 结论依据:原文在本章对动态计划利用运行统计给出的定义、机制或示例支持本卡;技术产品描述限于2014年书中版本,示例与实测区分。
- 原始内容:PDE动态收集数据表或者中间数据的统计信息,包括数据表及数据分片的大小、热点数据以及数据分片的统计直方图等信息。