← 返回起始笔记位置

知识卡片

延伸参考卡 · 4545.j.2.c.1.b.2

Dremel逐层汇聚小结果

理解等级:中级

Dremel的查询树让叶节点并行扫描,局部结果逐层交给中间节点汇总,最终送至根节点返回。能沿树合并并缩小的汇总最合适,最终根节点仍受单机处理能力约束。MapReduce可由多个Reduce分别写出大结果,输出边界不同。书中秒级性能是历史描述,不是任意数据和查询都能达到的保证。

可联系[[扇出查询受汇总节点限制]]理解条件与边界。

这张卡片看不懂?

已有反馈 · 0 条

    还没有人提交反馈。

    在整书笔记中的位置

    原书出处 · 1 处

    • · 查看原书依据

      Dremel要求数据在向上层汇报中,是可以聚集的,也就是说,在逐级上报的过程中数据量不断变小,最终的结果不会很大,确保在一台机器能够承受的范围。

    参考来源

    - 位置:《大规模分布式存储系统:原理解析与架构实战》第13章《大数据》(来源项目book-sources;extracted/大规模分布式存储系统:原理解析与架构实战/_epub-src/OEBPS/Text/Section0001_split_003.xhtml;src-077)。 - 结论依据:原文的对应定义、执行流程或比较支撑“Dremel的查询树让叶节点并行扫描,局部结果逐层交给中间节点汇总,最终送至根节点返回。”;额外边界是基于该机制的解释,不将历史实现推广为当前产品保证。 - 原始内容:Dremel要求数据在向上层汇报中,是可以聚集的,也就是说,在逐级上报的过程中数据量不断变小,最终的结果不会很大,确保在一台机器能够承受的范围。