← 返回刚才阅读的位置

知识卡片

普通读书笔记卡 · 4545.i.1.b.1.a.2.a.2

哈希聚合只要求同键汇合

理解等级:中级

按A分组求B之和时,Map输出(A,B),Reduce为每个A累计B。若执行端用哈希表维护各组状态,Shuffle只需保证同键到同一任务,无须先把所有键排成顺序。少排序不改变同键汇合的要求;需要有序输出时仍须另加排序,也不能直接平均各分区的平均值。

可联系[[局部聚合须保留合并状态]]理解条件与边界。

这张卡片看不懂?

已有反馈 · 0 条

    还没有人提交反馈。

    在整书笔记中的位置

    原书出处 · 1 处

    • · 查看原书依据

      Tenzing支持基于哈希的聚合操作,首先,放松底层MapReduce框架的限制,shuffle时保证所有键相同的“键-值”对属于同一个Reduce任务,但是并不要求按照键有序排列。

    参考来源

    - 位置:《大规模分布式存储系统:原理解析与架构实战》第13章《大数据》(来源项目book-sources;extracted/大规模分布式存储系统:原理解析与架构实战/_epub-src/OEBPS/Text/Section0001_split_003.xhtml;src-075)。 - 结论依据:原文的对应定义、执行流程或比较支撑“按A分组求B之和时,Map输出(A,B),Reduce为每个A累计B。”;额外边界是基于该机制的解释,不将历史实现推广为当前产品保证。 - 原始内容:Tenzing支持基于哈希的聚合操作,首先,放松底层MapReduce框架的限制,shuffle时保证所有键相同的“键-值”对属于同一个Reduce任务,但是并不要求按照键有序排列。