知识卡片
哈希聚合只要求同键汇合
按A分组求B之和时,Map输出(A,B),Reduce为每个A累计B。若执行端用哈希表维护各组状态,Shuffle只需保证同键到同一任务,无须先把所有键排成顺序。少排序不改变同键汇合的要求;需要有序输出时仍须另加排序,也不能直接平均各分区的平均值。
可联系[[局部聚合须保留合并状态]]理解条件与边界。
这张卡片看不懂?
这张卡片的反馈已满 10 条,暂时无法继续提交。
已有反馈 · 0 / 10 条
还没有人提交反馈。
在整书笔记中的位置
原书出处 · 1 处
- · 查看原书依据
Tenzing支持基于哈希的聚合操作,首先,放松底层MapReduce框架的限制,shuffle时保证所有键相同的“键-值”对属于同一个Reduce任务,但是并不要求按照键有序排列。
参考来源
- 位置:《大规模分布式存储系统:原理解析与架构实战》第13章《大数据》(来源项目book-sources;extracted/大规模分布式存储系统:原理解析与架构实战/_epub-src/OEBPS/Text/Section0001_split_003.xhtml;src-075)。
- 结论依据:原文的对应定义、执行流程或比较支撑“按A分组求B之和时,Map输出(A,B),Reduce为每个A累计B。”;额外边界是基于该机制的解释,不将历史实现推广为当前产品保证。
- 原始内容:Tenzing支持基于哈希的聚合操作,首先,放松底层MapReduce框架的限制,shuffle时保证所有键相同的“键-值”对属于同一个Reduce任务,但是并不要求按照键有序排列。