知识卡片

结构图卡 · 4545.i.1.b.1.a.2.a.1

洗牌把相同键送往同组

理解等级:中级

Map把输入转换为中间键值对,按分区函数将结果落在本地;Reduce从各Map拉取自己的分区,这个跨节点交换称为Shuffle。随后把相同键的值归组,交给Reduce函数并写出结果。分区决定数据去哪,排序或哈希归组决定怎样找到同键集合,两者不能混为一个步骤。

可联系[[局部聚合须保留合并状态]]理解条件与边界。

结构图:

flowchart TD
 A[输入分片] --> B[Map生成键值对]
 B --> C[按分区函数落本地]
 C --> D[Reduce拉取对应分区]
 D --> E[归组相同键]
 E --> F[Reduce计算并写出]
这张卡片看不懂?

已有反馈 · 0 / 10 条

    还没有人提交反馈。

    在整书笔记中的位置

    原书出处 · 1 处

    • · 查看原书依据

      Reduce进程向Map进程请求传输生成的中间结果数据。这个过程称为Shuffle。当Reduce进程获取完所有的Map任务生成的中间结果时,需要进行排序操作。

    参考来源

    - 位置:《大规模分布式存储系统:原理解析与架构实战》第13章《大数据》(来源项目book-sources;extracted/大规模分布式存储系统:原理解析与架构实战/_epub-src/OEBPS/Text/Section0001_split_003.xhtml;src-074)。 - 结论依据:原文的对应定义、执行流程或比较支撑“Map把输入转换为中间键值对,按分区函数将结果落在本地;Reduce从各Map拉取自己的分区,这个跨节点交换称为Shuffle。”;额外边界是基于该机制的解释,不将历史实现推广为当前产品保证。 - 原始内容:Reduce进程向Map进程请求传输生成的中间结果数据。这个过程称为Shuffle。当Reduce进程获取完所有的Map任务生成的中间结果时,需要进行排序操作。