返回主题:批处理作业的写法:连接、聚合与作业抽象

知识卡片

普通读书笔记卡 · 4545.i.1.g.2.a

连接策略决定数据搬运

理解等级:中级

跨节点连接先解决同键记录在哪里相遇:大表双方可按连接键重新分区;较小一方的分区可在内存建哈希表,再扫描另一方匹配。有索引时也可逐条远程查找;整张小表可缓存到工作进程,供多个任务复用。选择时比较内存、网络与查询次数。重复连接键应输出两侧匹配行的全部组合,不能只配成一一对应。

可联系[[连接算法按相同键配对]]理解条件与边界。

这张卡片看不懂?

已有反馈 · 0 条

    还没有人提交反馈。

    在整书笔记中的位置

    原书出处 · 1 处

    • · 查看原书依据

      如果S(B,C)能够存放到内存中,那么,Map进程在执行map任务的过程中会将S(B,C)的所有元组缓存在本地,进一步优化执行效率。

    参考来源

    - 位置:《大规模分布式存储系统:原理解析与架构实战》第13章《大数据》(来源项目book-sources;extracted/大规模分布式存储系统:原理解析与架构实战/_epub-src/OEBPS/Text/Section0001_split_003.xhtml;src-075)。 - 结论依据:原文的对应定义、执行流程或比较支撑“跨节点连接先解决同键记录在哪里相遇:大表双方可按连接键重新分区;较小一方的分区可在内存建哈希表,再扫描另一方匹配。”;额外边界是基于该机制的解释,不将历史实现推广为当前产品保证。 - 原始内容:如果S(B,C)能够存放到内存中,那么,Map进程在执行map任务的过程中会将S(B,C)的所有元组缓存在本地,进一步优化执行效率。