返回主题:批处理作业的写法:连接、聚合与作业抽象

知识卡片

普通读书笔记卡 · 4545.i.1.b.1.a.1.b

投影去重取决于集合语义

理解等级:中级

关系代数的集合投影先选出列,再合并相同元组。映射到MapReduce时,可用整个投影结果作为键,让Reduce对每个键只输出一次。这个步骤实现的是去重语义;普通SQL查询通常保留重复行,只有要求DISTINCT等去重行为时才能直接采用,不能因“只选几列”就删掉重复结果。

可联系[[子查询改写须保留重复语义]]理解条件与边界。

这张卡片看不懂?

已有反馈 · 0 条

    还没有人提交反馈。

    在整书笔记中的位置

    原书出处 · 1 处

    • · 查看原书依据

      投影运算的处理和选择运算类似,不同的是,投影运算可能会产生多个相同的元组,因此Reduce函数必须要剔除冗余元组。

    参考来源

    - 位置:《大规模分布式存储系统:原理解析与架构实战》第13章《大数据》(来源项目book-sources;extracted/大规模分布式存储系统:原理解析与架构实战/_epub-src/OEBPS/Text/Section0001_split_003.xhtml;src-075)。 - 结论依据:原文的对应定义、执行流程或比较支撑“关系代数的集合投影先选出列,再合并相同元组。”;额外边界是基于该机制的解释,不将历史实现推广为当前产品保证。 - 原始内容:投影运算的处理和选择运算类似,不同的是,投影运算可能会产生多个相同的元组,因此Reduce函数必须要剔除冗余元组。