知识卡片
分区裁剪减少扫描目录
按字段值将表映射到目录分区,查询条件可定位相关目录,避免扫描无关分区。它优化的是候选数据范围,不保证每个文件内部所有行都符合其他谓词。分区字段的语义与路径值需一致,过多细分也有管理成本。
这张卡片看不懂?
这张卡片的反馈已满 10 条,暂时无法继续提交。
已有反馈 · 0 / 10 条
还没有人提交反馈。
在整书笔记中的位置
原书出处 · 1 处
- 交互式数据分析 · 查看原书依据
Hive在执行这个SQL语句时只需要扫描对应目录下的数据即可,这样可以便捷地跳过大量无关的数据,极大地加快执行速度。
参考来源
- 位置:《大数据日知录:架构与算法》第13章《交互式数据分析》(来源项目:book-sources;源文件:extracted/大数据日知录_架构与算法/_epub-src/OEBPS/text00018.html)
- 结论依据:原文在本章对分区裁剪减少扫描目录给出的定义、机制或示例支持本卡;技术产品描述限于2014年书中版本,示例与实测区分。
- 原始内容:Hive在执行这个SQL语句时只需要扫描对应目录下的数据即可,这样可以便捷地跳过大量无关的数据,极大地加快执行速度。