知识卡片
多维预计算要控制组合膨胀
预计算不同维度和层次的组合可减少查询时聚合,但维度与粒度增多会让结果规模快速增长。应从真实查询确定需要的组合,避免穷举没有价值的结果。存储、构建时长、刷新成本和查询收益要一起权衡。
这张卡片看不懂?
这张卡片的反馈已满 10 条,暂时无法继续提交。
已有反馈 · 0 / 10 条
还没有人提交反馈。
在整书笔记中的位置
原书出处 · 1 处
- 大数据技术中台 11.4.2 多维模型分析 · 查看原书依据
然而,如果立方体的维度很多,粒度也很多,那么立方体就必须对所有的统计组合进行穷举,就会形成巨大的数据量,甚至数十倍于原始数据。因此,立方体的设计必须十分小心,必须要通过降维来降低数据量,有效抑制立方体的膨胀。
参考来源
- 位置:《架构真意企业级应用架构设计方法论与实践》第11章《大数据技术中台》“11.4.2 多维模型分析”(来源项目a19c7933-4eda-4176-aebd-30fe7e1ad292;源文件:extracted/架构真意企业级应用架构设计方法论与实践/_epub-src/EPUB/xhtml/chapter155.xhtml)。
- 结论依据:原文的具体说明支撑这一概括:预计算不同维度和层次的组合可减少查询时聚合,但维度与粒度增多会让结果规模快速增长。其余范围限定用于避免超出书内证据。
- 原始内容:然而,如果立方体的维度很多,粒度也很多,那么立方体就必须对所有的统计组合进行穷举,就会形成巨大的数据量,甚至数十倍于原始数据。因此,立方体的设计必须十分小心,必须要通过降维来降低数据量,有效抑制立方体的膨胀。