知识卡片

全量表与增量表的取舍

专业/工作 · 1204.c

内容

画像标签表本质上有两种存储粒度:日全量表(每个日期分区存放截止当天的全量数据,查询方便,但看不出某天具体发生了什么行为细节)和日增量表(每个日期分区只存当天新增的行为数据,能看清逐日明细,但要拿到某天为止的全量结果需要额外聚合)。这跟记账类似:全量表像每天记一次总资产快照,增量表像每天只记当天收支流水——要看某天总资产得把历史流水都加起来。选哪种取决于业务查询更看重”当前状态”还是”变化过程”。计算层面对应的增量合并技巧见[[标签增量更新的全连接upsert模式]]。

参考来源

- 位置:《用户画像:方法论与工程化解决方案》第1章《用户画像基础》(源文件:_epub-src/OEBPS/text00015.html) - 结论依据:原文围绕“日全量数据表中,在每天对应的日期分区中插入截止到当天为止的全量数据,用户进行查询时,”给出定义、场景或处理方式,支撑卡片对“全量表与增量表的取舍”的概括。 - 原始内容:日全量数据表中,在每天对应的日期分区中插入截止到当天为止的全量数据,用户进行查询时,只需查询最近一天的数据即可获得最新全量数据。下面以一个具体的日全量表结构的例子来进行说明。