知识卡片
质量检查与血缘追踪互补
质量检查验证某次处理后的数据是否满足约束;血缘管理记录一个结果经过了哪些来源和处理步骤。发现异常后沿血缘追踪,可以定位最早出错的环节,而不是只重跑最后一张报表。路径越复杂,保留可追踪处理关系越重要。
这张卡片看不懂?
这张卡片已通过人工审查,不再接受失败反馈。
已有反馈 · 0 条
还没有人提交反馈。
在整书笔记中的位置
原书出处 · 1 处
- 大数据时代变革 10.3.3 数据中台的建设思路 · 查看原书依据
数据质量管理,就是通过一些测试脚本,对每次跑完的数据进行各种维度的验证,保证数据的正确性。然而,当数据出现问题时,就需要通过数据追随,查找到该数据是经过哪些数据处理过程得到的,进而跟踪是哪个处理步骤造成的数据错误。这种对数据处理过程的追踪,就是“数据血缘管理”。随着数据处理过程越来越复杂,数据处理的路径越来越长,分支越来越多,数据血缘管理对数据质量保障的作用就会越来越大。
参考来源
- 位置:《架构真意企业级应用架构设计方法论与实践》第10章《大数据时代变革》“10.3.3 数据中台的建设思路”(来源项目a19c7933-4eda-4176-aebd-30fe7e1ad292;源文件:extracted/架构真意企业级应用架构设计方法论与实践/_epub-src/EPUB/xhtml/chapter139.xhtml)。
- 结论依据:原文的具体说明支撑这一概括:质量检查验证某次处理后的数据是否满足约束;血缘管理记录一个结果经过了哪些来源和处理步骤。其余范围限定用于避免超出书内证据。
- 原始内容:数据质量管理,就是通过一些测试脚本,对每次跑完的数据进行各种维度的验证,保证数据的正确性。然而,当数据出现问题时,就需要通过数据追随,查找到该数据是经过哪些数据处理过程得到的,进而跟踪是哪个处理步骤造成的数据错误。这种对数据处理过程的追踪,就是“数据血缘管理”。随着数据处理过程越来越复杂,数据处理的路径越来越长,分支越来越多,数据血缘管理对数据质量保障的作用就会越来越大。