知识卡片

普通读书笔记卡 · 2275.as.6.j.3.e

质量检查与血缘追踪互补

理解等级:中级

质量检查验证某次处理后的数据是否满足约束;血缘管理记录一个结果经过了哪些来源和处理步骤。发现异常后沿血缘追踪,可以定位最早出错的环节,而不是只重跑最后一张报表。路径越复杂,保留可追踪处理关系越重要。

这张卡片看不懂?

已有反馈 · 0 / 10 条

    还没有人提交反馈。

    在整书笔记中的位置

    原书出处 · 1 处

    • 大数据时代变革 10.3.3 数据中台的建设思路 · 查看原书依据

      数据质量管理,就是通过一些测试脚本,对每次跑完的数据进行各种维度的验证,保证数据的正确性。然而,当数据出现问题时,就需要通过数据追随,查找到该数据是经过哪些数据处理过程得到的,进而跟踪是哪个处理步骤造成的数据错误。这种对数据处理过程的追踪,就是“数据血缘管理”。随着数据处理过程越来越复杂,数据处理的路径越来越长,分支越来越多,数据血缘管理对数据质量保障的作用就会越来越大。

    参考来源

    - 位置:《架构真意企业级应用架构设计方法论与实践》第10章《大数据时代变革》“10.3.3 数据中台的建设思路”(来源项目a19c7933-4eda-4176-aebd-30fe7e1ad292;源文件:extracted/架构真意企业级应用架构设计方法论与实践/_epub-src/EPUB/xhtml/chapter139.xhtml)。 - 结论依据:原文的具体说明支撑这一概括:质量检查验证某次处理后的数据是否满足约束;血缘管理记录一个结果经过了哪些来源和处理步骤。其余范围限定用于避免超出书内证据。 - 原始内容:数据质量管理,就是通过一些测试脚本,对每次跑完的数据进行各种维度的验证,保证数据的正确性。然而,当数据出现问题时,就需要通过数据追随,查找到该数据是经过哪些数据处理过程得到的,进而跟踪是哪个处理步骤造成的数据错误。这种对数据处理过程的追踪,就是“数据血缘管理”。随着数据处理过程越来越复杂,数据处理的路径越来越长,分支越来越多,数据血缘管理对数据质量保障的作用就会越来越大。