知识卡片

数据缺失的递进处理方式

专业/工作 · 1056.i

内容

处理数据缺失有四种递进的方式:先定位,定量了解哪些字段缺失、缺失比例多少,再结合业务定性判断这些字段重要不重要;如果缺失字段对分析结果影响很小(比如降维后权重很低的属性),可以选择不处理;如果字段用处不大、或者缺失记录集中在同一类样本(如80%的男性用户都没填年龄)就不适合直接删除,删除会让结论产生偏差;此时更常用的是填补——用业务常识(学生年龄推断)、同类记录的均值/中位数、专家/用户直接询问、或用同一条记录的其他字段推断。发散:这个顺序的核心判断标准始终是”缺失是否集中在某一类样本”,一旦集中,删除法就会系统性地丢失那一类人群的信息,让结论看起来完整实则是残缺的。

参考来源

《数据分析原理:6步解决业务分析难题》第3章《数据的选取对最终分析产生关键性的影响》