知识卡片

最小预期提升决定实验的业务价值门槛

普通读书笔记卡 · 1066.d

内容

最小预期提升(MDE)是做实验前先设定的心理门槛——只有当检测到的效果差异超过这个百分比,才认为实验组方案有实际业务价值、值得全量上线。MDE不是统计上算出来的,而是业务上事先拍板的,它直接决定了后续样本量计算的输入,本质上是把”多大的提升才算有意义”这个业务判断显式化,而不是等实验做完看着数字临时拍脑袋。

参考来源

- 位置:《数据科学工程实践》第7章《如何比较两个策略的效果》"7.3 A/B实验应用步骤·估计最小预期提升"一节(源文件:_epub-src/OEBPS/Text/part0040.xhtml) - 结论依据:原文明确"最小预期提升(MDE)是指在实验前需要确定的实验预期提升的百分比,最小预期提升用于衡量一个实验到底有没有实际价值,只有当实验检测到的效果差异在MDE的标准之上时,我们才认为实验组的方案有实际价值,而最小样本量也是基于MDE计算的"。 - 原始内容:在进行A/B实验之前,我们需要建立一个心理预期,比如当实验组比对照组至少提升2%的效果时,才认为实验组的方案有实际价值,若没达到预期提升,实验组方案就不值得被采纳。最小预期提升(MDE)是指在实验前需要确定的实验预期提升的百分比,最小预期提升用于衡量一个实验到底有没有实际价值……而最小样本量也是基于MDE计算的。