知识卡片
接力赛中的直接作用建模
结构化概率模型用图描述分布:结点是随机变量,边是变量间的直接相互作用,间接作用由直接作用隐含而不显式建模。接力赛例子里 Alice、Bob、Carol 的完成时间 t0、t1、t2 看似两两相关,但已知 Bob 的完成时间后,Alice 的时间对估计 Carol 再无帮助。因此只需 t0→t1 和 t1→t2 两条边就能表达全部依赖,省掉 t0→t2 这条间接边。把时间离散成 100 个取值时,联合表需约 999999 个值,而三条条件分布表合计约 19899 个值,参数减少超过 50 倍。这个只建直接作用的思想是全章图模型的语言基础,也说明省略边为何能同时节省存储、推断与采样成本。
这张卡片看不懂?
这张卡片已通过人工审查,不再接受失败反馈。
已有反馈 · 0 条
还没有人提交反馈。
在整书笔记中的位置
原书出处 · 1 处
- 第16章 深度学习中的结构化概率模型 · 查看原书依据
如果我们已经知道了Bob的完成时间,知道Alice的完成时间对估计Carol的完成时间并无任何帮助。这意味着我们可以通过仅仅两个相互作用来建模这个接力赛。
参考来源
- 位置:《深度学习》第16章 深度学习中的结构化概率模型(源文件:extracted/深度学习/_epub-src/text/part0006_split_000.html)
- 结论依据:原文用接力赛说明给定 Bob 时间后 Alice 对 Carol 无额外帮助,只需两个相互作用即可建模,并给出参数减少 50 倍的算例。
- 原始内容:如果我们已经知道了Bob的完成时间,知道Alice的完成时间对估计Carol的完成时间并无任何帮助。这意味着我们可以通过仅仅两个相互作用来建模这个接力赛。