知识卡片
图模型的原始与吉布斯采样
结构化表示也简化了采样。有向模型可用原始采样:先对变量做拓扑排序,保证父结点先于子结点,再依次从各局部条件分布抽样;只要每个条件分布易采样,整体就快且简便。它的局限是只适用于有向图,且当给定的条件变量在顺序上晚于待采样变量时,需要的其实是后验分布,而这类后验通常没有显式参数化,推断代价很高,此时原始采样失效。无向模型没有天然起点,变量互相依赖形成循环依赖,通常改用吉布斯采样:反复遍历每个变量,在给定其邻居的条件下重抽样——由分离性质这等价于给定其余变量——多轮后才渐近收敛到目标分布,且很难判定何时已足够精确。
这张卡片看不懂?
这张卡片已通过人工审查,不再接受失败反馈。
已有反馈 · 0 条
还没有人提交反馈。
在整书笔记中的位置
原书出处 · 1 处
- 第16章 深度学习中的结构化概率模型 · 查看原书依据
有向图模型的一个优点是,可以通过一个简单高效的过程从模型所表示的联合分布中产生样本,这个过程被称为原始采样 (ancestral sampling)。
参考来源
- 位置:《深度学习》第16章 深度学习中的结构化概率模型(源文件:extracted/深度学习/_epub-src/text/part0006_split_001.html)
- 结论依据:原文定义原始采样依赖拓扑排序,并指出无向模型需迭代的吉布斯采样且收敛难以判定。
- 原始内容:有向图模型的一个优点是,可以通过一个简单高效的过程从模型所表示的联合分布中产生样本,这个过程被称为原始采样 (ancestral sampling)。