知识卡片

普通读书笔记卡 · 9897.g · 生成模型:Hunyuan

图模型的原始与吉布斯采样

理解等级:中级

结构化表示也简化了采样。有向模型可用原始采样:先对变量做拓扑排序,保证父结点先于子结点,再依次从各局部条件分布抽样;只要每个条件分布易采样,整体就快且简便。它的局限是只适用于有向图,且当给定的条件变量在顺序上晚于待采样变量时,需要的其实是后验分布,而这类后验通常没有显式参数化,推断代价很高,此时原始采样失效。无向模型没有天然起点,变量互相依赖形成循环依赖,通常改用吉布斯采样:反复遍历每个变量,在给定其邻居的条件下重抽样——由分离性质这等价于给定其余变量——多轮后才渐近收敛到目标分布,且很难判定何时已足够精确。

这张卡片看不懂?

已有反馈 · 0 条

    还没有人提交反馈。

    在整书笔记中的位置

    原书出处 · 1 处

    参考来源

    - 位置:《深度学习》第16章 深度学习中的结构化概率模型(源文件:extracted/深度学习/_epub-src/text/part0006_split_001.html) - 结论依据:原文定义原始采样依赖拓扑排序,并指出无向模型需迭代的吉布斯采样且收敛难以判定。 - 原始内容:有向图模型的一个优点是,可以通过一个简单高效的过程从模型所表示的联合分布中产生样本,这个过程被称为原始采样 (ancestral sampling)。