← 返回刚才阅读的位置

知识卡片

结构图卡 · 9901.d · 生成模型:Hunyuan

DBN混合图结构

理解等级:中级

深度信念网络是一种混合图模型:顶部两层之间是无向连接(构成一个RBM),其余相邻层之间是有向连接,箭头指向数据层,且没有任何层内连接。生成样本时先在顶部两层跑若干Gibbs步,从顶部的RBM取一个样本,再对下面各层做一次自上而下的原始采样得到可见单元。这种结构也使推断与似然评估变得困难:有向层内的相消解释效应、顶部的无向配分函数,以及包含整层团的证据下界,都让精确计算不可行。DBN在历史上推动了深度学习复兴,如今更多作为特征学习器使用。

结构图:

flowchart TB
  TOP[顶层隐藏层] --- MID[次顶隐藏层]
  MID --> LOW[底层隐藏层]
  LOW --> VIS[可见层]
这张卡片看不懂?

已有反馈 · 0 条

    还没有人提交反馈。

    在整书笔记中的位置

    原书出处 · 1 处

    • 第20章 深度生成模型 · 查看原书依据

      在一般的模型中,每层的每个单元连接到每个相邻层中的每个单元(没有层内连接)。顶部两层之间的连接是无向的。而所有其他层之间的连接是有向的,箭头指向最接近数据的层。

    参考来源

    - 位置:《深度学习》第20章 深度生成模型(源文件:extracted/深度学习/_epub-src/text/part0007.html) - 结论依据:原文描述了DBN的连线方向与采样流程,并说明其推断和似然评估为何同时受有向与无向两部分困扰。 - 原始内容:在一般的模型中,每层的每个单元连接到每个相邻层中的每个单元(没有层内连接)。顶部两层之间的连接是无向的。而所有其他层之间的连接是有向的,箭头指向最接近数据的层。