← 返回刚才阅读的位置

知识卡片

结构图卡 · 9901.b · 生成模型:Hunyuan

RBM二分结构

理解等级:中级

受限玻尔兹曼机在普通玻尔兹曼机上加了一条结构约束:图必须是二分的,可见层内部与隐藏层内部都不允许连接,只有跨层相连。这个限制没有牺牲堆叠成深模型的表达能力,却带来关键便利——给定一侧单元时,另一侧单元在条件上互相独立,条件分布可分解为各单元Bernoulli概率的乘积。于是虽然归一化常数Z难解,P(h|v)与P(v|h)却能以闭解计算并高效采样,使块吉布斯采样成为可能。RBM因此成为深度概率模型最常见的构建模块。

结构图:

flowchart LR
  subgraph visible[可见层]
    V1[可见单元 v1]
    V2[可见单元 v2]
  end
  subgraph hidden[隐藏层]
    H1[隐藏单元 h1]
    H2[隐藏单元 h2]
  end
  V1 --- H1
  V1 --- H2
  V2 --- H1
  V2 --- H2
这张卡片看不懂?

已有反馈 · 0 条

    还没有人提交反馈。

    在整书笔记中的位置

    原书出处 · 1 处

    参考来源

    - 位置:《深度学习》第20章 深度生成模型(源文件:extracted/深度学习/_epub-src/text/part0007.html) - 结论依据:原文说明RBM是二分无向图,并明确指出尽管P(ν)难解,两个条件分布却是因子的、计算与采样相对简单。 - 原始内容:虽然P (ν)难解,但RBM的二分图结构具有非常特殊的性质,其条件分布P (h | v )和P (v | h )是因子的,并且计算和采样是相对简单的。