知识卡片
RBM二分结构
受限玻尔兹曼机在普通玻尔兹曼机上加了一条结构约束:图必须是二分的,可见层内部与隐藏层内部都不允许连接,只有跨层相连。这个限制没有牺牲堆叠成深模型的表达能力,却带来关键便利——给定一侧单元时,另一侧单元在条件上互相独立,条件分布可分解为各单元Bernoulli概率的乘积。于是虽然归一化常数Z难解,P(h|v)与P(v|h)却能以闭解计算并高效采样,使块吉布斯采样成为可能。RBM因此成为深度概率模型最常见的构建模块。
结构图:
flowchart LR
subgraph visible[可见层]
V1[可见单元 v1]
V2[可见单元 v2]
end
subgraph hidden[隐藏层]
H1[隐藏单元 h1]
H2[隐藏单元 h2]
end
V1 --- H1
V1 --- H2
V2 --- H1
V2 --- H2
这张卡片看不懂?
这张卡片已通过人工审查,不再接受失败反馈。
已有反馈 · 0 条
还没有人提交反馈。
在整书笔记中的位置
原书出处 · 1 处
- 第20章 深度生成模型 · 查看原书依据
虽然P (ν)难解,但RBM的二分图结构具有非常特殊的性质,其条件分布P (h | v )和P (v | h )是因子的,并且计算和采样是相对简单的。
参考来源
- 位置:《深度学习》第20章 深度生成模型(源文件:extracted/深度学习/_epub-src/text/part0007.html)
- 结论依据:原文说明RBM是二分无向图,并明确指出尽管P(ν)难解,两个条件分布却是因子的、计算与采样相对简单。
- 原始内容:虽然P (ν)难解,但RBM的二分图结构具有非常特殊的性质,其条件分布P (h | v )和P (v | h )是因子的,并且计算和采样是相对简单的。