知识卡片
RBM的层内无连接
受限玻尔兹曼机是两层无向图模型:可见层 v(输入数据)与隐层 h,层内节点互不连接,只有可见与隐之间全连接,权值矩阵 W,另有可见偏置 b、隐偏置 c。状态 (v,h) 上定义能量函数 E(v,h),联合概率 P(v,h)=e^{-E(v,h)}/Z,Z 为配分函数,即对所有状态求和得到的归一化因子。层内无连接带来条件独立:给定 v 时各隐单元激活相互独立,P(h_j=1|v)=Sigmoid(c_j+Σ_i W_ji v_i);给定 h 时各可见单元也独立。这一性质使整层可并行采样,是 Gibbs 采样与 CD 算法高效的前提。
结构图:
flowchart LR
V1["可见单元 v1"] --- H1["隐单元 h1"]
V1 --- H2["隐单元 h2"]
V2["可见单元 v2"] --- H1
V2 --- H2
这张卡片看不懂?
这张卡片已通过人工审查,不再接受失败反馈。
已有反馈 · 0 条
还没有人提交反馈。
在整书笔记中的位置
原书出处 · 1 处
- 第6章 神经网络与深度学习 · 查看原书依据
它由可见层即输入数据层(v)与隐层(h)组成,每一层的节点之间没有连接,但可见层和隐层之间彼此互连,连接权值矩阵记为W。
参考来源
- 位置:《大数据挖掘与统计机器学习》第6章 神经网络与深度学习(源文件:extracted/大数据挖掘与统计机器学习/_epub-src/OEBPS/Text/chapter8_0002.xhtml,6.2.1 受限玻尔兹曼机)
- 结论依据:原文强调 RBM 层内无连接、层间互连,并由此推出给定一层时另一层各单元条件独立。
- 原始内容:它由可见层即输入数据层(v)与隐层(h)组成,每一层的节点之间没有连接,但可见层和隐层之间彼此互连,连接权值矩阵记为W。