原书出处
深度学习
18 第18章 直面配分函数
2010)表明,CD的更新方向不是任何函数的梯度。这使得CD可能存在永久循环的情况,但在实践中这并不是一个严重的问题。
另一个解决CD中许多问题的不同策略是,在每个梯度步骤中初始化马尔可夫链为先前梯度步骤的状态值。这个方法首先被应用数学和统计学社群发现,命名为随机最大似然 (SML)(Younes,1998),后来又在深度学习社群中以名称持续性对比散度
(PCD,或者每个更新中具有k个Gibbs步骤的PCD-k)被独立地重新发现(Tieleman,2008)。具体可以参
原书定位详情
来源:a19c7933-4eda-4176-aebd-30fe7e1ad292
正文位置:extracted/深度学习/_epub-src/text/part0006_split_001.html
EPUB SHA-256:30b05f447b47f121324499dd200696e34be257d5cd4c4b753541b42f40a94639