知识卡片
马尔可夫链蒙特卡罗收敛
当目标分布来自无向的基于能量的模型,既难以直接采样也找不到低方差的重要采样分布时,可以构造一条以目标分布为平稳分布的马尔可夫链,靠反复随机更新状态来近似采样。转移算子在可数状态下写成随机矩阵,其每一列都是概率分布;Perron-Frobenius 定理保证最大特征值为 1,重复转移使其他特征值指数衰减,分布最终收敛到对应特征值 1 的平稳分布。只要正确设计转移算子(如[[吉布斯采样与块更新]]),这个平稳分布就等于目标分布。链达到均衡前的阶段叫磨合,所需步数叫混合时间,实践中无法预知也难以严格检测,只能靠样本相关性等启发式判断。均衡后的样本服从同一分布但相邻样本高度相关,因此常每隔若干步取一个样本,或并行运行多条链以换取独立性,代价是计算量与延迟都很高。
这张卡片看不懂?
这张卡片已通过人工审查,不再接受失败反馈。
已有反馈 · 0 条
还没有人提交反馈。
在整书笔记中的位置
原书出处 · 1 处
- 第17章 蒙特卡罗方法 · 查看原书依据
为了从分布p model (x )中近似采样,我们引入了一种称为马尔可夫链 (Markov Chain)的数学工具。利用马尔可夫链来进行蒙特卡罗估计的这一类算法被称为马尔可夫链蒙特卡罗 (Markov Chain Monte Carlo,MCMC)方法。
参考来源
- 位置:《深度学习》第17章 蒙特卡罗方法(源文件:extracted/深度学习/_epub-src/text/part0006_split_001.html)
- 结论依据:原文从马尔可夫链与转移分布定义出发,用随机矩阵和特征值论证收敛到平稳分布,并说明磨合、混合时间与样本相关性等实际代价。
- 原始内容:为了从分布p model (x )中近似采样,我们引入了一种称为马尔可夫链 (Markov Chain)的数学工具。利用马尔可夫链来进行蒙特卡罗估计的这一类算法被称为马尔可夫链蒙特卡罗 (Markov Chain Monte Carlo,MCMC)方法。