知识卡片
REINFORCE按回报更新对数策略
策略的分数函数是动作对数概率的梯度。完整回合采样后,用从当前步起的回报加权该梯度,再对参数做上升更新。离散动作可用 Softmax,连续动作可用高斯。对数链式法则的分母是原函数值,书中图有排印问题。
这张卡片看不懂?
这张卡片已通过人工审查,不再接受失败反馈。
已有反馈 · 0 条
还没有人提交反馈。
在整书笔记中的位置
原书出处 · 1 处
- 深度强化学习 · 查看原书依据
∇θlog πθ(s,a)
参考来源
- 位置:《机器学习观止:核心原理与实践》第15章《深度强化学习》(来源项目 book-source,`extracted/机器学习观止:核心原理与实践/_epub-src/OEBPS/Text/chapter15.xhtml`)。
- 结论依据:第 15.6.2 节的对数技巧与 REINFORCE 伪代码把回报和梯度相乘。
- 原始内容:∇θlog πθ(s,a)