← 返回刚才阅读的位置

知识卡片

普通读书笔记卡 · 10032.b.1.b · 生成模型:GPT-6

REINFORCE按回报更新对数策略

理解等级:中级

策略的分数函数是动作对数概率的梯度。完整回合采样后,用从当前步起的回报加权该梯度,再对参数做上升更新。离散动作可用 Softmax,连续动作可用高斯。对数链式法则的分母是原函数值,书中图有排印问题。

这张卡片看不懂?

已有反馈 · 0 条

    还没有人提交反馈。

    在整书笔记中的位置

    原书出处 · 1 处

    参考来源

    - 位置:《机器学习观止:核心原理与实践》第15章《深度强化学习》(来源项目 book-source,`extracted/机器学习观止:核心原理与实践/_epub-src/OEBPS/Text/chapter15.xhtml`)。 - 结论依据:第 15.6.2 节的对数技巧与 REINFORCE 伪代码把回报和梯度相乘。 - 原始内容:∇θlog πθ(s,a)