知识卡片
演员用评判信号改策略
演员给动作分布,评判家消费转移样本来估价值。演员再根据评判信号改变动作选择。与整回合策略梯度相比,评判家可降低等待和波动,但它的拟合误差会影响演员更新。
关联:[[策略梯度给回报好的动作加权]]。评判器替代部分高方差的直接回报。
这张卡片看不懂?
这张卡片已通过人工审查,不再接受失败反馈。
已有反馈 · 0 条
还没有人提交反馈。
在整书笔记中的位置
原书出处 · 1 处
- 7.3 Actor-Critic算法 · 查看原书依据
行为价值函数充当评估者(Critic),负责评价演员的表现
参考来源
- 位置:《强化学习入门:从原理到实践》第7章《7.3 Actor-Critic算法》,来源项目 book-source,`extracted/强化学习入门:从原理到实践/_epub-src/OEBPS/Text/chapter69.xhtml`,body 子元素 2
- 结论依据:原文区分角色并说明评判家也要学习。
- 原始内容:行为价值函数充当评估者(Critic),负责评价演员的表现