知识卡片
经验要保留回合和转移
转移五元组可以立即用于一步更新。回合负责保持顺序并给出结束边界,适用于累计奖励和回合采样。有界经验存储可淘汰较早记录。若要同时支持整回合估计,须避免把拆断的局当作完整样本。
关联:[[状态链采样与终止]]。完整回合依赖顺序与终止位,一步更新只需转移。
这张卡片看不懂?
这张卡片已通过人工审查,不再接受失败反馈。
已有反馈 · 0 条
还没有人提交反馈。
在整书笔记中的位置
原书出处 · 1 处
- 5.7.2 状态序列的管理 · 查看原书依据
如果使用MC学习算法,则需要学习完整的序列;如果使用TD学习,则最小的学习单位是一个状态转换
参考来源
- 位置:《强化学习入门:从原理到实践》第5章《5.7.2 状态序列的管理》,来源项目 book-source,`extracted/强化学习入门:从原理到实践/_epub-src/OEBPS/Text/chapter48.xhtml`,body 子元素 3
- 结论依据:原文解释三层经验表示怎样服务不同更新单位。
- 原始内容:如果使用MC学习算法,则需要学习完整的序列;如果使用TD学习,则最小的学习单位是一个状态转换