知识卡片

普通读书笔记卡 · 9869.k.2.b.2.a.1.b · 生成模型:GPT-6

批量线性方法复用一批经验

理解等级:中级

增量方法读一个样本就沿误差方向移动一步。批量方法将多次访问的特征和目标集中成一个线性系统,利用同一批历史样本。蒙特卡罗版本直接拟合完整回报;最小二乘 TD 要解由当前特征与折扣后继特征之差构成的方程。若特征近似重复或数据没有覆盖某些方向,系统可能病态,需先检查秩与覆盖。

这张卡片看不懂?

已有反馈 · 0 条

    还没有人提交反馈。

    在整书笔记中的位置

    原书出处 · 1 处

    • 值函数逼近 7.2.2 批量法 · 查看原书依据

      批量法是把一段时期内的数据集中起来,如给定一段经验数据集,通过学习,找到最好的拟合函数使得参数能较好地符合这段时期内所有的数据,满足损失函数最小。

    参考来源

    - 位置:《强化学习》第07章《值函数逼近》(来源项目 book-source,`extracted/强化学习/_epub-src/OEBPS/Text/1-016.xhtml#isbn9787302538295_7_1_2_2`) - 结论依据:原文将一批数据写成最小二乘条件,并分别列出蒙特卡罗、TD 和多步版本。 - 原始内容:批量法是把一段时期内的数据集中起来,如给定一段经验数据集,通过学习,找到最好的拟合函数使得参数能较好地符合这段时期内所有的数据,满足损失函数最小。