知识卡片
TD目标可视为常数求导
先算一次目标,再当作固定数使用。线性估计的梯度是特征向量,更新是步长乘误差乘特征。虽然目标可能来自同一个估计器,更新时也不沿目标支路反传,因此通常称半梯度。
关联:[[同一逼近器可换训练目标]]。把一步自举的样本标签固定,只沿预测方向求导。
这张卡片看不懂?
这张卡片已通过人工审查,不再接受失败反馈。
已有反馈 · 0 条
还没有人提交反馈。
在整书笔记中的位置
原书出处 · 1 处
- 6.3.1 线性近似 · 查看原书依据
在计算梯度时它们是一个数值,对参数w的求导为0
参考来源
- 位置:《强化学习入门:从原理到实践》第6章《6.3.1 线性近似》,来源项目 book-source,`extracted/强化学习入门:从原理到实践/_epub-src/OEBPS/Text/chapter59.xhtml`,body 子元素 10
- 结论依据:原文区分当前预测关于权重的导数和更新目标的导数。
- 原始内容:在计算梯度时它们是一个数值,对参数w的求导为0