知识卡片
深度网络从像素学习特征
线性逼近的基函数由使用者事先选定。前馈网络把多层变换相连,每层输出都由前面各层参数决定。因此可以把最后的隐藏输出看成一组随训练共同调整的特征。DQN 用卷积提取局部视觉信息,再输出各离散动作的长期价值。单帧可能看不出移动方向,堆叠短帧序列能加入速度线索,但仍可能遗漏较长历史。
这张卡片看不懂?
这张卡片已通过人工审查,不再接受失败反馈。
已有反馈 · 0 条
还没有人提交反馈。
在整书笔记中的位置
原书出处 · 1 处
- 值函数逼近 7.3 非线性逼近 · 查看原书依据
将al-1看成是基函数,可以看出al-1的参数为前l-2层神经网络的权值和偏置,那么基函数就是参数化的,变化的基函数比固定的基函数有更强的函数逼近能力。
参考来源
- 位置:《强化学习》第07章《值函数逼近》(来源项目 book-source,`extracted/强化学习/_epub-src/OEBPS/Text/1-016.xhtml#isbn9787302538295_7_1_3`)
- 结论依据:原文将前馈网络倒数第二层解释为参数化基函数,并用多帧输入说明图像观测的局限。
- 原始内容:将al-1看成是基函数,可以看出al-1的参数为前l-2层神经网络的权值和偏置,那么基函数就是参数化的,变化的基函数比固定的基函数有更强的函数逼近能力。